南昌网信办依法处置违规AI企业

1、南昌市网信办依法处置违规从事生成式人工智能服务企业
近日，在省委网信办的指导下，南昌市网信办依法对属地网站“阿水AI”的运营主体南昌阿水科技有限公司存在内容审核管理不严、主体责任落实不到位等问题进行处置。
经查，该企业运营的“阿水AI”网站违规生成法律法规禁止的信息，未尽内容审核的主体责任，违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等相关法律法规。
12月2日，南昌市网信办依据《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》等法律法规，对南昌阿水科技有限公司下达了《责令限期改正通知书》，责令立即关停相关服务，并对照相关法律法规开展自查整改，加强信息内容审核，健全信息内容安全管理相关制度。（来源：网信南昌）
评论：随着生成式AI服务备案企业数量的不断增加，各地网信部门针对AI企业的监督检查工作正逐步趋于常态化。不难预见，在不久的将来，相关执法案例将会越来越多。此次受到处罚的是“阿水AI”的运营主体。被约谈之后，其运营方在公众号上发布了一篇名为《被约谈了，对不起大家》的文章，文中提到此次事件的起因是“有人利用阿水AI引导生成政治敏感内容，随后截图对我们进行举报”，并且还承认其AI服务来源于OpenAI的ChatGPT4.0。然而，当我们查询阿水AI的大模型算法备案公示信息时，却未发现任何与ChatGPT有关的内容。实际上，在算法备案实践过程中，若涉及GPT服务，根本无法获得网信部门的正式审批。由此可见，该平台自行承认提供ChatGPT服务的这一行为，已然明显涉嫌违规，极有可能面临监管部门进一步深入的调查，甚至可能会遭受更为严厉的处罚。早在2024年7月，重庆网信办对于提供ChatGPT服务的企业就采取了“责令立即关停相关服务”的处罚措施。
从阿水AI的处罚事件可以看出，随着监管的常态化，AI企业必须高度重视业务合规及内容审核管理，切实落实主体责任，确保自身运营的各个环节都在法律框架内进行。否则，企业可能陷入严重的法律困境，甚至面临业务全面停摆，多年的心血与投入付诸东流的窘境。
2、复旦大学发布本科使用AI工具的六个禁止规定
近期，复旦大学发布《复旦大学关于在本科毕业论文（设计）中使用AI工具的规定（试行）》，明确提出了“六个禁止”，对人工智能（AI）工具在本科毕业论文（设计）撰写过程中的使用情况进行了详细规范。
复旦大学此次所提出的“六个禁止”，具体包括禁止使用AI工具生成或改动本科毕业论文（设计）中的原始数据以及原创性或实验性的结果图片、图像和插图；禁止直接使用AI工具生成本科毕业论文（设计）的正文文本、致谢或其他组成部分；禁止答辩委员、评审专家使用任何AI工具对学生的本科毕业论文（设计）进行评审等6项内容。这些规定内容具有一定的先锋性，同时也具有一定的“靶子”作用，为人们探讨如何规范使用AI提供了更大的讨论空间。（来源：中国科学报）
评论：AI工具在学术领域的处境颇为尴尬。它既能助力众多团队提升学术研究效率，又为不少学生的虚假创作及数据伪造提供了可乘之机。这种两面性衍生出诸多繁杂且急需解决的难题。在现行法律框架之下，针对学生借助AI实施学术不端行为的界定与惩处标准尚不够精细完备。尽管各高校陆续颁布了相关规定，例如复旦大学提出的“六个禁止”，然而当下对于AI工具生成内容的甄别方法却并不高效。究竟如何精准判定学生是运用AI从事违规创作，还是在正常学术思考及辅助性使用范畴内，依然存在显著的模糊区域。所以，那种一概而论的全面禁止性规定在执行过程中极有可能遭遇重重阻碍。我们期望学校在AI工具管理方面切勿简单地一禁了事，而是要着力探究怎样在禁止性规定的根基之上，进一步引导学生恰当地运用AI工具为论文创作提供辅助（如开展文献检索、拓展思路等应用），构建起更为行之有效的配套教育与指导机制，使学生能够在遵循学术规范的前提下，合理借助现代技术手段提升自身学术素养与研究能力。
3、加拿大多媒体联合起诉OpenAI侵犯版权
加拿大主流媒体联合起诉OpenAI侵犯版权。参与起诉的原告方包括《多伦多星报》及该集团旗下的大都会(Metroland)媒体集团、邮报集团(Postmedia)、《环球邮报》、加拿大通讯社、加拿大广播公司等在加拿大具有广泛影响的媒体。兴讼媒体指称，OpenAI“经常违反”版权和在线使用条款，从加拿大媒体上抓取大量内容，以帮助开发ChatGPT等产品。OpenAI在未获内容所有者许可或对此作出补偿的情况下，利用这些内容并从中获利。OpenAI利用其他公司的新闻报道为自己谋取商业利益的做法不符合公共利益，且是非法的。原告方要求法院判令OpenAI作出惩罚性赔偿，追缴其因使用原告媒体内容而获得的利润。OpenAI回应称，该公司的模型基于公开数据进行训练，且建立在国际版权原则之上。（来源：Solidot）
评论：OpenAI又被版权方起诉了，不过这次的战场转换为加拿大法院。从加拿大媒体起诉的事实及理由来看，其认为OpenAI“经常违反”版权和在线使用条款，未经许可抓取大量内容用于产品开发并获利，构成对著作权的侵权。这与此前OpenAI被《纽约时报》起诉的理由基本相同。OpenAI的回应则从根本上认为其没有使用原告媒体的相关内容。因此，本次诉讼的争议焦点依然将集中于OpenAI是否使用了原告媒体的内容进行训练，以及OpenAI对相关内容的使用是否具有合法性。但事实层面对权利人来说是非常难证明的，虽然加拿大法律体系内有证据开示的制度，媒体可以要求OpenAI披露其训练数据的来源、收集方式、处理过程等详细信息。但在人工智能训练数据的海量性与复杂性面前，精准地追溯与定位这些数据来源并非易事，OpenAI可能辩称其数据来源广泛且经过复杂的处理与整合，难以确定特定数据与原告媒体之间的直接关联。因此，从目前的相关信息来看，虽然OpenAI是在客场作战，加拿大媒体要想胜诉依然存在很大的难度，我们不妨保持关注及期待。
4、马斯克申请对OpenAI的禁令
特斯拉和SpaceX创始人埃隆·马斯克与OpenAI的法律战再度升级。当地时间11月29日，马斯克的代理律师向美国加州北区联邦法院提交了一份新文件，要求法院对OpenAI发出初步禁令。动议文件称，如果不对OpenAI进行限制，他们将受到不可挽回的损害。
OpenAI方面则回复媒体，这是马斯克的第四次尝试，公司认为马斯克在重复无意义的起诉，指控仍然毫无依据。
如果获得批准，这份禁令请求将会阻碍OpenAI的营利转型，并迫使公司停止与微软的合作。值得注意的是，此前英美欧监管机构曾多次调查OpenAI和微软的合作关系，但目前的结论是未构成违规垄断行为。（来源：21世纪经济报道）
评论：OpenAI是最有代表性的AI企业，但正因为它的知名度导致其不断的面临各种法律事件。除了前述加拿大主流媒体的集体诉讼案件之外，马斯克也在11月29日同日向联邦法院申请对OpenAI的禁令。马斯克本次的禁令是基于两个理由：首先其认为OpenAI通过微软的关系“不当获取竞争敏感信息”，微软公司的董事会成员Reid Hoffman同时在两家公司担任重要角色，是“微软和OpenAI董事会相互勾结”，两家公司实质上构成了未经过监管审批的企业合并，违反了美国的反垄断法律；其次其认为OpenAI与投资人签订集体抵制协议，投资人不得支持竞争对手（包括马斯克的xAI公司）。
OpenAI在2024年10月融资中，要求投资者不投资其竞争对手（如xAI）以获取投资配额，这一行为被马斯克及媒体等多方证实。这种行为可能限制竞争对手获取投资的机会，符合《谢尔曼法》关于限制贸易或商业活动的合同、组合或共谋为非法的规定，马斯克的这个诉求是有依据的。不过就“不当获取竞争敏感信息”以及“董事会勾结”的指控，仅凭董事兼任可能还不足以证明，马斯克方面可能需要进一步举证合同文本、邮件往来、财务记录等文件。而从法院角度，英美欧监管机构曾多次调查OpenAI和微软的合作关系未认定构成违规垄断行为，目前法院是否会独立做出与监管机构不同的意见依然并不明朗，整个案件的走向依然充满变数。