引言
AI+在人类社会的融合延展势不可挡，AI带来的社会和法治问题不得不防。在这一背景下，如何在把握AI发展趋势、开发AI价值的同时完善对AI的监管措施，成为各国监管部门所面临的关键问题。本文谨对当前AI产业的发展及监管措施、监管方向进行分析，以便从业者进一步把握市场趋势及政策动向。由于篇幅较长，现分上、下两篇刊出。本篇为下篇，上篇详见《全球发展与监管的量子纠缠：人工智能的产业实现和合规之路（上）》。
三、当前监管措施
通过上述对于中美两国法院的司法实践案例列举，不难看出，在AI这一新兴领域，有诸多技术及理念问题有进一步改进与明确的空间。而上述AI产业有关的国内外实务案例，仅是众多涉AI知识产权纠纷的冰山一角，伴随着AI技术的不断更新迭代，AI生成内容带来的知识产权争议数目，也呈现出上升的态势。
就规管端而言，立法往往存在着滞后性，也即法律的架构往往慢于AI发展的速度，世界各国对AI生成内容法律规制的探索，大多处于起步阶段。从上述案例不难看出，美国的判例更注重整个AI介入全流程的权属分阶段的拆解，认为每一个主要的贡献者即语料、模型算法和利用者皆有着不同程度的贡献，应当享有各自部分的权益。而中国法院的判例侧重于结果层面的审查判断，也即更注重对最后生成产品的权属认定。笔者认为，从法理的公平原则和监管的角度出发，若能够辨识参与贡献者，一定程度揭开AI黑盒，那么AI 产品的权益进行分层分阶段界定更为科学合理与有效。我们也不难看出，不断出台的法律法规也印证了立法的态度和需求。
- 中国
中国的监管机构自2021年以来，加强了对人工智能领域的监管，并相继颁布了多项重要的部门规定。其中包括《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》和《生成式人工智能服务管理暂行办法》。这些规定为中国境内的生成式人工智能服务提供了具体的管理框架。特别值得关注的是2023年8月15日正式生效的《生成式人工智能服务管理暂行办法》，第四条要求“提供和使用生成式人工智能服务应当……尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为”。第七条则要求提供者“使用具有合法来源的数据和基础模型、涉及知识产权的，不得侵害他人依法享有的知识产权……”。该法规详细规定了服务提供者在生成式人工智能服务中的责任和义务，并明确了对内容权利的保护和归属，这一法规的实施将有助于确保AI生成内容的权利归属和合法流通。
2023年8月7日，全国信息安全标准化技术委员会对《生成式人工智能服务安全基本要求》公开征求意见，并于2023年10月11日公开该文件的征求意见稿；在《生成式人工智能服务管理暂行办法》“尊重和保护知识产权”“尊重个人信息”等要求的基础上，《征求意见稿》则给出了更为具体的执行标准，包括设置语料以及生成内容的知识产权负责人、建立知识产权管理策略、由专人对语料中的知识产权侵权情况进行识别、建立知识产权问题的投诉举报以及处理渠道、向使用者告知生成内容使用时的知识产权相关风险等等，对比之前的一般性立法有了显著的进步；《征求意见稿》在保障语料内容合乎知识产权保护方面，给出了“事前-事中-事后”比较全面的安全要求。
“事前措施”要求设置语料以及生成内容的知识产权负责人，并建立知识产权管理策略，知识产权相关负责人等应对语料中的知识产权侵权情况进行分类识别，避免使用有侵权问题的语料进行训练等；“事中措施”要求用户服务协议中，向使用者告知生成内容使用时的知识产权相关风险，并与使用者约定关于知识产权问题识别的责任与义务；并要求公开训练语料中涉及知识产权部分的摘要信息等；“事后措施”要求建立知识产权问题的投诉举报以及处理渠道，且在投诉举报渠道中支持第三方就语料使用情况以及相关知识产权情况进行查询。
上述条款要求训练数据有合法来源，不能侵权他人知识产权。那么，通过纽约时报与OPENAI的争端联想，将这部分受著作权保护的作品用于人工智能模型的训练，是否构成对作品的合理使用？是否需要获得权利人的明确授权？这是一个值得关注的问题。
就国内的现行法律来说，我国于2021年9月1日颁布《中华人民共和国数据安全法》第32条对数据安全获取和使用作出规定，要求“任何组织、个人收集数据，应当采取合法、正当的方式，不得窃取或者以其他非法方式获取数据。法律、行政法规对收集、使用数据的目的、范围有规定的，应当在法律、行政法规规定的目的和范围内收集、使用数据”。《著作权法》第24条对合理使用作了规定，其中或可适用于生成式人工智能的情形主要有“个人使用”、“适当引用”、“科学研究”三种情形。但生成式人工智能模型的开发系基于一定的商业模式和商业目的，属于向不特定主体提供的商业性服务，较难以符合“个人使用”，也不符合“介绍、评论某一作品或者说明某一问题”的“适当引用”情形。虽然，生成式人工智能在某种程度上可以看作是“科学研究”，但“少量复制”和“供教学或科研使用”的目的限制也不符合大语言模型训练的基本逻辑，带来适用困境。
此外，另一个亟待明确的法律问题则是，内容生成阶段，AI生成内容是否具有知识产权？如有，相关权利属于谁？结合前述北京互联网法院的案例可以看出，至少在现阶段，我国司法裁判倾向于 AI 生成内容可以产生知识产权，权利人即为生成提示词的输入人；但是，必须注意，从5年前的(2019)京73民终2030号“北京菲林律师事务所诉北京百度网讯科技有限公司侵害作品著作权案”[15]中或可看出一些不一样的裁判方向。在菲林诉百度案中，法院提出，涉案的分析报告生成过程有两个环节有自然人作为主体参与，一是软件开发环节，二是软件使用环节。软件研发者显然与分析报告的创作无关；软件的使用者仅在操作界面提交了关键词进行搜索，这种行为没有传递软件使用者思想、感情的独创性表达，就不宜认定为使用者创作完成。在本案中，法院明确了计算机软件智能生成内容不构成作品，软件研发者和使用者也不应具有作者身份和相应的署名权。案件裁判理由的关键点在于，如何认识人工智能生成的结果，以及生成过程中人为干预控制的程度。可见北京互联网法院的案例虽然具有开创性与代表性，但学界对此问题尚未形成定论。 - 美国
在美国方面，美国作为AIGC的技术策源地，其知识产权局(USPTO)和版权局(USCO)虽已发布相关指引，但实务操作中仍面临诸多挑战。USPTO在2024 年4月11日发布的《美国专利和商标局在实践中使用基于人工智能的工具的指南》（Guidance on Use of Artificial Intelligence-Based Tools in Practice Before the United States Patent and Trademark Office）中，认可了AI技术在专利申请、商标注册、上诉委员会事务等方面的应用前景，但同时强调有必要通过技术和人为治理等方式控制AI使用可能带来的风险。[16]
在专利申请方面，USPTO要求申请人说明AI所起的具体作用，并明确人类发明人的身份，这体现了其将人的智力活动视为专利权认定的核心要素。而在版权领域，美国版权局则更加强调人类作者身份的重要性。此前该机构曾拒绝为一幅AI生成的图像进行版权登记，理由是版权法只保护人类智力创作。这一裁决虽后因申请人诉讼被撤销，但仍反映出版权局对AI生成作品持谨慎态度。
USPTO指南还特别提及了AI工具在文件起草中的使用。指南认为，利用AI辅助起草专利申请文件、法律文书等并无禁止，但签署和提交这些文件的个人有义务对其内容进行审查，并确保其符合相关规定。在保密性和国家安全方面，USPTO提出明确要求，律师和申请人应当评估使用AI工具处理发明信息可能带来的数据泄露和跨境传输风险，以免违反保密义务和出口管制规定。
整体而言，USPTO的指导意见体现了美国在AI治理问题上采取的相对开放和包容的立场，在鼓励创新和维护公共利益之间寻求平衡。但同时，AI技术的发展也给现有知识产权规则带来了挑战。例如在判断AI生成内容的可专利性和可版权性时，如何合理界定人机协作的边界，将是一个亟待破解的难题。由此可见，在监管路径和趋势方面，美国更注重人工智能系统的性能和创新。与欧洲不同，在美国，未来可能不太可能出台细节性、全国性人工智能法案，而更可能专注于较少引发争议的人工智能领域，比如关注儿童安全和资助人工智能研究的方向。监管路径更倾向于通过自律、行业准则等方式解决相关安全风险。一些非营利组织积极推动人工智能系统公平性和透明性的研究，他们提供了工具和指导方针，以降低算法歧视的风险。与此同时，美国政府在生成式人工智能相关产品的进出口管制方面呈现出明显的趋势。这种监管路径和趋势表明美国对人工智能的监管更倾向于以自律和行业准则为基础，而非立即采取广泛的国家立法。可以说，美国的立法路径更加倾向于自律和行业准则，监管较为松散。 - 欧盟
在欧盟方面，最新的《人工智能法》草案中规定了针对生成式人工智能的监管原则和合规要求。根据欧洲议会于2023年12月19日更新的《法案》公告，《法案》的首要目的是确保欧盟使用的人工智能系统安全、透明、可追溯、非歧视和环境友好，人工智能系统应该由人工而非机械来监督，以防止产生有害结果。[17]《法案》正式文本已于2024年3月13日经欧洲议会表决通过。[18]
《法案》的大部分内容都是针对高风险人工智能系统“全生命周期”的监管规定。小部分内容针对有限风险人工智能的规制，有限风险人工智能受较轻的透明度义务约束：开发者和部署者必须确保最终用户意识到他们正在与人工智能进行互动（例如聊天机器人和 DeepFake深度伪造内容）。极小风险的人工智能系统不受监管（包括目前在欧盟单一市场上可用的大多数人工智能应用，如人工智能视频游戏和垃圾邮件过滤器）。高风险人工智能系统的提供者（开发者）在《法案》中承担着主要义务，无论其位于欧盟内部还是第三国。[19]
此外，根据欧盟的“数字战略”，法案也将适用于在欧盟市场销售或使用高风险人工智能系统的个人或公司，以及第三国提供商的高风险人工智能系统输出在欧盟中使用的情况。此外，通用目的人工智能（GPAI）模型提供者需提供技术文档、使用说明，遵 守版权指令，并公布训练内容摘要。对于存在系统性风险的GPAI模型提供者，无论其开放或封闭，还需要进行模型评估、对抗性测试，跟踪和报告严重事件，并确保网络安全保护。[20]
《法案》的通过显示出欧盟在科技监管方面的决心，在致力于建立完整系统的监管框架方面走在世界前列。对于人工智能产业来说，《法案》的通过提高了行业的规范性和透明度。通过划分风险等级明确了监管标准和要求。然而，不得不承认的是，人工智能领域的发展迅猛，法律法规无法及时跟进，监管滞后已是现实。其次，欧盟虽一直以来在数字领域立法领先，但过度监管可能增加企业成本，造成企业不敢创新或创新外移的现象。此外，《法案》的广泛管辖范围和严格执行措施给欧盟企业带来了不小的合规成本。但这一举措旨在确保人工智能技术的发展与应用符合公众利益，促进人工智能的健康发展与社会责任；在历时两年有余的《人工智能法》草案的提出和修订中，尽管草案修订稿对创新发展的考量增多，但总体而言，欧盟对人工智能的监管仍非常严苛。这表明欧盟致力于确保人工智能技术的合法性和社会责任性。
在执法方面，欧盟成员国如意大利、法国、西班牙等已对ChatGPT等人工智能技术展开调查。这体现了欧盟对于维护公民权利和数据隐私的重视，也凸显了对人工智能合规性的严格要求。这种立场反映了对于新兴技术在影响社会生活方方面面的关切，强调了科技发展应当以公共利益和个人权益为前提，确保其应用和发展符合道德和法律规范。在监管方面，欧盟虽然没有专门针对人工智能的独立监管机构，但要求各成员国指定一个或多个主管机构负责监督《人工智能法》的应用和实施。
四、未来AI产业的合规方向 - 监管框架的进一步完善
通过中国、美国、欧盟当前监管政策的对比可以看出，各主要法域对AI类产品的监管主要集中于语料库的知识产权、数据标注方式、生成内容的知识产权、隐私安全保障等，只是采取的监管措施侧重点与政治导向不同。
我国因与美国、欧盟等地的司法环境差异较大，对 AIGC产业的发展也有不同的政策规划，相互借鉴的空间较为有限。我国监管部门对AI的监管要求是较为明确的，互联网信息办公室在《生成式人工智能服务管理暂行办法》的专家解读稿中曾明确，我国AI产业发展有“三条底线”，一是不得生成违法内容、二是防止歧视、三是尊重知识产权和他人合法权益。[21]《生成式人工智能服务安全基本要求》则是对上述三条底线的进一步回应，对语料来源安全、语料标注安全、标注人员要求、知识产权与个人信息保护做了进一步精细化的规定。
可以肯定，我国未来对AI产业的监管也必然会围绕以上三点逐一展开，未来的立法很有可能会对AI生成作品的知识产权、AI语料来源的知识产权、AI语料标注人员的资质方面做进一步的规定，相关从业者应时刻关注监管动向，及时做好AI产业的合规准备。 - AI与区块链、Depin、人才培养等多领域的协同效应
除此之外，无论是在产业和监管方面，还是在新技术与人才培养方面，未来极有可能会出现AI产业与多领域的协同和融合。
在实时数据处理方面，边缘智能“将人工智能算法和模型部署到边缘设备上进行实时数据处理和智能决策，使边缘设备具备更强的智能化能力”，从而提升用户体验和满意度。”（例如，在智能家居领域，AI技术可以根据用户的习惯和喜好智能调节家居设备，提供更加舒适和智能化的生活体验。）
在数据安全与隐私保护方面，AI与分布式区块链的协同发展既能够保证这个资料提供学习者的这种共享，又能够保证个人的这种隐私安全。
在生态系统发展与创新应用方面，AI与边缘智能化的协同作用“将促进生态系统的发展和创新应用的涌现，推动更多行业和领域实现AI+的普及和应用。”（例如，在交通管理领域，AI技术可以与边缘智能化结合，实现交通信号灯根据实时路况的智能优化，提高交通效率和安全性。）
在人才培养领域，需要充分发展AI产业产、学、研的深度融合。
第一，需要跨行业、综合类的人才，推动跨学科教育，让学生在计算机科学、数据科学、商业、人工智能伦理等领域都有所涉猎，培养综合素质；
第二，需要为学生提供行业导师，帮助他们了解行业发展趋势，指导他们职业规划和技能提升；
第三，需要关注人工智能伦理和社会责任，强调人工智能伦理和社会责任意识的培养，让学生不仅具备技术能力，还要具备良好的道德和社会责任感；
第四，需要鼓励创新和实验精神，对于AI产业的发展需要报以兼容并包的态度，给予AI产业更高的容错度，培养人才与企业的创新意识和实验精神，激发全社会对AI行业的热情。
[15] 来源：https://www.ncac.gov.cn/chinacopyright/contents/12222/348152.shtml 最后访问时间：2024年5月15日
[16] 来源：https://www.federalregister.gov/documents/2024/04/11/2024-07629/guidance-on-use-of-artificial-intelligence-based-tools-in-practice-before-the-united-states-patent 最后访问时间：2024年5月15日
[17] 来源：https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence 最后访问时间：2024年5月15日
[18] 来源：https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law 最后访问时间：2024年5月15日
[19] 来源：https://artificialintelligenceact.eu/ai-act-explorer/ 最后访问时间：2024 年5月15日
[20] 来源：https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai 最后访问时间：2024年5月15日
[21] 来源：https://www.cac.gov.cn/2023-07/13/c_1690898363806525.htm 最后访问时间：2024 年5月15日