ChatGPT“热”背后的“冷”思考系列二：生成式AI的法律监管现状及未来趋势

观点摘要
01、我国自2021年开始加强对AI的监管，针对生成式AI特点，国家层面和地方层面陆续出台相关监管规定，明确生成式AI各方主体的义务、强调保护未成年人权益；
02、欧洲计划修改《人工智能法案》，将生成式AI列入高风险清单，但有观点认为生成式AI由于其应用场景和目的的不确定性，无法提前预判风险，应该独立评估；
03、美国缺乏针对生成式AI的立法，我们预测未来针对AI的监管会类似于数据隐私权的保护，通过州立法展开；
04、近两个月的监管案例重点关注生成式AI在知识产权、数据合规、不正当竞争和未成年人保护等方面造成的威胁，这些方面将是未来法律监管的重要领域；
05、未来监管机构可能会采用多种监管方式，并积极探索针对新兴技术的监管模式，尽可能在支持创新的同时降低科技带来的潜在风险。
在上篇文章中，我们主要介绍了ChatGPT的概念及原理、生成式AI的发展过程及主要应用领域，并对ChatGPT潜藏的法律风险进行了分析【简析ChatGPT潜藏的法律风险】。本篇文章将梳理、分析生成式AI立法现状、生成式AI监管动态以及生成式AI未来监管趋势，供读者参考。
一、国内外生成式AI立法梳理及亮点点评
（一）中国
早期阶段，为鼓励人工智能技术（以下简称“AI技术”）发展，我国在AI技术方面的立法以促进人工智能领域产业发展为主；近年来，随着AI技术的快速发展和相关应用的迅速增多，相关风险也随之凸显（例如，大数据杀熟、算法歧视等），我国相关部门从2021年开始关注算法的安全监管，并于近两年围绕生成式AI出台了多部部门规章、团体标准和指引。
2021年9月，国家互联网信息办公室（以下简称“网信办”）等九部委印发了《关于加强互联网信息服务算法综合治理的指导意见》[1]，首次明确了加快构建算法安全监管体系的要求，提出通过算法监测、算法评估、算法备案等监管方式确保算法安全。这是国家首次在算法治理领域发布指导意见，标志着前期算法野蛮生长时代的结束。
2021年12月，为治理包括生成式AI技术在内的多种算法应用出现的传播违法内容、侵害用户权益和操纵社会舆论等问题，网信办发布《互联网信息服务算法推荐管理规定》[2]，要求算法推荐服务提供者保护用户权益、履行算法备案等义务并特别强调未成年人保护，引导算法向善。
2022年6月，中国电子工业标准化技术协会发布团体标准T/CESA 1197-2022《人工智能深度合成图像系统技术规范》[3]，确立了深度合成图像（含视频）系统的框架，规定了系统技术要求，为规范深度合成图像（含视频）系统的设计、开发、测试、评估及管理等提供了有效参考。
2022年9月，深圳和上海先后出台了《深圳经济特区人工智能产业促进条例》[4]和《上海市促进人工智能产业发展条例》[5]，其中《上海市促进人工智能产业发展条例》提出通过区分不同风险等级的人工智能实行不同的管理模式理念，并提出通过设立人工智能伦理委员会深化对人工智能技术伦理、安全风险等方面的研判。虽然这些地方条例是以人工智能技术整体为规制对象，但是随着对生成式AI风险认识的不断深入，区分不同风险等级、实行清单式管理的理念可能会在生成式AI监管中率先落地。
2022年11月，在ChatGPT发布的同时，网信办出台《互联网信息服务深度合成管理规定》[6]，该规定明确了以ChatGPT为例的生成式AI应用服务提供者、技术支持者和服务使用者等各方的法定义务，是我国在生成式AI法律监管方面迈出的重要一步。（生成式AI应用各方义务清单可参考——【《互联网信息服务深度合成管理规定》解读】）
（二）欧盟
欧盟自2019年起开始关注AI算法监管和民事责任体系，近年来陆续颁布了多部和AI相关的法律，但大多都是从宏观角度对AI产品或系统进行规制。直到2021年4月，欧盟发布《人工智能法案（草案）》[7]（The Artificial Intelligence Act,以下简称“AI法案”），首次从微观角度将AI应用分为三个风险等级，即不可接受的风险、高风险和其它，其中被列入不可接受风险类别的AI应用将被完全禁止，而被列入高风险类别的AI应用需受到法律约束，其它类别的通常由于较低的风险而不被AI法案监管。
近期，由于ChatGPT的风险[8]较为突出，欧盟议员[9]认为任何没有经过人类审核的、生成内容可能对人类造成误导的生成式AI应用都应该被列入高风险类别，而深度合成的图片、声音和视频，除非属于艺术作品，否则都需要被列入高风险类别。但学术界与立法界存在不同的意见，美国西北大学和荷兰阿姆斯特丹大学的学者[10]认为，目前AI法案的高风险类别具有明确的使用情景及可预见的风险，但由于生成式AI没有确定的使用目的和清晰确定的使用情形及规模，应该区分于传统AI而被独立划分为一个风险领域监管。
虽然日新月异的科技发展会如何影响欧盟在AI领域的立法暂无法确定，但可以确定的是欧盟已认识到生成式AI可能带来的风险，并计划在其即将出台的AI法案中予以规制。
（三）美国
不同于中国和欧盟对AI技术的立法规制，美国在AI领域尚未有统一的立法，亦未启动对生成式AI应用的监管，更多依靠地方自治、行业规则和个人诉讼等方式解决生成式AI带来的问题。
在联邦层面，2022年2月出台的《算法问责法（草案）》要求公司评估影响就业、财务、住房等方面的AI应用的算法公正性。此外，美国白宫和商务部分别就AI的风险问题发布提案与指引：2022年10月美国白宫OSTP发布的《人工智能权利法案蓝图》，提出算法歧视保护原则和数据隐私原则，并指出这些底线原则都是未来针对生成式AI应用法律原则的参考；2023年1月美国商务部NIST公布的《人工智能风险管理框架》提出，从设计、开发、部署、使用各阶段的风险点来通盘考虑AI的监管规则。
在州层面，个别州已启动对AI在不同产业中应用的监管，但由于ChatGPT引发了人们对多类问题的探讨，已经影响到部分州的立法进程，例如预防AI歧视的《纽约雇佣自动决策工具法》在征求公众意见阶段由于ChatGPT引发过多的意见而推迟发布[11]。
为了鼓励科技创新，美国在AI立法方面较为谨慎，目前联邦层面尚未正式出台AI相关的立法，但随着生成式AI应用风险的凸显，美国对于AI的法律监管可能和对数据隐私的保护类似，将会优先在州层面立法。
二、生成式AI监管动态评析
由于现阶段生成式AI相关的立法相对滞后，针对生成式AI的监管主要是以隐私保护、知识产权等方面的现有法律为依据，近两个月有多起针对生成式AI应用的监管及诉讼。
2023年1月13日，三位艺术家代表提起集体诉讼，控告使用Stable Diffusion的三家公司Stability AI、Deviant Art和Midjourney未经允许使用上百位画家的作品作为训练数据构成著作权侵权[12]，认为该三家公司的应用触发了版权法、普通法下的侵权以及不正当竞争法；无独有偶，2023年2月3日，图片媒体公司Getty Images也向AI绘画公司Stability AI发起诉讼，控告后者侵犯其著作权和商标[13]。这两个案子都说明现有的AI绘画应用的商业模式不可避免地会侵犯到“人”的利益，如何保护技术创新的同时保护“人”的合法权利，是法官和整个社会需要思考的问题。
2023年2月3日，以GPT-3为核心技术的美国加州聊天机器人公司Replika因未建立年龄审核机制（在创建账号阶段仅需姓名、邮箱和性别三项信息），处理未成年人数据不符合欧盟数据保护条例（GDPR），而被意大利监管机构叫停数据处理活动并被要求在20天的时间内作出回应，否则将遭受2千万英镑或全球总营收4%的罚款[14]。Replika此次被监管处罚体现了文字生成类AI应用在未成年人保护方面的欠缺，可以预见的是，未成年人保护和数据合规问题在未来将成为生成式AI应用的监管重点。
三、生成式AI法律监管未来趋势
随着技术的发展，未来将会有越来越多的生成式AI应用涌现，作为规则制定者，各国立法部门对于一些AI带来的共性问题需要做出规定，对此我们认为：
1.未来立法可能会重点关注生成式AI应用带来的知识产权和不正当竞争问题，以保障人的创作热情；
2.在生成式AI应用的使用过程中做出内容规则审核，保障个人，尤其是未成年人的合法权益；
3.关注生成式AI应用研发和使用全流程的数据合规与网络安全问题，切实保障个人信息主体权益。
此外，即使规则制定者需要一段时间才能知道生成式AI在不同领域的用途和不良后果，未来监督者可能会同步通过多种方式对市场上的新技术应用采取监管，我们预测：
1.未来可能通过设立专门的监管机构开展研究和专门的治理行动；
2.采用约谈、上门审查、要求运营者签署承诺书、下架不合规应用等传统方式进行监管；
3.参考《国务院办公厅关于深入推荐跨部门综合监管的指导意见》[15]，通过数字赋能跨部门监管的方式对生成式AI等新兴技术进行监测和管理；
4.借鉴金融科技领域的“监管沙盒”（Regulatory Sandbox）[16]的做法，让部分取得许可的生成式AI应用公司在一定时间和有限范围内测试新兴的AI应用产品，并在这一过程中对测试项目降低准入门槛、放宽监管限制；
5.此外，未来还可能利用监管科技对生成式AI应用进行用户信息认证识别、合规数据报送等流程的监管，在模式上针对生成式AI采用事前备案审核和事后评估处罚相结合的方式监管，降低科技带来的负面影响。
[1]关于印发《关于加强互联网信息服务算法综合治理的指导意见》的通知，http://www.moe.gov.cn/jybxxgk/moe1777/moe1779/202109/t20210929568182.html，最后访问时间：2023年2月16日。
[2]互联网信息服务算法推荐管理规定，http://www.cac.gov.cn/2022-01/04/c1642894606364259.htm，最后访问时间：2023年2月16日。
[3]https://cloud.tencent.com/developer/article/2083778，最后访问时间：2023年2月16日。
[4]我国首部人工智能产业专项立法《深圳经济特区人工智能产业促进条例》正式公布，[5]http://www.sz.gov.cn/cn/xxgk/zfxxgj/zwdt/content/post10085826.html，最后访问时间：2023年2月16日。
[6]《上海市促进人工智能产业发展条例》全文公布，https://www.ssme.sh.gov.cn/public/news!loadNewsDetail.do?id=2c91c28d83647d7001837da955a60a55，最后访问时间：2023年2月16日。
[7]互联网信息服务深度合成管理规定，http://www.gov.cn/zhengce/zhengceku/2022-12/12/content5731431.htm，最后访问时间：2023年2月16日。
The AI act, https://artificialintelligenceact.eu/, 最后访问时间：2023年2月16日。
[8] ChatGPT in spotlight as EU's Breton bats for tougher AI rules，https://www.reuters.com/technology/eus-breton-warns-chatgpt-risks-ai-rules-seek-tackle-concerns-2023-02-03/，最后访问时间：2023年2月16日。
[9]AI Act: EU Parliament’s crunch time on high-risk categorisation, prohibited practices，https://www.euractiv.com/section/artificial-intelligence/news/ai-act-eu-parliaments-crunch-time-on-high-risk-categorisation-prohibited-practices/，最后访问时间：2023年2月26日。
[10] ChatGPT and the AI Act，https://policyreview.info/essay/chatgpt-and-ai-act，最后访问时间：2023年2月21日。
[11]AI bias law postponed until April 15 as unanswered questions remain，https://venturebeat.com/ai/for-nycs-new-ai-bias-law-unanswered-questions-remain/，最后访问时间：2023年2月26日。
[12]Stable Diffusion litigation，https://stablediffusionlitigation.com/，最后访问时间:2023年2月16日。
[13] https://copyrightlately.com/pdfviewer/getty-images-v-stability-ai-complaint/，最后访问时间：2023年2月16日。
[14]Replika, a ‘virtual friendship’ AI chatbot, hit with data ban in Italy over child safety，https://techcrunch.com/2023/02/03/replika-italy-data-processing-ban/，最后访问时间：2023年2月16日。
[15] 《国务院办公厅关于深入推荐跨部门综合监管的指导意见》，http://www.gov.cn/zhengce/content/2023-02/17/content5741898.htm，最后访问时间：2023年2月22日。
[16]“监管沙盒”的国际经验与中国应用——兼论我国“监管试点”与“监管沙盒”的异同，http://sf.ruc.edu.cn/21-1-11.pdf，最后访问时间：2023年2月24日。