平衡AIGC服务的安全与发展(上)——议《生成式人工智能服务管理暂行办法》对AIGC服务的监管与促进

上:
《暂行办法》立法亮点概述
《暂行办法》下对AIGC管控的基本原则
下:
《暂行办法》与其他法律的衔接
《暂行办法》下的热点问题
7月10日, 国家互联网信息办公室(“国家网信办”)连同其他六部门共同颁布了《AIGC服务管理暂行办法》(“《暂行办法》”), 该法将于8月15日正式生效。《暂行办法》在算法监管的基础上进一步规范了AIGC服务(“AIGC服务”)。《暂行办法》从4月11日其征求意见稿(“《征求意见稿》”)发布到正式颁布, 仅3个月, 如此迅速的立法进程体现了监管部门对AI技术发展的态度——重视技术发展, 但也顾及发展带来的风险。
本文以AI技术发展为锚点, 介绍《暂行办法》的立法亮点、《暂行办法》体现的监管原则、《暂行办法》与其他法律的衔接、以及《暂行办法》下有关AIGC服务监管的热点问题, 进而试探讨安全与科技发展间矛盾却共生的互动关系。
一、《暂行办法》立法亮点概述
《暂行办法》从征求意见稿到正式颁布虽然只有仅仅3个月, 但是诸多修订体现出政府对AI发展的重视, 以及试图平衡发展与安全的努力。
1. 主管机关
在主管机关方面, 与《征求意见稿》由国家网信办独家发布相比, 《暂行办法》由国家网信办与国家发展和改革委员会(“国家发改委”)、中华人民共和国教育部、中华人民共和国科技部、中华人民共和国工信部、中华人民共和国公安部以及国家广播电视总局局长联合发布。这意味着AI发展的法律规范不仅仅是出于国家网信办一家的监管, 一定程度上综合了国家发改委、科技部、工信部等部门的意愿; 不仅有这网络安全的考虑, 也兼顾统筹发展和技术进步的方针。
2. 适用范围
与《征求意见稿》相比, 《暂行办法》限缩了适用范围: (1)《暂行办法》将管辖范围限定在利用人工智能技术提供服务, 而将研发人工智能技术排除在外; (2)《暂行办法》将生成式人工智能的生成物限定在“文本、图片、声音、视频”, 而不包括代码, 也是有意排除为计算机编程目的的研究性使用; 和(3)《暂行办法》第2条还对其适用范围做出排除性规定, 即利用AIGC服务从事新闻出版、影视制作、文艺创作等活动另有规定的, 依照该等领域的规定, 实际上也是排除了为生产制作目的使用AIGC技术情形。
可见, 《暂行办法》将其管辖范围限定在直接面向一般公众的人工智能内容生成服务, 而排除为研究、生产目的的AIGC技术的应用。
3. 地域管辖
原则上, 《暂行办法》管辖在中国境内的AIGC服务。比如, 根据《暂行办法》第二条第三款, “研发、应用生成式人工智能技术但未向境内公众提供服务”的, 被明确排除出《暂行办法》的监管适用范围。
但是, 针对境外实施的, 对境内公众有影响的AIGC服务, 《暂行办法》也给出了对策。《暂行办法》第20条新增了国家网信部门对于相关机构的通知义务, 即“对来源于中华人民共和国境外向境内提供AIGC服务不符合法律、行政法规和本办法规定的, 国家网信部门应当通知有关机构采取技术措施 和其他必要措施予以处置。”该规定旨在增强对境外向境内提供AIGC服务的监管, 即对于境外实施的AIGC服务, 有损中国利益的, 可能采取断开连接、停止解析等方式, 制止其在中国的使用。
4. 鼓励创新
相比于《征求意见稿》, 《暂行办法》更鼓励AIGC多行业、多领域的创新应用以及企业、科研机构等专业机构在内容创作、资源平台建设、风险防范、规则制定的等方面开展探索和国内、国际协作。
尤其是, 《暂行办法》将《中华人民共和国科学技术进步法》(“《科技进步法》”)新增为其制定的法律依据, 即《暂行办法》将作为《科技进步法》的下位法和特别法, 体现《科技进步法》下“……促进科学技术进步, 发挥科学技术第一生产力……”的基本宗旨, 这也就为《暂行办法》从征求意见稿以监管为主的规则向正式稿监管与促进并重, 安全与发展兼顾的转变打下基础。
5. 加强个人信息保护
在个人信息保护方面, 《暂行办法》明确了AIGC服务提供者的个人信息保护责任, 细化了个人信息保护在AIGC领域的落地。比如, 《暂行办法》第11条明确要求服务提供者不得收集非必要个人信息, 同时, 新增不得非法留存能够识别使用者身份或非法向他人非法提供使用者的使用记录的要求, 本文第三部分第2条将详细展开。
此外, 《暂行办法》亦新增了对AIGC服务进行安全评估和监督检查的相关机构和人员对个人信息和隐私的保密义务, 要求其对在履行职责中知悉的个人隐私和个人信息依法予以保密, 不得泄露或者非法向他人提供。一方面, 体现出AIGC服务的监管与《个人信息保护法》下个人信息保护要求的互动, 另一方面也体现出生成式人工智能在个人信息保护领域可能涉及较高的合规风险。
6. 完善“避风港”制度
《征求意见稿》中针对违法的生产内容, 对AIGC服务提供者施以“举报-过滤”的类避风港监管原则, 也在《暂行办法》得以完善。《暂行办法》要求AIGC服务提供者“承担网络信息内容生产者责任。”但是, 在AIGC服务中, 输出的内容实际上是预设的算法和用户输入的指示的综合产物。在这种情况下, 要求AIGC服务提供者对内容承担绝对的责任是不切实际的。因此与《征求意见稿》类似, 《暂行办法》参照网络平台运营者的责任制度, 设定“避风港”机制, 即一旦AIGC服务提供者发现违法内容, 就应及时“采取停止生成、停止传输、消除等处置措施”, 并新增向有关主管部门报告的义务。
此外, 针对使用者利用AIGC服务从事违法活动的情形, 在《暂行办法》第14条的规定下, AIGC服务提供者需要向违法使用者采取警示、限制功能、暂停或者终止向其提供服务等处置措施。
由此, AIGC服务提供者负有较为积极的对违法内容的监管和审查义务。与传统避风港制度下, 平台采取措施的义务由用户通知“平台”删除违法内容作为触发, 转变为AIGC服务提供者主动向AIGC服务使用者发出警示, 这似乎意味着AIGC服务提供者需要采取技术手段和管理手段, 监控其AIGC服务的实际使用。
二、《暂行办法》下对AIGC管控的基本原则
相对于美国针对人工智能发展较为宽松的态度, 《暂行办法》更接近于欧盟的分级监管的策略, 重视人工智能发展带来的潜在安全问题, 同时兼顾发展的需要。
1. 平衡发展与安全
平衡发展与安全一直以来都是网络安全立法的关键议题。随着AIGC服务的快速发展, 在为人们的生活、工作、学习带来新机遇的同时, 也产生了传播虚假信息、侵害个人信息权益、侵犯知识产权、数据安全、算法歧视和技术垄断等问题。相比于《征求意见稿》, 《暂行办法》第3条提出“国家坚持发展和安全并重、促进创新和依法治理相结合的原则, 采取有效措施鼓励生成式人工智能创新发展。”《暂行办法》第二章单设“技术发展与治理”章节, 为AIGC的发展和安全提供具体指引, 推动AIGC基础设施和公共训练数据资源平台建设, 鼓励人工智能基础技术的自主创新, 并明确了训练数据处理活动和数据标注的要求。
OpenAI 于3月15日发布的GPT-4技术报告[1], 重燃了人们关于人工智能及其伴随风险的讨论。位于美国波士顿的生命未来研究所在一封公开信中呼吁暂停训练比GPT-4 更强大的人工智能系统至少6个月, 技术领导者(包括Elon Musk和Steve Wozniak)、著名学者(包括Yoshua Bengio和Stuart Russell)均签署了该公开信, 敦促人工智能试验研究按下暂停键。[2]公开信中提议“人工智能实验室和独立专家应该利用这个暂停, 共同制定和实施一套共享的用于超级人工智能设计和开发的安全协议。”虽然该提议的初衷是为了保障人工智能的安全性, 但我们应该预见到维持人工智能的安全性不应留给人工智能实验室和独立专家, 也不是一件可以一次性完成的事情。它需要监管机构的参与, 以协调各个方面的一致性和持续性。
在人工智能立法方面, 各个国家的监管机构以及国际组织都在做出努力并取得一定进展。
欧盟: 2019年4月发布《可信赖AI的伦理准则》; 2022年11月通过《数字市场服务法》; 2023年6月14日《人工智能法案》(草案)在欧洲议会通过, 预计2023年底生效;
美国: 2019年2月发布行政令《维护美国在人工智能领域的领导地位》; 2022年10月白宫科技政策办公室发布《人工智能权利法案蓝图》; 在州一级的层面上, 一些州已经引入了解决算法危害的立法, 包括加利福尼亚州[3]和康涅狄格州[4];
英国: 2021年9月发布《国家人工智能战略》; 2023年3月发布《人工智能白皮书》;
中国: 2017年国务院发布《新一代人工智能发展规划》; 2022年3月发布《互联网信息服务算法推荐管理规定》; 2022年11月发布《互联网信息服务深度合成管理规定》;
联合国教科文组织: 2021年发布《人工智能伦理问题建议书》;
经济合作与发展组织: 2019年发布《关于人工智能设计国际标准的建议》。
其实, 即使暂停了超级人工智能系统的开发, 一些大语言模型系统的主要风险, 如虚假信息、歧视等风险也仍然存在。AIGC最大的风险实际上并不在于其本身, 而是在于由于薄弱的或者不切合的AIGC管控导致的AIGC服务提供者以不负责任的方式开发和使用AI而造成的经济和社会损害。人工智能需要的不是发展暂停, 而是治理, 不发展是最大的不安全。
某种程度上, 《暂行办法》试图平衡人工智能的安全与发展的价值取向。不同于互联网发展之初, 相对粗放的, 缺少监管的野蛮生长状态, 在AIGC领域, 政府试图以监管促发展: 明确监管要求的基础上, 对具体的落地制度采取相对灵活的安排, 避免法律的滞后制约AIGC服务的超前发展。
2. 包容审慎和分级监管
作为平衡发展与安全的原则的具体体现, 《暂行办法》第3条提出“对AIGC服务实行包容审慎和分类分级监管”。分类分级监管在行政资源有限的情况下是高效的。它既能够集中资源管控危害性大的高风险人工智能, 又为低风险人工智能的发展和应用留出空间。
目前国内并无相应的分类分级监管规则的指引, 但是对AIGC算法的备案要求体现了分级管理的思路。即仅有具有舆论属性和社会动员能力的AIGC服务的算法才需要备案。具体见本文第三部分第3节。
此外, 欧盟的《人工智能法案》(草案)的分类分级措施可以提供参考。欧盟《人工智能法案》(草案)将人工智能系统的风险程度分为不可接受的风险、高风险、有限风险和最低风险。[5]

2023年6月14日通过的《人工智能法案》(草案)新纳入了关于 ChatGPT 和 GPT-4 等生成式人工智能系统的规则[6], 首次为其所谓的“基础模型”给出了明确的定义。“基础模型”, 指在大规模的广泛数据上进行训练, 为输出的通用性而设计, 并可以适应各种不同任务的AI系统模型, 如 ChatGPT、Bard 或 Stable Diffusion。欧盟为这些基础模型设立了(1) 所有基础模型的最低标准; (2) 高风险场景中具体应用的具体规则; (3) 人工智能价值链上的合作和信息交流规则, 即开发者、部署者和(专业)用户之间的合作和信息交流规则。根据该提案, 生成式人工智能系统的开发者(如 OpenAI)若想向欧盟用户提供其模型, 就必须遵守某些最低标准, 包括透明度义务、真实性义务及公开训练数据集中涉及版权的信息。
[1] https://cdn.openai.com/papers/gpt-4.pdf#:~:text=This%20technical%20report%20presents%20GPT-4%2C%20a%20large%20multimodal,as%20dialogue%20systems%2C%20text%20summarization%2C%20and%20machine%20translation.
[2] https://futureoflife.org/open-letter/pause-giant-ai-experiments/
[3] https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202320240AB331
[4] https://www.courant.com/2023/03/04/ct-governments-ai-use-is-already-extensive-raising-equity-and-privacy-concerns-a-proposed-bill-would-add-oversight/
[5] https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
[6] 《人工智能法案》Article 28 b