网信办等七部门“指路”：从运营到监管，生成式AI合规何去何从？（附白皮书）

编者按：近年来，以GPT为代表的大模型技术正引领科技界掀起一场颠覆性的变革，生成式AI服务受到了业界的广泛关注。科技巨头如谷歌、华为和阿里巴巴等纷纷加入竞争。但与此同时，生成式AI的潜在风险和挑战亦引发了行业的担忧。针对生成式AI，我国目前监管重点在内容安全。今年四月发布的《生成式人工智能服务管理办法（征求意见稿）》明确了生成式AI的定义以及相关主体的合规义务，对生成式AI进行专项监管。7月13日，国家网信办等七部门正式发布了《生成式人工智能服务管理暂行办法》，明确“对生成式人工智能服务实行包容审慎和分类分级监管”。本文将尝试分析生成式AI监管的底层逻辑，从训练、运营、监管三个角度提炼合规路径，以把握生成式AI商业化合规的关键要素。

一、PART ONE 人类走向何处尝试参透生成式AI监管的底层逻辑
（一）生成式AI监管体系及规制特点
纵观各国生成式AI监管，都遵循着“以人为本”的底层逻辑，要求人类始终作为主体而不能丧失自我。
欧盟《人工智能法案》草案的目的在于，促进以人为本和值得信赖的人工智能的采用，并确保在欧盟内高度保护健康、安全、基本权利、民主和法治以及环境免受人工智能系统的有害影响，同时支持创新。该法案第4a条明确提出了适用于所有人工智能系统的一般原则，即人类主体和监督，技术稳健性和安全性，隐私和数据治理，透明度，多样性、非歧视和公平，以及社会和环境福祉等。
中国对于生成式AI的监管亦旨在引导其对人类的良性影响，并体现了保护个人发展、维护国家安全和公共利益的基本考量。我国当前已经形成“模型训练-运营管理-监管工具”的生成式AI合规监管体系：
首先，在模型训练监管层面，主要针对训练数据处理活动的合法性（数据和基础模型来源合法、不侵害知识产权、个人信息处理合法）以及训练数据的质量提升（真实性、准确性、客观性、多样性；数据标注）两方面进行监管；
其次，运营管理层面主要包括内容运营管理与通用运营管理。从内容运营管理来看，一方面，生成内容需要满足多元要求，如防反动色情暴力、防歧视等；另一方面，提供者应采取多样措施以促使生成内容合规，如输入数据和合成结果审核、生成内容标识以及对违法内容的处置、整改等。从通用运营管理来看，监管部门将从用户保护（服务透明度、未成年人防依赖沉迷、用户输入信息和使用记录保护、投诉举报受理机制等）以及用户管理（签订用户协议、引导用户理性认识和依法使用、用户违法活动处置等）两方面入手进行监管。
最后，在监管工具层面，提供者主要通过履行算法备案、安全评估、配合监督检查等义务要求以实现生成式AI服务的合规。
（二）中国生成式AI规则体系
2023年7月，国家网信办等七部委联合发布《生成式人工智能服务管理暂行办法》（“《生成式AI办法》”），将利用“生成式人工智能技术”（具有文本、图片、音频、视频等内容生成能力的模型及相关技术）提供的服务作为规制对象。
此前，国家网信办、工信部、公安部于2022年11月发布《互联网信息服务深度合成管理规定》（“《深度合成规定》”），将应用“深度合成技术”（利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术）提供的互联网信息服务作为规制对象，其在网信领域涵盖了生成式AI服务。
2021年12月，国家网信办、工信部、公安部、市监总局联合发布的《互联网信息服务算法推荐管理规定》（“《算法推荐规定》”）第2条第2款规定，“前款所称应用算法推荐技术、是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息”，因其包含生成合成类算法，故算法推荐服务又可被视为深度合成服务的上位概念。
由此可见《算法推荐规定》与《深度合成规定》及《生成式AI办法》三者之间构成“一般法与特别法”的关系，共同构成了中国生成式AI监管的规则体系。
（三）“生成”与“合成”的关系
上述规则体系中对规制对象定义的表述引发了有关“生成”与“合成”关系的争论。根据《生成式AI办法》第22条，生成式人工智能技术，是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。《深度合成规定》第23条规定，深度合成技术是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：
（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；
（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；
（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；
（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；
（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；
（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
仅就法条文义而言，“合成”包含了“生成”；但基于实践操作发现，二者亦存在一定的差异。特别是，《生成式AI办法》与《深度合成规定》具有不同的假定监管对象。《生成式AI办法》假定的监管对象为ChatGPT代表的模型应用。在应用过程中，用户对系统的输出结果不存在具体预期，系统存在一定的自主性，其规制重点在于保护用户免受系统的不良影响。而《深度合成规定》假定的监管对象为Deepfake（“深度伪造”）。在应用过程中，用户对系统的输出结果存在具体预期，系统的自主性较弱，规制重点在于约束用户滥用技术的行为。
二、PART TWO 提炼合规路径训练、运营、监管三管齐下
企业开展合规工作，需率先明确自身是否属于被监管对象。现阶段，网信办监管集中于互联网信息服务领域，服务提供者是核心的义务主体，且内容和技术服务提供者均将受到监管。
其次，企业应以文章第一部分所述生成式AI监管的底层逻辑为基础开展合规工作，除需加强如个人信息保护、知识产权保护等传统合规能力外，由于生成式AI具备较强自主性，极易对人类社会发展产生负面影响，因此企业需重点关注生成式AI监管的独特性问题，包括训练数据和基础模型来源合法、训练数据质量提升以及内容运营管理，合规具体方式可总结为“两道门（输入数据和输出结果审核）+生成内容标识+纠错能力（不当内容过滤与模型优化训练）”。
为了实现用户保护层面的“用户免受害”，以及用户管理层面的“用户不作恶”目标，企业应提供正向软性引导，同时更侧重于对用户的事后监管，即发生合规问题后积极配合相关部门对违法违规行为进行调查取证，而不应滥用正向引导权过度干预用户。
（一）模型训练
首先，企业应使用具有合法来源的数据和基础模型，即通过合法手段、而非窃取等非法方式获取数据和基础模型。其次，企业的训练数据处理活动应符合知识产权保护以及个人信息保护的义务要求。
一方面，现阶段企业在知识产权保护层面的数据处理合规义务主要集中于著作权领域，我国《著作权法》过去明确列举了十二种“合理使用”的情形，并在2020年修改时新增了“法律、行政法规规定的其他情形”这一兜底条款，但企业为训练生成式AI而使用他人作品通常无法符合“合理使用”的任一情形，如无授权则存在知识产权侵权风险。尽管我国司法实践中确偶有突破《著作权法》额外创设“合理使用”情形的特例，但在现有规则体系下，如何取得作品使用授权/避免使用作品进行训练，是相关大模型企业在目前无法回避的一个问题。
另一方面，在训练数据包含个人信息的情况下，尽管其或并不旨在对自然人进行识别，但将数据用于模型训练的行为通常仍被认为属于《个人信息保护法》所规定的“处理”，因此需征得个人同意或具备其他合法性基础（例如，依法在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息）；企业亦可选择删除训练数据集中的个人信息。
针对训练数据，企业应积极建立起有关数据采集、测评以及审核检查等一系列配套制度流程，从而为后续进行算法备案奠定基础。企业进行模型训练往往需要预训练数据和优化训练数据。模型预训练阶段一般需要海量数据，为了保障数据质量，企业在实践中可能先使用高质量的数据集训练出一个小模型，再通过该小模型来筛选数据，即只有和前述高质量数据集达到一定相似度的数据集才会通过筛查，并被用于大模型的训练。而在优化训练过程中，企业需要关注数据标注规则的准确性以及标注人员的主观中立性，尽量克服主观偏见，以提升训练数据的质量。
（二）运营管理
1.内容运营管理
当前开展生成式AI合规工作，首先应守好“两道门”，即对输入数据和合成结果进行审核，同时建立用于识别违法与不良信息的特征库；其次，开展内容标识工作，具体包括隐式标识与显式标识；最后，可以参考境内外头部企业的前沿实践，通过优化训练等方式，降低“幻觉（hallucination）”的出现频率，持续提高生成内容的准确性、可靠性。
2.通用运营管理
企业开展合规运营管理应通过管理规则、平台公约、服务协议等途径明确规定并指导用户科学理性认识和依法使用生成式AI技术。同时，亦需实质投入资源开展事后监管，企业发现用户利用生成式AI服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。
（三）监管工具
具有舆论属性或社会动员能力的互联网信息服务和相关新技术新应用是监管部门的重点关注对象。《生成式AI办法》规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《算法推荐规定》履行算法备案和变更、注销备案手续。
需要注意的是，上文所提及的大多为《生成式AI办法》这一特殊法对于生成式AI的特殊合规要求，但除此之外提供者还应当同时落实《深度合成规定》、《算法推荐规定》作为一般法所提出的通用合规要求，包括但不限于落实信息安全主体责任、建立健全用户注册、算法机制机理审核、应急处置等一般性管理制度。该等通用合规要求的落实对于企业顺利完成算法备案、安全评估有着显著影响，切不可忽视。
除此之外，提供者负有配合监督检查的义务。特别地，《生成式AI办法》对算法透明度作出要求，提供者应当根据监管部门的要求，对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。实践中建议企业留存前述相关内容的产品文档、评估报告、日志记录等，做好响应配合监督检查的准备。
三、PART THREE 商业化初体验商务合同、隐私政策所涉关键要素
（一）商务合同
当前To B模式的生成式AI服务已进入商业化落地阶段，可主要划分为公有云接入方式与私有化部署模式。就合同的具体约定事项而言，往往需要根据当事人的角色定位来为其设定相应的权利和义务。以私有化部署的微调模型为例，其往往涉及使用企业的专属数据来训练模型。站在模型提供方的角度来看，其可能会要求企业客户就其专属数据来源的合法性作出承诺；而站在企业客户的角度来看，其可能会要求模型提供方不得将该专属数据用于其他用途。
（二）隐私政策
企业为了提供生成式AI服务而收集的个人信息实则较为有限，在如此背景之下，生成式AI服务的隐私政策并不存在特殊的困难点，也不会比常见的App隐私政策更为复杂。
首先需要关注的是告知条款，以此告知用户收集数据的目的、方式、种类等，其中较为重要的是说明所收集数据（包括用户输入的大量信息）是否会被用于模型训练。其次需要关注合法性基础，收集用户个人信息通常需要获得同意或者具备其他合法性基础，企业应在条款中对合法性基础作出明确说明。再次需要关注个人权利的行使保障，如删除权、更正权，当用户发现有关于个人的一些错误信息时，可以向服务提供方要求更正，或者直接要求删除。最后，在对外提供个人信息时，应当遵守《个人信息保护法》等适用法律的要求，不得非法向他人提供用户的输入信息和使用记录。
（三）免责条款
通常而言，生成式AI合同仍需设置必要的免责条款，但需以企业积极开展前文所述的生成式AI合规管理行为（如内容标识、提升训练数据质量等）为前提。即只有在企业积极开展合规体系建设、采取有效措施落实合规要求的前提下，合同中的免责条款才可能会发挥作用。