深度解读《生成式人工智能服务管理暂行办法》

近日，网信办、发改委、教育部、科技部、工信部、公安部、广电总局等七部委联合发布《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》），本团队基于对《暂行办法》的深度研读，形成本解读文章。
一、核心条款深度解读
第二条利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务或AIGC服务），适用本办法。
国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。
行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。
【解读】本条规定了《生成式人工智能服务管理暂行办法》的适用范围。
本条明确《暂行办法》的适用范围限于“向境内公众提供服务”，具体要点如下：
一、不论提供者是否为境内组织、个人，只要满足“向境内公众提供服务”的条件即受本办法规制。
二、服务提供者与技术支持者均应构成本办法规定的服务提供者。与《互联网信息服务深度合成管理规定》不同，本办法未明确区分服务提供者与技术支持者，但《暂行办法》第二十二条规定，提供者包括通过提供可编程接口等方式提供服务的组织和个人，因此，本办法所规定的提供者应包括技术支持者。
三、向中国境外提供服务、向中国境内但不面向公众提供服务的提供者不受本法规制。本条第三款明确，未向境内公众提供服务，仅研发、应用生成式人工智能技术，不在本办法的适用范围之内。
第三条国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。
第十六条网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。
国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引。
【解读】第三条规定国家鼓励生成式人工智能发展的原则以及对其监管规则。第十六条明确生成式人工智能服务的监管机构及其职责。
国家对于生成式人工智能采用分类分级监管的模式，具体的分类分级监管规则或指引由本办法明确规定的网信、科技、教育、广播电视等部门进行制定。此规制方式可能对欧盟《人工智能法案》进行了一定借鉴，《人工智能法案》对AIGC技术采取了四类风险分级，对于被评估为“不可接受的风险”的AIGC技术将被严禁使用；对于被评估为“高风险”的AIGC技术，法案规定了其从入市前到入市后整个生命周期的风险管理措施；对于被评估为“有限风险”的AIGC技术，因其运用会产生透明度问题，因此需要履行特殊的披露义务；对于被评估为“最低风险”的AIGC技术，法案对其不设置干预和审查制度。在具体的分类分级监管规则出台前，AIGC企业可以参照欧盟《人工智能法案》对其AIGC技术进行评估并且提前做好相应的合规工作。
第十七条提供具有舆论属性或者社会动员能力的生成式人工智能服务的，应当按照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
【解读】本条规定了提供具有舆论属性或者社会动员能力的生成式人工智能服务应当满足的要求。
对于“具有舆论属性或者社会动员能力”的定义，本办法其他条文并未进一步明确与细化，可以根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（下称《规定》）进行明确。《规定》第二条：具有舆论属性或社会动员能力的互联网信息服务，包括下列情形：（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。
因此，在涉及上述如新闻、直播、社交通讯等行业的AIGC技术时，要注意是否可能被认定为具有舆论属性或者社会动员能力的AIGC服务，以便于判定提供者是否应当履行本条规定的义务。
提供具有舆论属性或者社会动员能力生成式人工智能服务，根据《规定》，具有以下情形之一的应当自行或者委托第三方安全评估机构实施安全评估：（一）具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能的；（二）使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更，导致舆论属性或者社会动员能力发生重大变化的；（三）用户规模显著增加，导致信息服务的舆论属性或者社会动员能力发生重大变化的；（四）发生违法有害信息传播扩散，表明已有安全措施难以有效防控网络安全风险的；（五）地市级以上网信部门或者公安机关书面通知需要进行安全评估的其他情形。
根据《互联网信息服务算法推荐管理规定》，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内在互联网信息服务算法备案系统中进行备案填报，内容包括服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息。并且在备案信息发生变更和终止服务时，提供者应当办理相应的手续。
第二十三条法律、行政法规规定提供生成式人工智能服务应当取得相关行政许可的，提供者应当依法取得许可。
外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定。
【解读】本条明确提供生成式人工智能服务应当取得相应行政许可，外商投资此服务的应当符合外商投资相关法律规定。
本条并未规定生成式人工智能服务提供者应当取得何种行政许可，对于具体行政许可的类型，本文给出以下建议：
因生成式人工智能服务属于互联网信息服务，一般亦会向用户收取相应费用以维持其运营投入，并实现商业目的。依据《中华人民共和国电信条例》及《电信业务分类目录》，根据生成式人工智能服务的特征与具体服务情况，建议同时取得第二类增值电信业务之B21许可证（增值电信业务经营许可证-在线数据处理与交易处理业务，即ICP许可证）、B25许可证（增值电信业务经营许可证-互联网信息服务，即EDI许可证）。
并且，如果生成式人工智能服务输出的内容涉及金融、医疗等特殊领域，根据该特殊领域监管的规定，提供者亦可能被监管机构要求取得相应的行政许可。例如：生成式人工智能服务输出内容涉及证券投资分析、预测和建议，并且服务提供方为此收取相关费用，应则其应取得中国证监会许可的证券投资咨询资质。
本条中，专门对生成式人工智能进行规制的外商投资相关法律法规尚未明确，建议对各监管部门分类分级监管规则的制定进度以及《人工智能法》等相关立法动态持续关注。
根据《外商投资产业指导目录》，生成式人工智能服务并非外商限制或禁止投资的项目，但如上所处，提供及经营AIGC服务，应当取得增值电信业务经营许可证，从获得增值电信业务经营许可证的角度而言，外商投资企业在中国境内提供AIGC服务仍要受到一定限制：
1.对企业的注册资本最低限额来说，根据2022年修订的《外商投资电信企业管理规定》（下称《管理规定》）第五条，提供全国或者跨省级区域范围的AIGC服务，注册资本最低限额应当为1000万元人民币；提供省级区域范围之内的AIGC服务，注册资本最低限额为100万元人民币。
2.对于外商出资比例来说，根据《管理规定》第六条，经营增值电信业务的外商投资电信企业的外方投资者在企业中的出资比例，不得超过50%，国家另有规定的除外；根据《关于放开在线数据处理与交易处理业务（经营类电⼦商务）外资股比限制的通告》规定，在全国范围内放开在线数据处理与交易处理业务的外资股比限制，外资持股比例可至100%。简而言之，尽管国家对经营在线数据处理与交易处理业务的公司外资持股比例不受限制。但在外商投资AIGC公司应当同时取得EDI与ICP许可证的前提之下，外商持股比例仍应受到50%比例的限制。
二、《暂行办法》生效稿与征求意见稿的差异对比
《生成式人工智能服务管理暂行办法》参考了所征集的公众意见，对《生成式人工智能服务管理暂行办法（征求意见稿）》（以下简称《征求意见稿》）作了部分修改，生效稿对征求意见稿规定的诸多义务或限制、禁止性规定进行了删除，新增了诸多鼓励性、支持性条款，整体展现出鼓励技术创新发展、研发及应用的立法意旨。为作进一步厘清，笔者对两份文件具体内容的不同之处制作了对比表格如下，以供参考。
注：绿色部分为删除内容，红色部分为新增内容，蓝色部分系对所对应条款进行标识。




三、《暂行办法》与《互联网信息服务深度合成管理规定》差异之比较
《互联网信息服务深度合成管理规定》（以下简称《管理规定》）与新颁布通过的《暂行办法》作为我国当前AI监管制度的两大基石（除上述两法规外，我国另有《互联网信息服务算法推荐管理规定》，也归属于我国目前AI监管的法律规范体系），在立法目的、监管范围、规制对象以及具体的合规义务等内容上均有差异，为更加明确地理解《暂行办法》，有必要对二者的区分作出理清。宏观上，两大法规主要有立法目的、监管范围、规制对象三大区别。
1.立法目的不同
结合相关条文及立法背景，笔者认为，《管理规定》的立法目的主要是为了加强国家对互联网信息服务深度合成技术的监督管理，其上位法包括了《互联网信息服务管理办法》，可见《管理规定》着眼于治理和维护良好的网络生态环境，防止不法分子利用深度合成技术从事违法行为、破坏社会和经济秩序。这一目的也与实践中大量存在的利用深度合成技术伪造虚假内容、从而实施犯罪的现实情况相契合。
对比之下，本次颁行的《暂行办法》对《征求意见稿》的内容作出了部分修改，同时将《中华人民共和国科学进步法》也纳入《暂行办法》的上位法范围。结合该法的条文内容，这一改动无疑展现出立法者促进技术进步、鼓励创新发展的立法目的。此外，为对新兴技术可能产生的安全风险加以防范，在具体的法律条文中，《管理规定》也通过相关规定对生成式人工智能技术进行监督管理，从而规范生成式人工智能的应用及发展。
2.监管范围不同
就立法定义而言，“生成式人工智能”和“深度合成技术”具有内涵上的区别。生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
因此，《暂行办法》的规制范围不仅包括基于算法生成的内容，还包括基于模型、规则生成的内容。同时，在计算机科学领域，算法和模型、规则系三个相互区分的概念。由此可见，《暂行办法》的监管范围相较于《深度合成管理规定》而言更加广泛。
3.规制对象不同
两大法规的相关规定表明，《管理规定》的监管范围除了深度合成技术的提供者和深度合成服务使用者，还包括深度合成服务技术支持者，也即为深度合成服务提供技术支持的组织或个人。而《暂行办法》则重点规制生成式人工智能服务提供者和服务使用者两大主体，其中又以服务提供者为主要规制对象，同时部分条文对监管部门的主体义务也予以了明确。
四、结 语
人工智能的发展与应用，一直伴随着人类对其算法安全、伦理安全等的深刻担忧，伴随着“技术发展”与“人类安全”的争论与矛盾。人工智能的发展不能犹如脱缰野马，任其随意驰骋成为国际社会的共识，法律规制系人工智能发展规制的重要手段，《暂行办法》在原则性、关键方面对人工智能服务提供者提出规制要求的基础上，更侧重于鼓励、支持技术的发展与创新，笔者认为该办法与人工智能于我国的发展阶段、现状相宜，体现了包容创新、审慎监管的立法思路。
审核、指导：华商高级合伙人、区块链法律研究院院长文婷