前 言
ChatGPT热潮席卷全球，“文心一言”“通义千问”“商量”等中国类ChatGPT产品陆续发布，国家网信办亦紧跟变化，于4月11日发布了《生成式人工智能管理办法（征求意见稿）》。
01 生成式人工智能服务提供者规范
(一)采取制度和技术措施
在制度和技术措施方面，《生成式人工智能管理办法（征求意见稿）》（下称《征求意见稿》）对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（下称“提供者”）主要设置了如下义务：
(二)配合监管
不同于《互联网信息服务深度合成管理规定》，《征求意见稿》认为所有生成式人工智能产品均具有舆论属性或社会动员能力，要求提供者在利用生成式人工智能产品向公众提供服务前，应按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
此外，当国家网信部门和有关主管部门要求时，提供者还应提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。
（三）责任承担
《征求意见稿》将保障生成式人工智能生成信息内容合法性的主要责任主体设置为提供者，这引发了业界认为提供者责任过于严格，可能影响创新的担忧。该稿还将提供可编程接口等技术支持的主体纳入提供者的范畴，如某可编程接口服务提供商同时向B端和C端提供服务，用户通过B端客户提供的生成式人工智能产品所生成的内容违反《征求意见稿》的要求，该可编程接口服务提供商和B端客户的责任划分尚不明晰。
根据《征求意见稿》，提供者违反《征求意见稿》规定将可能承担如下法律责任：
02 生成式人工智能使用合规
（一）生成内容合规
《征求意见稿》第四条对利用生成式人工智能生成的内容提出要求：
此外，《征求意见稿》要求提供者按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。具体而言，提供者需满足如下要求：
（1）提供者对使用其服务生成或者编辑的信息内容，应采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。
（2）当提供者提供的服务可能导致公众混淆或者误认的，应在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示生成式人工智能使用情况。
（3）提供者在提供可能导致公众混淆或者误认的服务时，应提供显著标识功能，并提示使用者可以进行显著标识。
（二）预训练、优化训练数据合规
《征求意见稿》不仅要求生成式人工智能所生成的信息具备合法性，亦要求提供者应对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：
此外，当生成式人工智能产品研制中采用人工标注时，提供者应根据《征求意见稿》要求，制定清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。
（三）提供者对用户的指导、管理和保护
《征求意见稿》要求提供者指导用户科学认识和理性使用生成式人工智能生成的内容。当提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
同时，提供者应建立用户投诉接收处理机制以保护个人合法权益。当其发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合《征求意见稿》要求时，应采取措施，停止生成，防止危害持续。
提供者需对利用其生成式人工智能所产生的内容采取过滤等措施，对在运行中发现和用户举报的不符合《征求意见稿》要求的生成内容，其还应在3个月内通过模型优化训练等方式防止再次生成。
结语
纵览《征求意见稿》，部分规定较为笼统、模糊，仍有待后续的进一步厘清，还有部分观点认为此稿存在着“自相矛盾”之处。生成式人工智能尚处于上升探索阶段，该技术背后的逻辑、可应用场景和发展前景尚未明晰，因此，一些观点认为此时出台监管办法似乎为时过早。但技术在蓬勃发展，法律也在“跑步”跟上，在技术发展的前期即进行法律的思考和探索，并在接收公众意见和业界反馈中调整，技术与法律并肩而行，方能在规范之路上走得更远。
ChatGPT热潮席卷全球，“文心一言”“通义千问”“商量”等中国类ChatGPT产品陆续发布，国家网信办亦紧跟变化，于4月11日发布了《生成式人工智能管理办法（征求意见稿）》。
01 生成式人工智能服务提供者规范
(一)采取制度和技术措施
在制度和技术措施方面，《生成式人工智能管理办法（征求意见稿）》（下称《征求意见稿》）对利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（下称“提供者”）主要设置了如下义务：
| 人工标注规则 | 生成式人工智能产品研制中采用人工标注时，提供者应制定符合《征求意见稿》要求的清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。 |
| 用户实名制 | 提供生成式人工智能服务应当按照《网络安全法》规定，要求用户提供真实身份信息。 |
| 用户防沉迷机制 | 提供者应明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。 |
| 个人信息保护制度 | 1 . 提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。 2. 不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。 3. 法律法规另有规定的，从其规定。 |
| 用户投诉接收处理机制 | 1 . 及时处置个人关于更正、删除、屏蔽其个人信息的请求。 2. 发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合《征求意见稿》要求时，应当采取措施，停止生成，防止危害持续。 |
| 灾备制度 | 提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。 |
(二)配合监管
不同于《互联网信息服务深度合成管理规定》，《征求意见稿》认为所有生成式人工智能产品均具有舆论属性或社会动员能力，要求提供者在利用生成式人工智能产品向公众提供服务前，应按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
此外，当国家网信部门和有关主管部门要求时，提供者还应提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。
（三）责任承担
《征求意见稿》将保障生成式人工智能生成信息内容合法性的主要责任主体设置为提供者，这引发了业界认为提供者责任过于严格，可能影响创新的担忧。该稿还将提供可编程接口等技术支持的主体纳入提供者的范畴，如某可编程接口服务提供商同时向B端和C端提供服务，用户通过B端客户提供的生成式人工智能产品所生成的内容违反《征求意见稿》的要求，该可编程接口服务提供商和B端客户的责任划分尚不明晰。
根据《征求意见稿》，提供者违反《征求意见稿》规定将可能承担如下法律责任：
| 已有法律、行政法规的规定 | 由网信部门和有关主管部门按照《网络安全法》《数据安全法》《个人信息保护法》等法律、行政法规的规定予以处罚。 |
| 法律、行政法规没有规定 | 1 . 由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正。 2. 拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。 3. 构成违反治安管理行为的，依法给予治安管理处罚。 4. 构成犯罪的，依法追究刑事责任。 |
02 生成式人工智能使用合规
（一）生成内容合规
《征求意见稿》第四条对利用生成式人工智能生成的内容提出要求：
基本要求 | 禁止内容 |
1.应当体现社会主义核心价值观； 2.利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息； 3.尊重他人合法权益。 | 1.不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容； 2.防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。 3.禁止非法获取、披露、利用个人信息和隐私、商业秘密。 |
此外，《征求意见稿》要求提供者按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。具体而言，提供者需满足如下要求：
（1）提供者对使用其服务生成或者编辑的信息内容，应采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。
（2）当提供者提供的服务可能导致公众混淆或者误认的，应在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示生成式人工智能使用情况。
（3）提供者在提供可能导致公众混淆或者误认的服务时，应提供显著标识功能，并提示使用者可以进行显著标识。
（二）预训练、优化训练数据合规
《征求意见稿》不仅要求生成式人工智能所生成的信息具备合法性，亦要求提供者应对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：
| 符合法律要求 | 符合《中华人民共和国网络安全法》等法律法规的要求。 |
| 保护知识产权 | 不含有侵犯知识产权的内容。 |
| 保护个人信息主体权益 | 数据包含个人信息的，应征得个人信息主体同意或者符合法律、行政法规规定的其他情形。 |
| 保障数据质量 | 能够保证数据的真实性、准确性、客观性、多样性。 |
| 防范歧视 | 1 . 在训练数据选择过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。 2. 不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。 |
| 符合监管要求 | 符合国家网信部门关于生成式人工智能服务的其他监管要求。 |
此外，当生成式人工智能产品研制中采用人工标注时，提供者应根据《征求意见稿》要求，制定清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。
（三）提供者对用户的指导、管理和保护
《征求意见稿》要求提供者指导用户科学认识和理性使用生成式人工智能生成的内容。当提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
同时，提供者应建立用户投诉接收处理机制以保护个人合法权益。当其发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合《征求意见稿》要求时，应采取措施，停止生成，防止危害持续。
提供者需对利用其生成式人工智能所产生的内容采取过滤等措施，对在运行中发现和用户举报的不符合《征求意见稿》要求的生成内容，其还应在3个月内通过模型优化训练等方式防止再次生成。
结语
纵览《征求意见稿》，部分规定较为笼统、模糊，仍有待后续的进一步厘清，还有部分观点认为此稿存在着“自相矛盾”之处。生成式人工智能尚处于上升探索阶段，该技术背后的逻辑、可应用场景和发展前景尚未明晰，因此，一些观点认为此时出台监管办法似乎为时过早。但技术在蓬勃发展，法律也在“跑步”跟上，在技术发展的前期即进行法律的思考和探索，并在接收公众意见和业界反馈中调整，技术与法律并肩而行，方能在规范之路上走得更远。