2023年8月8日全国信息安全标准化技术委员会为落实包括《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等相关规定中对人工智能生成内容进行标识的合规义务，为实践提供清晰的指引，发布了《网络安全标准实践指南——生成式人工智能服务内容标识方法（征求意见稿）》。生成式人工智能服务提供者在进行算法备案、安全评估以及相关合规工作时，可以参考该《征求意见稿》确保法律法规所要求的标识要求已经满足，同时也需要关注《征求意见稿》正式出台后的变化。
2023年8月8日全国信息安全标准化技术委员会秘书处为落实《生成式人工智能服务管理暂行办法》相关要求，指导有关单位利用生成式人工智能技术提供生成文本、图片、音频、视频等内容服务时对内容进行标识发布了《网络安全标准实践指南——生成式人工智能服务内容标识方法（征求意见稿）》（以下称《征求意见稿》）。
对此本所特进行简要梳理，协助生成式人工智能相关企业理解生成式人工智能标识标注方式方法，妥善完成算法备案、安全评估以及履行合规义务。
一、生成式人工智能就生成内容进行标识的法律依据
实施日期 | 法律法规 | 关于标识的主要规定 |
2020.01.01 | 网络音视频信息服务管理规定 | 第十一条网络音视频信息服务提供者和网络音视频信息服务使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的，应当以显著方式予以标识。 |
2021.02.09 | 关于加强网络直播规范管理工作的指导意见 | 7．筑牢信息安全屏障。网络直播平台应当建立健全信息安全管理制度，严格落实信息内容安全管理责任制，具备与创新发展相适应的安全可控的技术保障和防范措施；对新技术新应用新功能上线具有舆论属性或社会动员能力的直播信息服务，应严格进行安全评估；利用基于深度学习、虚拟现实等技术制作、发布的非真实直播信息内容，应当以显著方式予以标识。 |
2022.03.01 | 互联网信息服务算法推荐管理规定 | 第九条算法推荐服务提供者应当加强信息安全管理，建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。 |
2023.01.10 | 互联网信息服务深度合成管理规定 | 第十六条深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。 第十七条深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况： （一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务； （二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务； （三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务； （四）沉浸式拟真场景等生成或者编辑服务； （五）其他具有生成或者显著改变信息内容功能的服务。 深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。 第十八条任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。 |
2023.08.15 | 生成式人工智能服务管理暂行办法 | 第十二条提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。 |
可以看出，针对生成合成类算法的生成内容应当进行显著标识，并非始自刚刚生效的《生成式人工智能服务管理暂行办法》，而是早在2020年的《网络音视频信息服务管理规定》就已经进行要求。
我们理解目前相关立法要求进行“标识”的目的是：
1.使用户清晰知悉所获得的信息是人工智能生成的，并非真实信息，谨慎使用和传播，因此这类标识应当在“显著”位置设置；
2.保证因生成内容造成虚假信息传播，甚至诈骗等犯罪行为时可以溯源追究算法提供方责任，以及通过算法提供者追究进行虚假信息传播、甚至犯罪行为的用户的法律责任。因此这类标识应当不影响用户使用。
在上述两种不同的目的下，《互联网信息服务深度合成管理规定》第17条规定提供深度合成算法服务时，应当“显著标识”深度合成情况。
而该规定第16条则规定了深度合成服务提供者应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。
而本次信安标委的《征求意见稿》正是具体落实上述两种不同的标识，为实践提供清晰的指引。因此生成式人工智能服务提供者在进行算法备案、安全评估以及相关合规工作时，可以参考该《征求意见稿》确保法律法规所要求的标识要求已经满足，同时也需要关注《征求意见稿》正式出台后的变化。
二、《征求意见稿》对生成式人工智能服务标识的指引性规定
《征求意见稿》是基于文本、图片、音频、视频四类生成内容，给出了生成式人工智能不同合规要求的标识的实践指引，可以作为生成式人工智能的行业实践进行参考。但《征求意见稿》一旦生效，同时也会作为相关监管部门的参考，因此如果无法依据其指引执行，应当有充分合理的理由。
因此，我们梳理了《征求意见稿》中的具体规定，以协助生成式人工智能相关企业对《征求意见稿》的理解。
标识方式 | 适用场景 | 标识位置 | 标识文字/语音 | 说明 |
显著标识 | 各类场景均须设置 | 应在显示区域下方或使用者输入信息区域下方持续显示提示文字。 | 至少包含“由人工智能生成”或“由AI生成”等信息。 | 这种提示是最容易实现，也是各类生成式人工智能服务无论是否进行其他标识设置均需要在产品/服务中实现的。 |
或者在显示区域的背景添加包含提示文字的显式水印标识。 | 显式水印标识是指，在生成式人工智能服务中，在交互界面内或背景中添加的均匀分布的半透明文字。这种显示方式与上述提示标识中的“显示区域下方或使用者输入信息区域下方持续显示提示文字”。 | |||
图片、视频类需要设置 | 由人工智能生成图片、视频时，应采用在画面中添加提示文字的方式进行标识。 | |||
自然服务转人工智能服务时 | 应通过提示文字或提示语音的方式进行标识 | 至少包含“人工智能为您提供服务”或“AI为您提供服务”等信息。 | 主要目的是为了区分自然人服务与人工智能服务，避免混淆。 | |
不影响用户使用标识 | 图片、音频、视频类生成内容 | 在生成式人工智能服务中，通过修改图片、音频、视频内容添加的，人类无法直接感知、但可通过技术手段从内容中提取的标识。 图片的隐式水印标识：通过空域水印或变换域水印的方式实现。含有隐式水印的图片应满足任意连续50%以上面积且分辨率大于等于384×384的切片均包含完整标识信息。 视频的隐式水印标识：通过时空域水印或变换域水印的方式实现。含有隐式水印标识的视频应满足任意连续5秒以上视频内容中均包含完整标识信息； 音频的隐式水印标识：含有隐式水印标识的音频应满足任意连续10秒以上音频内容中均包含完整标识信息。 | 至少包含服务提供者名称，也可包含内容ID等其他内容 | 目前行业内比较常见的隐式水印标识是直接修改图片、音视频的代码嵌入的暗水印。 但如《征求意见稿》中的规定，图片、音视频中增加隐式水印标识是相对较为容易的，可以通过修改代码实现，但针对显示内容基本等同于代码的文本类就较难实现使用隐式水印标识。在《征求意见稿》中也可以看出，目前并未强制要求文本类进行要在生成内容中增加隐式水印标识。 |