《人工智能生成合成内容标识办法》新规解读

一、引言
随着人工智能技术的快速发展，生成合成内容（AIGC）在文本、图片、音频、视频等领域的应用日益广泛。然而，技术的滥用也带来了虚假信息传播、隐私侵犯等风险。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布了《人工智能生成合成内容标识办法》（以下简称“《标识办法》”），对AIGC的标识义务提出了明确要求。《标识办法》将自2025年9月1日起施行。
二、人工智能生成合成内容与标识的概念
1.人工智能生成合成内容
根据《标识办法》第三条第一款的规定，人工智能生成合成内容（AIGC）是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
2.显式标识和隐式标识
根据《标识办法》第三条第二、三、四款的规定，人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
三、不同主体的标识义务
1.服务提供者
(1)添加显式标识义务
根据《互联网信息服务深度合成管理规定》第十七条第一款的规定，深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；（四）沉浸式拟真场景等生成或者编辑服务；（五）其他具有生成或者显著改变信息内容功能的服务。
根据《标识办法》第四条的规定，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：（一）在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；（二）在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；（三）在图片的适当位置添加显著的提示标识；（四）在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；（五）呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；（六）其他生成合成服务场景根据自身应用特点添加显著的提示标识。服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。
(2)添加隐式标识义务
根据《互联网信息服务深度合成管理规定》第十六条的规定，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。
根据《标识办法》第五条的规定，服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。
(3)告知用户义务
根据《标识办法》第八条的规定，服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。
(4)去除显示标识时对用户的管理义务
根据《标识办法》第九条的规定，用户申请服务提供者提供没有添加显式标识的生成合成内容的，服务提供者可以在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并依法留存提供对象信息等相关日志不少于六个月。
(5)提供标识相关材料义务
根据《标识办法》第十二条的规定，服务提供者在履行算法备案、安全评估等手续时，应当按照本办法提供生成合成内容标识相关材料，并加强标识信息共享，为防范打击相关违法犯罪活动提供支持和帮助。
2.传播平台
《标识办法》对传播平台，例如社交媒体平台、新闻网站等，也作出了具体要求。根据《标识办法》第六条的规定，提供网络信息内容传播服务的服务提供者应当采取下列措施，规范生成合成内容传播活动：（一）核验文件元数据中是否含有隐式标识，文件元数据明确标明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，明确提醒公众该内容属于生成合成内容；（二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容可能为生成合成内容；（三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的，识别为疑似生成合成内容，采取适当方式在发布内容周边添加显著的提示标识，提醒公众该内容疑似生成合成内容；（四）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。有前款第一项至第三项情形的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。
3.应用程序分发平台
《标识办法》对应用程序分发平台，例如各大手机品牌的应用商城等，也作出了具体要求。根据《标识办法》第七条的规定，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识相关材料。
4.用户
根据《标识办法》第十条的规定，用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
四、合规建议
1.提供AIGC服务的企业如何遵守标识义务
(1)建立标识管理制度
企业应明确显式标识和隐式标识的应用场景及技术实现方式，积极探索使用数字水印等技术，确保隐式标识的可追溯性。
(2)完善用户协议
企业应在用户协议中明确说明生成合成内容标识的方法、样式等规范内容，以及用户的标识义务和使用责任，并提示用户仔细阅读并理解相关的标识管理要求。
(3)依法提供标识相关材料
企业应根据自身情况，在必要时依法履行算法备案、安全评估等合规手续，并在相应的手续过程中依法提供生成合成内容标识相关材料。
2.AIGC传播平台及应用程序分发平台如何遵守标识义务
(1)核验标识相关材料
平台应核验生成合成内容的标识相关材料，确保生产合成内容含有必要的显式标识和隐式标识。
(2)提醒用户注意生成合成内容
传播平台还应当提醒公众该内容属于生成合成内容、可能为生成合成内容或者疑似生成合成内容，并提醒用户主动声明发布内容中是否包含生成合成内容。
3.使用AIGC服务的用户如何遵守标识义务
(1)主动声明并使用标识
用户应在发布生成合成内容时主动声明并使用平台提供的标识。
(2)保留已有标识
用户应保留生成合成内容的已有标识，不得恶意删除、篡改、伪造、隐匿生成合成内容标识