欧盟委员会征求《人工智能法》透明度义务的指南和行为准则的意见

笑死，这是为了应和我国人工智能生成内容标识办法及标准的生效么？
征集背景
《人工智能法》于 2024 年 8 月 1 日生效，旨在为欧盟内值得信赖且以人为本的人工智能（AI）建立单一市场并统一规则。其目的是在促进创新和 AI 应用的同时，确保对健康、安全和基本权利（包括民主和法治）提供高水平的保护。
在各项义务中，AI 系统的可信性通过《人工智能法》规定的一系列要求得到保障，这些要求旨在确保透明度，并在人员与某些 AI 系统及其输出互动时予以告知。《人工智能法》第50 条规定了透明度要求，并将自 2026 年 8 月 2 日起适用。
这些透明度要求旨在使自然人能够识别与 AI 系统的互动以及由 AI 系统生成或操纵的内容，从而降低冒充、欺骗或拟人化的风险，并促进信息生态系统的信任与完整性。
首先，《人工智能法》第50条第1款规定，直接与自然人互动的人工智能系统提供者有义务确保告知自然人他们正在与人工智能系统而非人类互动，除非从合理注意义务自然人的角度，考虑到使用的场景和背景，此点已显而易见。其次，《人工智能法》第50条第2款旨在通过要求提供者以机器可读的方式标示此类内容并启用相关检测机制，来促进对人工智能生成或操控内容的可信检测和识别。第三，《人工智能法》第50条第3款要求部署情绪识别或生物特征分类人工智能系统的主体确保接触该等系统的个人被告知其运作情况。第四，《人工智能法》第50条第4款要求部署生成或操控深度伪造内容的人工智能系统，或旨在就公共利益事项向公众提供信息的内容生成AI系统的部署者，就该内容的AI生成来源进行告知，但在既定情形下有例外。 第五，《人工智能法》第50 条第5 款对上述透明度措施施加了横向要求，以确保在首次互动或接触时（最迟在此时）向相关自然人以清晰且可区分的方式提供所要求的信息，同时遵守适用的无障碍要求。最后，《人工智能法》第50 条第6 款涉及第50 条与 《人工智能法》中适用于高风险 AI 系统的要求之间的相互关系，以及与欧盟或国家法律中对 AI 系统部署者规定的其他透明度义务之间的关系。 根据《人工智能法》第96 条第1 款第(d)项，委员会应就第50 条所规定的透明度义务的实际实施发布指南。根据《人工智能法》第50 条第7 款，AI 办公室将鼓励并促成制定行为守则，以便有效实施有关检测和标注生成或被操纵内容的义务。
征集要求
本次有针对性的利益相关方咨询旨在收集广泛利益相关方的意见，以为委员会关于人工智能生成或被操纵内容的检测与标注的指南和行为守则提供参考。这些议题将涉及有关如何实施透明度要求的具体实务示例，包括可能需要澄清的事项（例如其是否属于《人工智能法》第50条的适用范围及在何种条件下适用）、有关现有先进的透明度与披露做法的信息或其他概念性澄清。
鉴于并非所有问题对所有利益相关者都适用，答复者可仅对其认为相关的部分和问题作答。鼓励答复者提供具体、简明且明确的解释和具体用例 。
本次征询仅以英文提供，并将开放 4 周，起始于 2025 年 9 月 4 日，至2025 年 10 月 2 日 中央欧洲时间 23:59。
问卷内容
本次征询问卷分为 5 个部分，包含若干问题。 受访者可选择仅回答部分章节或仅回答各章节中希望回复的问题。 调查的各部分如下：
关于第50（1）条的问题
《人工智能法》第50条第1款针对互动型人工智能系统的提供者，尤其是旨在与自然人直接互动的系统。提供者应确保此类系统在设计和开发时以使相关自然人被告知其正在与人工智能系统互动的方式进行。
《人工智能法》序言第132条澄清，在对互动型人工智能系统实施透明义务时，应在该人工智能系统旨在与因年龄或残疾而属于弱势群体的自然人互动的范围内，考虑该群体的特征。《人工智能法》第50条第5款进一步要求，应当最迟在首次互动或接触时以清晰且易于区分的方式向相关自然人提供该等信息。此外，该等信息应符合适用的无障碍要求。关于后者，序言第132条确认，应以无障碍格式向残障人士提供此类信息和通知。
《人工智能法》第50条第1款规定，如果从一位具备合理信息、谨慎并细心的自然人的视角来看，该场景下与人工智能系统的互动可被视为显而易见，则可免除提供者该义务。
问题 1：请提供与自然人直接互动的人工智能系统的实际示例，以及那些存在疑问、您希望获得澄清或认为超出适用范围的示例。 对于每个 AI 系统，请判断从一位具备合理信息、细心且谨慎的自然人角度来看，与该 AI 系统的互动是否可以被视为明显。请在回答中考虑该互动可能到受众群体是否属于年龄或残疾的弱势群体。
此外，《人工智能法》第50(1)条项下的透明义务不适用于经法律授权用于侦测、预防、调查或起诉刑事犯罪的交互式人工智能系统，但须对第三方的权利和自由采取适当保障措施，且该等系统不得为公众用以举报刑事犯罪的系统。
问题 2：请提供可与自然人直接交互且可依法被授权用于侦测、预防、调查或起诉刑事犯罪的人工智能系统的实际示例。对每一类系统，请提供可授权其使用的法律依据，并描述对第三方权利和自由的适当保障措施。
如果您知道任何可供公众举报刑事犯罪的人工智能系统，请在您的回答中予以列明。
问题 3：如果您知道可用于与交互式人工智能系统配合使用的任何通知方式示例（包括嵌入其设计中），以适当告知自然人正在与人工智能系统互动，请在您的答复中提供这些示例。
对于每种通知方式，请确定用于通知自然人的方式类型和内容是否适当，包括考虑因年龄或残疾而属于弱势群体的自然人的特征、需要以清晰可区分且可获取的方式进行通知以及通知的时机。
关于第50(2)条的问题
《人工智能法》第50条第2款的目标是能够生成合成文本、音频、图像和视频内容的人工智能系统的提供者，包括通用目的人工智能系统。此类系统的提供者须采用技术解决方案，确保其系统的输出以机器可读的格式被标记，并能够检测出该内容是由人工智能系统而非人工智能生成或经其操控（另见序言第133段）。 为进行标准编辑提供辅助功能的人工智能系统，或未对部署方提供的输入数据或其语义进行实质性更改的人工智能系统，不受该义务的约束。此外，如果生成式人工智能系统依法获授权用于发现、预防、调查或起诉刑事犯罪，则《人工智能法》第50(2)条不适用。
问题 5：请提供生成合成文本、音频、图像或视频内容的人工智能系统的实际示例，以及那些存在疑问并且您会寻求澄清或认为可能超出适用范围的系统示例。 如果您知道任何可能属于第50(2)条一项或多项例外的人工智能系统，例如执行标准编辑辅助功能的人工智能系统、未实质性改变输入数据或其语义的系统，或可依法为执法目的获授权的系统，请在回复中说明。
《人工智能法》第50(2)条规定，提供者实施的技术标记和检测解决方案应在技术上可行的范围内有效、可互操作、稳健且可靠，同时考虑到各类内容的特性和局限、实施成本以及公认的技术现状，这些可在相关技术标准中体现。
《人工智能法》序言第133条举例说明了基于水印、元数据识别、用于证明内容来源和真实性的加密方法、记录方法、指纹识别或上述技术组合的此类标记技术。此外，第133条还澄清，这些技术和方法可以在人工智能系统层面或人工智能模型层面实施，包括生成内容的通用目的人工智能模型，从而便于人工智能系统的下游提供者履行该义务。第133条还指出，可在适当情况下使检测方法可供公众使用，以便公众能够有效区分人工智能生成的内容。
问题 6：请举例说明可用于以机器可读格式标记 AI 生成或篡改内容，并能够检测内容是否由 AI 生成或篡改的标记与检测解决方案（包括多种技术的组合）。
问题 7：对前一问题中列出的每一种解决方案，请阐明是否存在相关信息可帮助您在技术可行的范围内，考虑到各类内容的特殊性和局限性、实施成本以及公认的技术现状，评估其有效性、互操作性、鲁棒性和可靠性。并请评估检测机制在多大程度上是可访问的，以及是否使接触到由人工智能生成或篡改内容的人能够识别其来源。
问题 8：您是否了解与《人工智能法》第50(2)条对生成式人工智能系统的义务相关的技术标准或正在进行的标准化活动？
问题 9：对于《人工智能法》第50(2)条项下生成式人工智能系统的透明义务范围或实际实施，是否还有其他方面需要澄清？
关于第50（3）条的问题
《人工智能法》第50条第3款要求情感识别系统或生物特征分类系统的部署者在该系统与自然人互动时，须告知该等自然人该系统的运行。若该系统依法获准用于侦测、预防或调查刑事犯罪，并在保障第三方权利和自由的适当保障措施以及符合欧盟法的前提下，则不适用该义务。 情感识别和生物特征分类系统的概念分别由《人工智能法》第2 条第39 款和第40 款定义，并已在委员会关于被禁止人工智能实践的指导中予以澄清。
《人工智能法》第50条第5款进一步要求，应当在首次交互或首次接触时最迟以清晰且可区分的方式向相关自然人提供该等信息。此外，该等信息应当符合适用的无障碍要求。就后者而言，序言第132条确认，应当以残疾人可访问的格式提供该等信息和通知。
问题 10：请提供可能被视为情感识别和生物特征分类系统的人工智能系统的实际示例。
如果您知道任何此类可依法被授权用于侦查、预防或调查刑事犯罪的系统，请在您的答复中列出。对于每个此类系统，请提供可授权其使用的法律并描述对第三方权利和自由的适当保障措施。
问题 11：如果您知道可以对情感识别或生物识别分类系统采用的任何透明度措施，以适当通知接触该系统的自然人关于该系统运作的情况，请在您的回答中提供这些示例。
对于每一项透明度措施，请判断用于告知自然人该系统运作的措施的类型和内容是否适当，包括就通知需以明显可区分且可访问的方式进行以及通知时间的考虑。
问题 12：关于情感识别和生物特征分类系统的透明度要求的适用范围或实际实施，您是否还希望就其他任何方面寻求澄清？
关于第50(4)条的问题
《人工智能法》第50条第4款第一项要求，部署生成或篡改构成深度伪造的图像、音频或视频内容的人工智能系统的部署者须披露该内容由人工智能生成或篡改。深度伪造的定义载于《人工智能法》第3条第（60）款，规定“深度伪造”系指由人工智能生成或篡改的图像、音频或视频内容，这类内容与现有的自然人、物体、地点、实体或事件相似，并会使人误以为其为真实或可信。如果深度伪造内容构成明显的艺术性、创意性、讽刺性、虚构性或类似作品或节目的组成部分，则透明度要求仅限于以不妨碍该作品展示或欣赏的适当方式披露此类生成或操控内容的存在。《人工智能法》第50条第4款中的透明义务不适用于依法被授权用于侦测、预防、调查或起诉刑事犯罪的人工智能系统。
问题 13：请提供生成式人工智能系统的实际示例，这些系统会生成“深度伪造”人工智能生成或操控的图像、音频或视频内容，该等内容类似于现有的个人、物体、地点、实体或事件，并会在外观上使人误以为是真实或可靠的。如果您知道有任何人工智能系统，其深度伪造内容可被视为构成明显的艺术性、创意性、讽刺性、虚构性或类似作品或节目的组成部分，请在答复中列明。
问题 14：请提供实际例子，说明哪些由人工智能生成或处理的内容会使您寻求澄清其是否被归类为“深度伪造”（deep fake）。
问题 15：如果您知道任何可被法律授权用于检测、预防、调查或起诉刑事犯罪的生成式人工智能系统以制作深度伪造（deep fake），请在回答中提供对此类系统的实际示例。对于每一类系统，请提供可授权该等使用的法律，并说明该法律是否包含对第三方权利和自由的任何适当保障措施。
序言第134条澄清，部署生成深度伪造内容的人工智能系统的部署者应当以清晰且可区分的方式披露该内容为人工智能生成或操纵，通过相应标注输出并披露其人工智能来源。对于构成明显的创意性、讽刺性、艺术性、虚构性或类似作品或节目一部分的深度伪造内容，该序言澄清，应以不妨碍作品展示或欣赏的适当方式披露此类生成或操纵的深度伪造内容的存在，包括不妨碍作品的正常开发、利用和使用，同时保持作品的实用性和质量。
《人工智能法》第50条第5款进一步要求，应当在首次交互或首次接触时最迟以清晰且可区分的方式向相关自然人提供该等信息。此外，该等信息应当符合适用的无障碍要求。就后者而言，序言第132条确认，应当以残疾人可访问的格式提供该等信息和通知。
问题 16：如果您知道任何可用于深度伪造内容的披露做法，以适当地向接触该等内容的自然人披露其为人工智能生成或操纵的来源，请在您的回答中提供这些做法的示例。
对于每一种披露做法，请判断该披露的类型和内容是否适当，以便清晰、可区分并可获取地告知自然人该内容为人工智能生成或操纵的来源以及通知的时间。
在将披露做法用于构成明显创造性、讽刺性、艺术性、虚构性或类似作品或节目一部分的深度伪造内容的情况下，请判断该披露是否以不会妨碍作品展示或欣赏的适当方式进行。
《人工智能法》第50条第4款第2项要求，部署用于生成或操纵旨在就公共利益事项向公众提供信息的文本的人工智能系统的部署者披露该内容为人工智能生成或人工操纵。
如人工智能系统依法被授权用于侦测、预防、调查或起诉刑事犯罪，或该人工智能生成的内容已经过人工审查或编辑控制且由自然人或法人对内容的发布承担编辑责任，则不适用此项义务。
问题 17：请提供实例，说明用于向公众传递重大公共利益事项信息的 AI 系统如何生成或篡改文本，并包含此类刊载的示例。 如果您知悉任何可能属于一项或多项例外情形的 AI 系统，例如其 AI 生成或被篡改的文本已接受人工审查或编辑控制且由自然人或法人对内容的发表承担编辑责任，或其使用可依法获授权以侦测、预防、调查或起诉刑事犯罪的 AI 系统，请在答复中列出。如适用，请提供可授权执法用途的法律依据。
问题 18：请提供关于由人工智能生成或篡改的文本内容的实例，您希望澄清这些内容是否以向公众通报公共利益事项为目的发布，或是否经过人工审核或编辑控制。
问题 19。 如果您知晓任何用于披露人工智能生成或操纵文本的做法，这些文本以向公众告知公共利益事项为目的发布，且旨在向接触该等文本的自然人适当披露该发布的人工生成或被操纵来源，请在您的答复中提供这些做法的示例。
对于每一种披露做法，请判断该披露方式的类型和内容是否适当，能否以清晰、可区分且易于获取的方式告知自然人该发布的人工智能生成或操纵的来源及通知的时点。
问题 20：对于第50 条第4 款关于生成深度伪造和就公共利益事项发表文本的人工智能系统部署者的透明度要求的范围或实际实施，您是否还有其他希望澄清的方面？
关于实施《人工智能法》第50条的横向问题
第50 条第5 款要求，第50 条各项透明度要求下应提供的信息，应在首次互动或首次接触时最迟以清晰且易于区分的方式提供给相关自然人。此外，该等信息应符合适用的无障碍要求。关于后者，第132 项考虑事项确认，此类信息和通知应以无障碍格式向残障人士提供。
问题 21：针对第50 条第5 款涉及的《人工智能法》横向要求，包括其与第50 条第1 至第4 款要求的相互作用，您是否希望在哪些方面寻求澄清？
《人工智能法》第50条第6款规定，第50条第1款至第4款不应影响《人工智能法》第三章（即适用于高风险人工智能系统的规则所在章节）中所规定的要求和义务，并且不得影响部署者根据其他欧盟或国家法律对人工智能系统承担的其他透明度义务。
问题 22：关于《人工智能法》第50(1)-(5)条下的透明义务，是否还有其他方面您希望就其与《人工智能法》中其他义务的相互关系获得澄清？
问题 23：关于第50 条第1 至第5 款下的透明义务，是否还存在任何其他方面您希望就其与其他欧盟或国家立法（例如数据保护法规，如《条例》(EU) 2016/679 和 (EU) 2018/1725 以及《指令》(EU) 2016/680、《条例》(EU) 2024/900 关于政治广告的透明度和定向，或《条例》(EU) 2022/2065 关于数字服务单一市场）中义务的相互作用寻求澄清？
问题 24。 您是否有任何建议或良好做法，希望作为《行为守则》的输入，以使其在可操作层面上落实有关互动型和生成式人工智能系统的透明度义务？