《通用目的人工智能行为准则》充分性评估意见：欧盟委员会与人工智能委员会的综合分析
7月10日，欧盟AI办公室正式发布了《通用目的人工智能行为准则》（全文翻译请见，历史版本分析请见）。在此背景下，根据AI法案第56条的授权，欧盟委员会（以下简称“委员会”）和人工智能委员会（以下简称“AI委员会”）对《通用目的人工智能行为准则》（以下简称“准则”）进行了独立的充分性评估。两份评估报告均已发布，明确指出准则充分涵盖了AI法案第53条和第55条所规定的义务，并达到了第56条设定的目标。
评估的法律基础与核心目标
根据AI法案第56条第(6)款的规定，欧盟委员会和AI委员会的职责是评估行为准则是否涵盖了第53条和第55条所规定的义务。委员会的评估意见与AI委员会的评估结论是同步发布的，共同构成了对准则充分性的官方立场。值得注意的是，这两份评估意见均明确声明，其内容不预设委员会、AI委员会或其他主管机构未来在执行AI法案时可能采取的任何行动。准则的遵守仅作为证明符合AI法案规定义务的一种方式。同时，评估意见也不约束AI委员会或委员会未来对准则的解释，也不妨碍其在未来根据定期监测和评估结果，或根据AI法案第56条第(8)款的规定，在标准出现或实施经验积累后，评估准则需要更新或修订。
准则的核心目标在每个章节的开篇部分均有明确阐述。它旨在作为通用目的AI模型提供者（无论其模型是否具有系统性风险）的指导性文件，以帮助其证明符合AI法案第53条和第55条的规定（目标A）。通过实现这一目标，准则也间接确保了合规性并便于AI办公室对合规性进行评估（目标B）。委员会和AI委员会的评估均依据AI法案第56条第(2)款和第(4)款规定的四个核心标准进行，这些标准包括：准则是否涵盖了第53条和第55条规定的义务；是否清晰地设定了具体目标；是否包含确保实现这些目标的承诺或措施（包括适当的关键绩效指标，KPIs）；以及是否充分考虑了所有相关方（包括欧盟层面的受影响人员）的需求和利益。
准则制定过程中的广泛参与与考量
两份评估报告均积极认可准则制定过程中所付出的时间和努力，特别是由独立专家主席和副主席以及所有参与的利益相关方所做出的贡献。AI委员会和欧盟委员会均强调，准则的制定充分听取了广泛的利益相关方反馈，包括近1000名参与者，涵盖通用AI模型提供商、下游AI系统提供商、行业组织、公民社会、权利持有人、学术界、独立专家以及欧盟成员国代表和国际观察员。这种多方利益相关者参与的迭代起草过程确保了准则能够兼顾各方需求，特别是对中小企业（SMEs）、小型组织和开源模型提供商的特殊情况给予了积极考量，尽管这并未免除其合规义务。AI委员会特别指出，这些考量在适用中小企业、小型组织或开源模型提供者的减免措施时应始终牢记。
各章节评估的综合分析
- 透明度章节
AI法案第53条第(1)款第(a)项和第(b)项规定了通用目的AI模型提供者的透明度义务，要求其提供并更新模型文档和技术规范。AI委员会和欧盟委员会均对准则的透明度章节给予了高度积极的评价，认为其为履行这些义务提供了清晰且实用的指导。
模型文档与信息更新：准则包含一个互动式“模型文档表格”（Model Documentation Form），该表格被认为是提供商记录和证明符合第53条第(1)款第(a)和(b)项要求的简便实用方式。该表格详细列出了AI法案附件十一第1节和附件十二所要求的信息，并就如何根据市场和技术发展更新文档（特别是模型版本）提供了具体指导 [13a, 17, 74, 79]。此外，准则还明确了如何根据要求向AI办公室和国家主管机关提供相关信息，以及如何向下游提供商提供相关信息，同时兼顾保密信息和商业秘密的保护，这在透明度提供与保护提供商利益之间取得了平衡。
减轻提供者负担：AI委员会积极指出，准则澄清了那些修改通用目的AI模型并成为修改后模型提供者的行为者，只需记录与修改相关的信息，这减轻了提供者的行政负担。对于开源模型提供者，AI委员会也注意到更新后的“分发渠道”和“许可证”项目更好地考虑了他们的具体情况，因为他们虽然不完全符合AI法案第53条第(2)款的开源要求，但仍需遵守第53条第(1)款第(a)和(b)项的义务。
目标与措施：两份评估报告均确认透明度章节明确设定了其具体目标。对于该章节的承诺和措施，委员会和AI委员会均认为，鉴于其主要涉及文档、政策和摘要，目前不需要提供商进行主动报告，可以通过其他方式来监测参与者的遵守情况。
未来展望：AI委员会建议持续监测该章节的有效性，并根据市场和技术发展进行可能的更新。 - 版权章节
AI法案第53条第(1)款第(c)项和第(d)项涉及通用AI模型提供商的版权义务，特别是关于训练数据使用以及提供内容摘要的规定。
与欧盟版权法的协调性：两份评估均积极评价了版权章节与欧盟版权及相关权利法律的高度一致性。准则明确区分了遵守准则和AI法相关义务与遵守欧盟版权及相关权利法律之间的区别。这意味着，遵守准则仅被视为证明符合AI法案第53条第(1)款第(c)项市场准入条件的一种方式，并不代表完全符合欧盟版权法。准则还承认国家实施相关指令的重要性。
版权保护措施：准则采取了与欧盟版权法互补的措施，例如明确承诺不规避有效的技术措施，并将盗版网站排除在其网络爬取范围之外。它还建立了投诉机制（Measure 1.5），并要求采取预防性技术保障措施以避免模型生成侵犯版权的输出。AI委员会特别赞赏投诉机制措辞的改进和澄清。
退出协议与标准发展：关于权利保留的退出协议（如robots.txt），AI委员会强烈鼓励提供商支持开发关于欧盟指令2019/790中权利保留的替代标准和协议。AI委员会还敦促欧盟委员会迅速启动一个包含相关利益相关方的包容性进程，以确定并就现有最先进的退出协议达成普遍共识，以在国际和欧洲跨行业标准开发之前提供清晰性。欧盟委员会也强调了准则在版权章节中在确保合规与减轻行政负担之间取得了微妙平衡，并提到了标准化前景和鼓励与权利人进行讨论。
训练内容摘要的详细程度（第53条第(1)款第(d)项）：关于此项义务，两份评估报告都指出，所需详细程度将由AI办公室提供的模板直接涵盖，而非准则本身。AI委员会强调，这一模板应能便于权利人行使其权利，同时兼顾保护提供商的商业秘密和机密商业信息，并保持细节水平的相称性。
目标与措施：版权章节同样明确设定了其目标。与透明度章节类似，两份评估均认为该章节目前不需要主动报告，可以通过其他方式监测遵守情况。AI委员会建议持续监测其有效性，并根据市场和技术发展进行可能的更新。
利益相关方需求：该章节旨在为参与者提供足够的灵活性，并最大程度地减少行政负担，同时加强权利人的地位。准则通过术语的一致性以及与欧盟版权法互补的措施（如排除盗版网站、投诉机制和预防性技术保障措施）来实现这一目标。 - 安全与保障章节
AI法案第55条规定了具有系统性风险的通用AI模型提供商的额外义务，包括模型评估、风险识别与缓解、严重事件报告以及网络安全保护。这一章节的评估是两份报告的重点。
系统性风险识别与评估：
开放式识别：两份评估均积极评价准则纳入了开放式的系统性风险识别过程（Measure 2.1，附录1），认为这种方法具有灵活性，允许根据具体模型调整风险评估。准则提供了风险类型、性质和来源的示例和考量，包括AI法案第3条第(65)款所列举的风险类型，以及模型能力、倾向和应用等风险来源。
结构化评估与缓解：准则为参与者提供了结构化流程（承诺2至4）来协助其确定系统性风险的可接受性。承诺1、5和6则明确了缓解系统性风险的义务，包括实施适当的安全缓解（Commitment 5）和网络安全缓解（Commitment 6）以确保系统性风险处于可接受水平。
模型评估：Measure 3.2及附录3详细阐明了进行模型评估的要求，包括评估的严格性、深度、模型启发水平、技术保障的有效性以及评估团队的资质和资源。准则还明确了应在整个模型生命周期中更频繁地进行“轻触式”模型评估。
独立外部评估：准则要求进行独立外部评估，除非模型被认为是同样安全或更安全的模型，或者无法任命合适的独立外部评估者。AI委员会建议密切监测和审查未来实施情况。
严重事件报告：承诺9明确了追踪、记录和报告严重事件及纠正措施的义务，包括识别方法、相关信息、报告时间表和信息保留期限。此外，准则要求提供商协助下游提供商和最终用户报告模型相关的严重事件，从而增加了事件对委员会和国家主管机关的可见性。
网络安全保护：承诺6明确了为模型及其物理基础设施确保足够网络安全保护的义务。这包括指定安全目标，并确保安全措施（Measure 6.1）符合该目标，附录4则进一步详细说明了具体的安全目标和建议措施。
对中小企业的简化与价值链考量：
AI委员会和欧盟委员会都积极指出安全与保障章节旨在为SMEs、小型组织和初创企业提供简化的合规途径。AI委员会建议密切监测其影响并在未来迭代中进一步简化。
准则通过要求模型评估反映预期使用场景（包括整合到AI系统中，附录3.2），并促进下游提供商和最终用户报告严重事件，从而充分考虑到价值链中相关参与者的经验和需求。Measure 3.1还将“模型对自然人（包括弱势群体）的影响”列为模型独立信息的示例调查目标，并鼓励“收集最终用户反馈”作为上市后监控方法。
目标与措施：安全与保障章节明确设定了其具体目标。与透明度及版权章节不同，两份评估报告均认为该章节需要提供商进行主动报告。这是因为其涵盖的义务涉及风险评估和缓解，参与者需要向AI办公室报告模型信息、系统性风险评估和缓解措施以及对准则的遵守情况。
关键绩效指标（KPIs）：准则目前不包含KPIs。欧盟委员会认为目前不适合包含KPIs，但也鼓励参与者未来在报告中扩展，例如纳入KPIs，因为这些数据可能对长期比较和跨参与者比较有用。AI委员会建议密切监测所提出的风险评估流程的有效性。
结论与未来展望
综合来看，AI委员会和欧盟委员会均明确指出，基于上述全面评估和建议，《通用人工智能行为准则》充分满足了AI法案第56条规定的行为准则标准，并将有助于AI法案的正确实施。
尽管如此，两方都强调，鉴于AI技术的快速发展和风险格局的不断变化，持续监测准则的实施情况及其有效性至关重要，以便在未来进行必要的更新和迭代。
AI委员会：AI委员会期待AI办公室定期提供监测报告，并可能与欧盟委员会、国家主管机关、下游提供商等合作。AI委员会保留在必要时敦促欧盟委员会采取执法措施的权利，并鼓励欧盟委员会审查和修订准则，特别是应对新标准的出现或实施经验的积累，以及AI技术的迅速发展。
欧盟委员会：欧盟委员会指出AI办公室将鼓励并促进准则的审查和修订，至少每两年正式更新一次，以应对标准的出现、技术发展或风险格局的变化。在面临大规模不可逆转损害的威胁时（例如系统性风险的出现、新的攻击向量、部署环境的重大变化或突破性能力的发展），AI办公室还将考虑发布快速指导或快速更新准则，以辅助执法行动。
总而言之，这份行为准则被视为通用AI模型提供商合规的坚实框架，它不仅提供了明确的指导，还通过其多方参与和迭代更新的内在机制，展现了对AI领域动态变化的适应能力。这种动态的治理方法对于确保AI技术安全、负责任地发展至关重要。