2025 年 7 月的头两周里,全球 AI 治理迎来「连发两弹」。7 月 5 日,欧盟正式公布《通用用途AI模型行为准则》(GPAI Code of Practice,下称“准则”);3 天后,Anthropic 在官网发布题为 The Need for Transparency in Frontier AI 的博客与两页 PDF《ProposedFrontierModelTransparencyFramework》(下称“框架”)。这两个文本都声称要解决“前沿/系统性风险模型”带来的公共安全与信任赤字,却又在适用门槛、信息披露深度和执法逻辑上分道扬镳。在众多评论中容易被忽视的一点是:Anthropic 并未把框架当作企业签署准则的“落地手册”,而是把它包装为一份供美国国会乃至其他司法辖区直接采纳的立法倡议。要透彻理解二者“亦同亦异”的背后动机,需要把它们放回各自的制度坐标系来审视。
一、制度坐标:欧盟“软法过渡”与美国“立法真空”
欧盟在 2024 年通过《AI法》,以第55–56 条确立了对“具有系统性风险”的通用模型的硬约束,却又担心企业在强制义务生效前无所适从,于是借由自愿签署的准则提供“合规沙盒”。官方新闻稿明确指出,安全与保障章节只针对“少数最先进模型的提供者”,签署可换取“法律确定性”。
美国联邦层面迄今没有与《AI法》对等的实体立法。就在国会激辩“是否暂停前沿模型训练”而无果的同一周,Anthropic 抛出框架,博客直接呼吁“该框架可被联邦、州或国际立法采用”。由此可见,Anthropic 想填补的首先是美国“监管真空”,不是替自己贴欧盟“合规标签”。
二、结构与功能:相似形式,分叉目标
- 适用门槛
准则采用“动态风险认定”:只要 AI Office 认为模型具系统性风险,提供者就需遵守安全与保障章节;规模大小并非决定因素。Anthropic 则用算力、研发投入、营收等硬阈值界定“前沿模型”,且排除初创公司。这种“静态量化线”更符合美国立法者“易操作、少纠缠”的偏好。 - 风险谱系
在风险类型上,准则附件列出十四项“模型能力”,并将网络攻击、行为操纵、长期自主规划等社会风险纳入系统性风险清单。Anthropic 只定义两类“灾难性风险”——CBRN 与失控自主性,明显收窄监管射程。 - 披露与治理边界
准则要求企业既要制定 Safety & Security Framework(内部治理),又要向 AI Office 提交 Model Report(监管报送);对外披露仅在满足删节条件时节选摘要。Anthropic则把公开透明置于首位:SDF 与系统卡全文上网,允许因商密或安全删除敏感段落,但必须标注理由。因此,准则的披露主要服务行政监督,框架的披露则直接面向公众。 - 外部验证
准则对独立红队、持续监测、事后回顾都有颗粒度要求;框架没有强制第三方验证,只需企业“自我确认”。这一差异源自欧盟“审慎原则”与美国“信息披露+反欺诈”传统的不同。 - 执法机制
准则本身是软法,最终依赖《AI法》行政执法。Anthropic 则在两页 PDF 中单设“Enforcement”条款,禁止“虚假或具有重大误导性的陈述”,授权美国司法部长寻求民事罚款,并给企业 30 天补救期。这植根于美国长期依赖的FTC 监管逻辑:只要企业对产品、数据或安全实践做出虚假或重大误导性陈述,即触犯《FTC法》第5 条的 UDAP 禁令。近年来 FTC 在 AI 与隐私案件中的一系列执法,为“公开透明 + 反欺诈”提供了成熟母版,如“Operation AI Sweep”:2024 年 9 月,FTC 集中取缔五家夸大 AI 盈利或安全功效的公司,主席 Lina Khan 直言“AI 并不是违法欺诈的避风港”。这些案件共同示范了三步曲:(1)企业应披露真实做法;(2)FTC 事后核实,发现欺骗即罚;(3)和解通常要求对外发布更准确的隐私或安全声明。
三、监管哲学:从“行政风险治理”到“公共问责透明”
把准则与框架放在各自法系传统中,可看到两条渐行分明的监管哲学:
欧盟路径:重在过程可追溯与机构问责。安全与保障章节长达 60 页,逐条规范如何识别、量化、缓解、监测系统性风险,并把 AI Office 设为信息汇聚与执法核心。披露并非目的,而是确保监管部门掌握充分数据。
美国式提案:强调结果可验证与公共透明。Anthropic 认为,只要企业公开 SDF 及系统卡并对虚假陈述承担法律责任,外部研究者、媒体和投资者即可形成“去中心化监督”。这种思路符合美国以信息披露替代预先审批的监管习惯。
四、兼容可能与分歧风险
虽然二者存在深度差异,但在“制定安全开发框架+公开概要文件”这一最低共同点上仍可互补。若美国未来通过前沿模型立法,可能把 Anthropic“公开透明+反欺诈执法”作为骨架,再吸纳欧盟关于网络攻击与行为操纵的风险分类,从而实现跨大西洋监管拼图。然而需要警惕两类潜在冲突:
报告重叠:一家在欧盟运营的美国公司(如 Anthropic)若仅按框架公开 SDF,还需向 AI Office 递交更详尽的 Model Report。双轨要求可能造成合规负担叠加。
执法冲突:欧盟行政罚款与美国民事处罚可能对同一披露文件平行生效,企业需同时面对两套法律程序,带来法律风险叠加。
五、结语:两条路径与一个共同目标
Anthropic 的透明度框架不是它向欧盟“示好”的合规声明,而是一份具有明确美国国会受众的立法草案。它与欧盟准则有交集:都要求安全开发框架、都关注 CBRN 与失控风险、都承认吹哨人保护的必要性。但两者在适用范围、风险广度、验证深度和执法手段上的分叉折射出美欧法律文化的根本差异:前者走“公开透明+反欺诈”路线,后者坚持“行政监督+过程治理”模式。
在全球前沿模型快速迭代且监管试验场加速成型的今天,这两条路径或许并非你死我活——它们提供了不同的公共利益平衡方案:一个偏向公众知情权与市场自律,一个偏向行政风险控制与技术细节。未来真正的挑战,不是简单二选一,而是如何在多边法域里找出相互承认和文件互通的“最小共识”。只有让“安全开发框架”与“公共透明机制”相辅相成,才能为前沿 AI 的持续创新与社会信任奠定坚实底座。
附:Anthropic官方博客和透明度框架全文翻译
前沿人工智能模型需要更高透明度
前沿人工智能开发亟需更高透明度,以保障公共安全,并要求开发这一强大技术的公司承担相应责任。人工智能正在迅速演进。在产业界、政府、学术界及其他各方致力于制定统一安全标准与全面评测方法的当下——这一过程可能耗时数月乃至数年——我们必须采取过渡性措施,确保极其强大的 AI 得以安全、负责且透明地开发。
因此,我们提出一项针对性透明度框架,可在联邦、州或国际层面实施,仅适用于最大规模的 AI 系统及开发者,并为安全实践设定清晰的披露义务。
本方案刻意避免过度规定。我们认识到,随着 AI 科学持续演进,任何监管努力都必须保持轻量且灵活。它不应阻碍 AI 创新,也不应拖慢我们实现 AI 惠益的步伐——包括挽救生命的药物发现、公共福利的快速发放以及关键的国家安全功能。 鉴于评测方法因技术更新而数月即告过时,僵化的政府强制标准尤其会适得其反。
AI 透明度最低标准
以下是我们认为应指导 AI 透明度政策的核心原则:
仅适用于最大模型开发者:AI 透明度义务应仅施加于构建最强能力模型的最大前沿模型开发者——前沿模型以算力总量、计算成本、评测表现、年度营收与研发支出的复合阈值加以区分。为避免给初创生态与低风险(对国家安全或引发灾难性伤害)的小开发者带来负担,框架应为较小开发者设置适当豁免。我们欢迎初创社区就阈值设定提供意见。内部讨论中,我们提出以下示例:年度营收约 1 亿美元;或年度研发或资本支出约 10 亿美元。随着技术与产业格局演进,这些范围阈值应定期复审。
建立安全开发框架(SDF):要求受管辖的前沿模型开发者制定安全开发框架,阐明其如何评估并缓解模型中的非合理风险。风险必须包括化学、生物、放射及核(CBRN)危害,以及因模型自主行为失准造成的伤害。安全开发框架仍属不断演进的安全工具,因此任何提案都应保持灵活。
公开安全开发框架:在 AI 公司注册并维护的公开网站上披露安全开发框架,允许对敏感信息进行合理删减。此举将使研究人员、政府及公众持续了解当前部署的 AI 模型。披露应附带实验室自我认证,确认其遵守已发布的安全开发框架条款。
发布系统卡片:系统卡片或其他文档应总结测试与评测程序、结果及所需缓解措施(可对可能损害公共安全或模型安全的信息进行适当删减)。系统卡片应在部署时公开,并在模型重大修订后更新。
通过禁止虚假陈述保护吹哨人:明文规定实验室就其框架合规性撒谎即属违法。这一澄清为现行吹哨人保护机制提供明确法律依据,并将执法资源集中用于打击故意违规的实验室。
透明度标准:可行的 AI 透明度框架应具备最低标准,以在提升安全与公共安全的同时,适应 AI 开发的动态本质。鉴于 AI 安全与安保实践尚处早期阶段,且如 Anthropic 等前沿开发者正积极研究最佳实践,任何框架必须设计为可演进。标准应始于灵活、轻量的要求,并随产业、政府及其他利益相关方共识最佳实践的出现而调整。
这一透明度方案可揭示行业安全最佳实践,并为负责任实验室如何训练模型设定基线,确保开发者满足基本问责标准,同时让公众与政策制定者能够区分负责任与不负责任的做法。例如,本文所述的安全开发框架类似于 Anthropic 自身的 Responsible Scaling Policy 以及领先实验室(Google DeepMind、OpenAI、Microsoft)已实施并随前沿模型发布的类似做法。将安全开发框架的透明度要求纳入法律,不仅可在不固化标准的情况下统一行业最佳实践,也能确保当前自愿披露的信息在未来模型更强大时不会被撤回。
对于 AI 模型是否及何时可能引发灾难性风险,各方观点不一。对安全开发框架及系统卡片的透明度要求,可为政策制定者提供所需证据,以判断是否需要进一步监管,并为公众提供关于这一强大新技术的重要信息。
随着模型持续进步,我们拥有前所未有的机遇,以加速科学发现、医疗进步与经济增长。若无安全且负责的开发,单一灾难性失败可能使进展停滞数十年。我们提出的透明度框架提供了切实可行的第一步: 在不牺牲私营部门敏捷性的前提下,让安全实践公开可见,从而兑现 AI 的变革潜力。
前沿大模型透明度框架(草案)
I. 适用范围
A. 适用于研发前沿大模型的 AI 公司;该模型以算力总量、计算成本、评测表现、年度营收与研发支出等复合阈值界定。
B. 不适用于初创企业或极小型公司,其年度营收或累积研发支出低于设定阈值者。
II. 部署前义务
A. 制定并实施安全开发框架(SDF)。要求受管辖的 AI 公司在部署前制定并遵循 SDF,明文规定如何评估并缓解其大模型带来的非合理灾难性风险。
B. 灾难性风险定义。指化学、生物、放射及核(CBRN)威胁,以及大模型以违背开发者与用户意图的自主行为造成重大损害的风险。
C. 安全开发框架最低标准
明确适用该框架的大模型(含模型版本)。
说明该公司如何评估并缓解灾难性风险,包括技术标准、能力评测与缓解措施。
说明 SDF 的修订流程。
指定一名主要负责的高管,负责 SDF 的合规与实施。
详述内部举报机制,使员工可就 SDF 内容与执行提出关切,并确保免遭报复的保障。
要求受管辖公司在前沿大模型部署前,另行确认已落实 SDF 及相关政策与流程。
保存 SDF 及其历次更新文本不少于五年。
III. 最低透明度义务
A. 受管辖公司须:
于本公司注册并维护的公开网站,以易于获取的格式披露当前用于开发与评测模型的 SDF。
在部署新模型或为现有模型新增重大功能时,发布系统卡或同类文档,概述模型测试与评测流程、结果及依据 SDF 须实施的缓解措施。
对 SDF 要求的合规性进行认证,说明已实施的缓解措施,并在公开网站披露合规声明。
B. 若 SDF 或系统卡片中的信息属于商业秘密、机密商业信息,或泄露后会实质损害公共安全或模型安全,受管辖公司可做适当删减;公开文本须简要说明删减内容及理由。
IV. 执行机制
A. 禁止就 SDF 合规性作出故意虚假或重大误导性陈述。
B. 授权总检察长对重大违规行为提起民事处罚。
C. 违规行为享有 30 日整改期。
