欧盟启动《通用目的人工智能模型提供者义务适用范围指南》征求意见全文翻译

写在前面的话
欧盟人工智能法关于通用目的人工智能模型（GPAI）的规定将于8月2日生效，当前关于GPAI提供者义务履行证明的行为准则已经完成了第三稿（第三稿全文翻译见本公众号），今天宣布又将启动一份关于GPAI提供者义务适用范围的指南征求意见稿，本公众号第一时间制作了全文翻译，供大家第一时间学起来！
针对《欧盟委员会关于澄清通用目的人工智能模型提供者义务范围的指南草案》的征求意见稿
1. 征求意见的背景和目的
人工智能办公室正在启动一项多方利益相关者征求意见活动，以协助准备关于通用目的人工智能的指南，旨在澄清《人工智能法》（欧盟条例2024/1689）中通用目的人工智能模型提供者规则的适用范围。这些规则将于2025年8月2日开始生效。
人工智能（“AI”）有望为我们的经济和社会带来巨大利益。通用目的人工智能模型在这方面发挥着重要作用，因为它们可用于多种任务，并且可以作为一系列下游人工智能系统的基础。《人工智能法》旨在确保通用目的人工智能模型是透明、安全和可信的。
人工智能办公室致力于协助通用目的人工智能模型提供者遵守其在《人工智能法》下的义务。为此，委员会关于通用目的人工智能的指南预计将澄清《人工智能法》中的关键概念，例如什么是“通用目的人工智能模型”、“通用目的人工智能模型的提供者”、“通用目的人工智能模型的投放市场”以及如何估算用于训练通用目的人工智能模型的计算资源。除了这些概念上的澄清外，指南还预计将阐明人工智能办公室将如何与必须遵守通用目的人工智能规则的提供者合作，以支持他们的合规实施。委员会联合研究中心正在为这些指南提供科学依据。
委员会关于通用目的人工智能的指南将补充《通用目的人工智能行为准则》（“行为准则”），后者将详细说明通用目的人工智能模型提供者可以遵守的承诺，以确保其符合《人工智能法》下的义务。具体而言，行为准则将详细说明这些提供者如何确保符合《人工智能法》第53条适用于所有通用目的人工智能模型提供者的文档和版权义务。对于可能构成系统性风险的最先进模型，行为准则将概述这些模型的提供者如何确保在其整个生命周期内遵守系统性风险评估和缓解义务（《人工智能法》第55条）。在初步的多方利益相关者征求意见和几轮反馈之后，行为准则目前正由独立专家起草，得到了来自行业、民间社会、学术界等超过1000名利益相关者的输入。行为准则将与新兴的行业最佳实践和国际方法保持一致，确保提供者能够在维护消费者和中小企业对其所使用技术的信任的同时进行创新。
委员会关于通用目的人工智能的指南和最终的《通用目的人工智能行为准则》预计将于2025年5月或6月发布。与此同时，委员会还将发布包含训练内容摘要模板的单独指南，以协助通用目的人工智能模型的提供者履行其在《人工智能法》第53条第1款第（d）项下的义务。委员会已经发布了关于《人工智能法》下人工智能系统定义和被禁止的人工智能实践的指南。
尽管委员会关于通用目的人工智能的指南将不具有约束力，但它们将为委员会如何解释和适用《人工智能法》下的义务提供重要澄清，委员会是唯一负责监督和执行通用目的人工智能模型提供者义务的机构。预计指南将随着时间的推移而演变，并根据技术发展的需要进行更新。最终的权威解释权归欧盟法院（CJEU）所有。
本次针对性征求意见旨在收集广泛的输入和观点。我们邀请所有具有相关专业知识和观点的利益相关者通过本次调查1提交意见，截止日期为2025年5月22日中午12:00（中欧时间），特别是来自行业参与者（如通用目的人工智能模型的提供者以及基于这些模型构建下游人工智能系统的提供者）、民间社会、学术界、其他独立专家以及公共机构的意见。
2. 指南内容的初步概览
委员会关于通用目的人工智能的指南预计将涵盖以下主题：
什么是通用目的人工智能模型（第3.1节）；
谁是通用目的人工智能模型的提供者，下游修改者何时成为提供者（第3.2节）；
什么构成通用目的人工智能模型的投放市场，开源豁免何时适用（第3.3节）；
估算用于训练或修改模型的计算资源（第3.4节）；
过渡规则和追溯性（第3.5节）；
遵守和签署行为准则的后果（第3.6节）；
通用目的人工智能的监督和执行（第3.7节）。
3. 指南内容的初步思路
3.1 通用目的人工智能模型
“通用目的人工智能模型”的定义对于理解一个实体是否必须遵守《人工智能法》中关于通用目的人工智能模型的规则至关重要。
《人工智能法》第3条第（63）款将“通用目的人工智能模型”定义为“一种人工智能模型，包括通过大规模自监督训练使用大量数据训练的模型，该模型具有显著的通用性，并且能够胜任一系列不同的任务，无论该模型以何种方式投放市场，并且可以集成到各种下游系统或应用中，但不包括在投放市场之前用于研究、开发或原型设计活动的人工智能模型。” [重点添加]
委员会指南将基于以下序言条款提供指南：
《人工智能法》序言第97条：
“通用目的人工智能模型的概念应明确界定，并与人工智能系统的概念区分开来，以确保法律确定性。该定义应基于通用目的人工智能模型的关键功能特征，特别是通用性和能够胜任一系列不同任务的能力。这些模型通常通过各种方法（如自监督、非监督或强化学习）使用大量数据进行训练。(…) 虽然人工智能模型是人工智能系统的基本组成部分，但它们本身并不构成人工智能系统。人工智能模型需要添加其他组件（例如用户界面）才能成为人工智能系统。人工智能模型通常被集成到并成为人工智能系统的一部分。(…) 该定义不应涵盖在投放市场之前仅用于研究、开发和原型设计活动的人工智能模型。这不影响在这些活动之后投放市场的模型应遵守本条例的义务。”
《人工智能法》序言第98条：“模型的通用性可以通过多种参数来确定，具有至少十亿个参数并通过使用大量数据进行大规模自监督训练的模型应被视为具有显著通用性，并能够胜任一系列不同的任务。”
《人工智能法》序言第99条：“大型生成式人工智能模型是通用目的人工智能模型的典型例子，因为它们允许自由生成内容，例如文本、音频、图像或视频的形式，可以轻松适应一系列不同的任务。”
本指南的这一部分预计将提供关于何时应将模型视为通用目的人工智能模型的指南（第3.1.1节），并澄清模型与模型版本之间的区别（第3.1.2节）。
3.1.1 足够通用性和能力的条件
委员会指南预计将概述确定模型是否具有足够通用性和能力以将其归类为通用目的人工智能模型的实际条件。本指南的这一部分，特别是训练计算阈值，可能会随着技术的发展而改变。
要确定一个模型是否是通用目的人工智能模型，关键问题是该模型是否“具有显著通用性，并能够胜任一系列不同的任务”（《人工智能法》第3条第（63）款）。
鉴于通用目的人工智能模型的潜在用途多种多样，不可能提供一个精确的任务列表来确定一个模型是否“具有显著通用性，并能够胜任一系列不同的任务”。尽管在某些情况下可以使用基准测试和其他工具来评估模型的能力和通用性，以确定一个模型是否应被视为通用目的人工智能模型，但这些工具仍不够成熟，无法作为可靠的标准来对模型进行分类。此外，一个易于由潜在提供者检查的标准是可取的，以减少许多需要评估其是否为通用目的人工智能模型提供者的负担。
《人工智能法》序言第98条指出：“具有至少十亿个参数并使用大量数据通过大规模自监督训练的模型应被视为具有显著通用性，并能够胜任一系列不同的任务。”然而，《人工智能法》序言第98条未具体说明“大量数据”的含义。为了确定模型的通用性和能力，人工智能办公室的初步思路是根据用于训练模型的计算资源量（训练计算）设置一个阈值。这种方法将参数数量和训练数据量合并为一个数字（训练计算），该数字大致与参数数量和训练样本数量的乘积成正比，而不是分别衡量模型大小和训练数据大小。
训练计算是通用性和能力的不完美代理，但目前是法律确定性的最佳指标。人工智能办公室将继续分析是否有替代解决方案可以相对容易地评估通用性和能力，特别是对于较小的实体。
具体而言，人工智能办公室的初步方法是假设，如果一个能够生成文本和/或图像的模型的训练计算量大于10的22次方浮点运算（FLOP），则该模型是通用目的人工智能模型。这一阈值基于这样一个事实：能够生成文本和/或图像且具有十亿个参数的模型通常使用大约10的22次方FLOP进行训练（见附录A.1中的相关示例和计算）。关于如何估算训练计算量的通用指导，请参阅第3.4.1节。
不能生成文本和/或图像的模型，如果其通用性和能力与能够生成文本和/或图像的模型相当，也可能被视为通用目的人工智能模型。
基于训练计算量假设一个能够生成文本和/或图像的模型属于通用目的人工智能模型是可以反驳的。这意味着，如果其训练计算量达到阈值，该模型被认为具有足够的通用性和能力，符合通用目的人工智能模型的标准，除非有相反的证据。一个模型是否具有显著通用性，并能够胜任一系列不同的任务，不仅取决于训练计算量，还取决于训练数据的模态和其他特征。例如，仅用于语音转录的模型不应被视为能够胜任一系列任务的模型，即使其训练计算量达到阈值。因此，训练数据的模态或其他特定特征可能为反驳该假设提供依据。
如果一个能够生成文本和/或图像的模型的训练计算量低于10的22次方FLOP阈值，则该模型被认为缺乏足够的通用性和能力，不属于通用目的人工智能模型，除非有相反的证据。
符合范围的模型示例：
一个模型在从互联网收集和整理的广泛自然语言数据上进行训练，使用10的23次方FLOP。
该模型被假定为通用目的人工智能模型，因为该模型可以生成文本，并且其训练计算量达到了FLOP阈值。在广泛自然语言数据上进行训练也表明该模型应具有显著通用性，并能够胜任一系列不同的任务，因此不太可能反驳该假定。
一个模型在语音数据（即音频）上进行训练，但不涉及其他模态，使用10的23次方FLOP。基准测试显示其能够以与训练用于文本生成的通用目的人工智能模型相似的范围和性能水平执行任务。
该模型不被假定为通用目的人工智能模型，因为它不是用于生成文本或图像的训练。然而，基准测试表明，它应被视为通用目的人工智能模型。
不符合范围的模型示例：
一个模型在自然语言数据上进行训练，使用10的20次方FLOP。
该模型不被假定为通用目的人工智能模型，因为其训练计算量低于FLOP阈值。
一个模型在仅包含代码的专门数据集上进行训练，不涉及其他类型的文本，使用10的23次方FLOP。
该模型被假定为通用目的人工智能模型，因为该模型可以生成文本，并且其训练计算量达到了FLOP阈值。然而，这一假定可能被反驳，因为该模型只能胜任狭窄的一系列任务（编程）。
一个模型专门用于语音转文本的任务，使用10的23次方FLOP。
该模型被假定为通用目的人工智能模型，因为该模型可以生成文本，并且其训练计算量达到了FLOP阈值。然而，这一假定可能被反驳，因为该模型只能胜任狭窄的一系列任务（语音转录）。
一个模型专门用于提高输入图像的分辨率，而不是根据文本描述生成图像，使用10的23次方FLOP。
该模型被假定为通用目的人工智能模型，因为该模型可以生成图像，并且其训练计算量达到了FLOP阈值。然而，这一假定可能被反驳，因为该模型只能胜任狭窄的一系列任务（图像放大）。
3.1.2 区分不同模型与模型版本
委员会指南预计将详细说明何时将通用目的人工智能模型的提供者视为“不同模型”与同一模型的“模型版本”之间的区别。鉴于技术发展的演变，本指南的这一部分，特别是基于对大规模预训练的关注，未来可能会发生变化。
人工智能办公室的初步方法是将大规模预训练视为通用目的人工智能模型生命周期的起点。在此背景下，大规模预训练是指在大量数据上进行的基础训练，以构建模型的通用能力，这可能在较小的实验性训练之后进行，并且可能在后续进行微调以实现专业化或其他后训练增强。因此，人工智能办公室认为，通过同一实体进行另一次大规模预训练开发的任何通用目的人工智能模型构成“不同模型”。
《人工智能法》序言第97条指出，通用目的人工智能模型“可以被修改或微调成新模型”。人工智能办公室认为“微调”是“修改”通用目的人工智能模型的一种方式。目前，人工智能办公室认为，如果同一实体对模型的修改使用了超过将模型归类为通用目的人工智能模型所需的计算量的三分之一（如第3.1.1节所述，即目前大约为3×10的21次方FLOP），则修改将导致不同模型；如果这些修改导致系统性风险发生显著变化，则被视为具有系统性风险的通用目的人工智能模型，这被假定为使用了超过将模型归类为具有系统性风险的通用目的人工智能模型所需的计算量的三分之一（如《人工智能法》第51条第（2）款所述，即目前大约为3×10的24次方FLOP）。相比之下，目前，人工智能办公室认为，同一实体基于相同的大规模预训练开发的所有其他通用目的人工智能模型实例构成同一通用目的人工智能模型，并且仅仅是不同的“模型版本”。
不同模型与模型版本之间的区分对通用目的人工智能模型提供者为遵守其义务所需采取的行动有影响：
根据《人工智能法》第53条第（1）款第（a）和（b）点，必须为投放市场的每种不同模型分别起草文档，并在提供该模型的不同版本时进行更新。
相比之下，根据《人工智能法》第53条第（1）款第（c）点，版权政策可以由提供者一次性制定，然后适用于其所有不同模型及其版本。
根据《人工智能法》第53条第（1）款第（d）点，必须为投放市场的每种不同模型分别起草并公开发布训练内容摘要，并在提供该模型的不同版本时根据需要进行更新。目前正在准备中的模板将具体说明在不同模型版本的情况下何时需要更新模板。
根据《人工智能法》第55条第（1）款，必须在每个不同模型的整个生命周期内的适当里程碑分别进行系统性风险评估和技术缓解措施。开发给定不同模型的不同版本可能需要进行新的系统性风险评估，并可能需要技术缓解措施。目前正在起草的通用目的人工智能行为准则将具体说明在何种情况下开发给定不同模型的不同版本需要进行新的系统性风险评估，并可能需要技术缓解措施。相比之下，根据《人工智能法》第55条第（1）款，治理缓解措施可以由提供者一次性制定，然后适用于其所有不同模型及其版本。
关于下游实体（与原始提供者不同）修改给定通用目的人工智能模型可能面临的潜在法律义务的问题在第3.2.2节中讨论。
3.2 通用目的人工智能模型的提供者，包括下游修改者
“提供者”的定义对于理解一个实体是否必须遵守《人工智能法》中关于通用目的人工智能模型的规则至关重要。
《人工智能法》第3条第（3）款将“通用目的人工智能模型的提供者”定义为“开发（……）通用目的人工智能模型的自然人或法人、公共机构、机构或其他组织，或者拥有（……）通用目的人工智能模型并将其投放市场的（……）”。根据《人工智能法》第2条第（1）款第（a）点，如果通用目的人工智能模型的提供者在联盟市场投放模型，“无论其是否设立或位于在联盟境内或第三国”，均属于《人工智能法》的适用范围。在后一种情况下，为便于合规，提供者有义务在将模型投放联盟市场之前，“任命在联盟境内设立的授权代表”，根据《人工智能法》第54条。
“提供者”的定义不仅与《人工智能法》中的通用目的人工智能部分有关，还与其他涉及人工智能系统的部分有关。为了避免委员会发布多个文件导致重要信息分散的情况，本指南的这一部分将专门澄清谁被认为是受通用目的人工智能模型提供者义务约束的主体，通过提供具体示例（第3.2.1节），以及澄清下游实体何时可能成为通用目的人工智能模型的提供者（第3.2.2节）。
3.2.1 通用目的人工智能模型提供者的示例
以下列表澄清了在各种假设场景中，谁是通用目的人工智能模型的提供者：
如果实体A开发了一个通用目的人工智能模型并将其投放市场，那么实体A就是提供者。
如果实体A委托实体B开发了一个通用目的人工智能模型，并且实体A将该模型投放市场，那么实体A就是提供者。
如果实体A开发了一个通用目的人工智能模型，并将其上传到由实体C托管的在线仓库，那么实体A就是提供者。
如果实体A开发了一个通用目的人工智能模型，并在联盟市场内或外将其提供给实体DM，实体DM根据第3.2.2节对其进行修改，并将修改后的模型投放市场，那么：
实体A是原始模型的提供者，必须遵守通用目的人工智能模型提供者的义务；
实体DM是修改后模型的提供者（“下游修改者”，见第3.2.2节），并且必须遵守通用目的人工智能模型提供者的义务，除非修改后的模型不属于通用目的人工智能模型。
如果实体A开发了一个通用目的人工智能模型，并在联盟市场内或外将其提供给实体DP，实体DP将该模型集成到人工智能系统中，并将该系统投放市场或投入使用，那么：
实体A是模型的提供者，必须遵守通用目的人工智能模型提供者的义务；
实体DP是系统（“下游提供者”，见《人工智能法》第3条第（66）款）的提供者，必须遵守所适用的人工智能系统的要求。
如果一个合作组织或联盟委托不同的个人和/或组织开发了一个通用目的人工智能模型，并将该模型投放市场，那么通常合作组织或联盟的协调者是提供者，或者合作组织或联盟本身可能是提供者。这需要根据具体情况评估。
3.2.2 下游修改者作为通用目的人工智能模型的提供者
本指南的这一部分预计将通过具体说明在何种条件下修改通用目的人工智能模型的实体（“下游修改者”）必须遵守《人工智能法》中关于通用目的人工智能模型提供者的义务，以及关于具有系统性风险的通用目的人工智能模型提供者的义务，来澄清人工智能价值链中的责任。
《人工智能法》序言第97条指出，通用目的人工智能模型“可以被修改或微调成新模型”，《人工智能法》序言第109条进一步指出，“在模型被修改或微调的情况下，通用目的人工智能模型提供者的义务应限于该修改或微调，例如通过补充已有的技术文档，提供有关修改的信息，包括新的训练数据来源，作为遵守本条例价值链义务的一种方式”。人工智能办公室认为“微调”是“修改”通用目的人工智能模型的一种方式。
同时，与《人工智能法》等横向蓝皮书指南一致，蓝皮书指出：“经过重要修改或重大修以改变其原始性能、目的或类型的产品，可以被视为新产品”，人工智能办公室认为，并非每一次对通用目的人工智能模型的修改都应导致下游修改者被视为受《人工智能法》中义务约束的通用目的人工智能模型提供者。相反，人工智能办公室认为，只有那些对《人工智能法》中通用目的人工智能模型提供者义务背后的理由有重大影响的修改，才应导致下游修改者被视为通用目的人工智能模型的提供者，以满足《人工智能法》中的相应义务。例如，就具有系统性风险的通用目的人工智能模型而言，只有导致系统性风险发生显著变化的修改，才应导致下游修改者被视为具有系统性风险的通用目的人工智能模型的提供者。
具体而言，人工智能办公室的初步方法是根据用于修改的计算资源量设置某些阈值，如果达到这些阈值，则假定下游修改者应被视为经过修改的通用目的人工智能模型或具有系统性风险的通用目的人工智能模型的提供者，并受《人工智能法》中的相关义务约束。
在此背景下，应区分适用于所有通用目的人工智能模型提供者的义务和仅适用于具有系统性风险的通用目的人工智能模型提供者的义务。前者规定在《人工智能法》第53条（不包括附件XI第2节的信息文档义务）和第54条。后者规定在《人工智能法》第52条和第55条。
本指南中提供的条件和阈值可能会在未来由人工智能办公室根据修改及其对模型通用性、能力和系统性风险影响的技术发展进行更新。
下游修改者作为通用目的人工智能模型的提供者
对给定通用目的人工智能模型进行修改并将其投放市场的下游修改者，如果用于修改模型的计算资源量大于原始模型的训练计算阈值的三分之一（如第3.1.1节所述，即目前大约为3×10的21次方FLOP），则应被假定为通用目的人工智能模型的提供者，针对修改部分，必须遵守《人工智能法》中关于所有通用目的人工智能模型提供者的义务。
第3.1.1节选择训练计算阈值的三分之一作为指示性阈值，是因为当使用超过这一计算量对模型进行修改时，修改后的模型可以预期在属性和行为上发生显著变化，包括与原始模型相比通用性和能力发生显著变化。这些差异可能对人工智能办公室、国家主管当局和/或下游提供者具有重要意义，并且证明下游修改者应受《人工智能法》第53条第（1）款第（a）和（b）点的义务约束是合理的。可以预期，达到这一阈值的修改也使用了大量的数据，这可能对版权政策和训练内容摘要具有重要意义，证明修改者应受《人工智能法》第53条第（1）款第（c）和（d）点的义务约束是合理的。尽管目前很少有修改可能达到这一阈值，但随着时间的推移，随着用于修改模型的计算量增加，更多的下游修改者可能会被纳入范围。
根据《人工智能法》序言第109条，如果一个下游修改者根据上述标准成为通用目的人工智能模型的提供者，那么其义务仅限于所进行的修改。也就是说，根据《人工智能法》第53条第（1）款第（a）和（b）点所需的技术文档仅需涉及修改，根据《人工智能法》第53条第（1）款第（c）点的版权政策以及根据《人工智能法》第53条第（1）款第（d）点的训练内容摘要仅需考虑修改中使用的数据。提供者还必须遵守《人工智能法》第54条第（1）款。
下游修改者作为具有系统性风险的通用目的人工智能模型的提供者
对给定通用目的人工智能模型进行修改并将其投放市场的下游修改者，如果满足以下两个条件之一，则应被假定为具有系统性风险的通用目的人工智能模型的提供者，必须遵守《人工智能法》中关于具有系统性风险的通用目的人工智能模型提供者的义务：
原始模型是具有系统性风险的通用目的人工智能模型，并且用于修改模型的计算资源量大于原始模型的训练计算阈值的三分之一（如《人工智能法》第51条第（2）款所述，即目前大约为3×10的24次方FLOP）；
原始模型不是具有系统性风险的通用目的人工智能模型，下游修改者知道或可以合理预期知道用于训练该原始模型的累计计算资源量，并且该数量与用于修改模型的计算资源量之和大于《人工智能法》第51条第（2）款所述的原始模型的训练计算阈值（即目前为10的25次方FLOP）。
选择第一个条件中的阈值是因为，当使用原始模型被视为具有系统性风险的通用目的人工智能模型的训练计算阈值的三分之一（如《人工智能法》第51条第（2）款所述，即目前为10的25次FLOP）的计算量对模型进行修改时，修改后的模型可以预期与原始模型相比系统性风险发生显著变化。特别是，人工智能办公室认为，原始提供者不能合理预期在其系统性风险评估和缓解中考虑到这种修改带来的系统性风险变化。截至目前，人工智能办公室假设没有下游修改显著改变系统性风险。人工智能办公室进一步假设，目前来说很少或没有修改达到指定的阈值。因此，第一个条件是前瞻性的，并且与《人工智能法》的基于风险的方法一致。
第二个条件的设置是为了确保那些修改不是具有系统性风险的通用目的人工智能模型并且不满足第一个条件的阈值，但修改后的模型的累计训练计算量大于《人工智能法》第51条第（2）款所述的原始模型被视为具有系统性风险的通用目的人工智能模型的训练计算阈值（即目前为10的25次FLOP）的实体被纳入具有系统性风险的通用目的人工智能模型的义务范围。这是因为在这种情况下，原始模型没有经过任何系统性风险评估或缓解，因为该模型不是具有系统性风险的通用目的人工智能模型，因此任何由修改后的模型带来的系统性风险都没有被原始模型的提供者评估和缓解。
如果一个下游修改者根据上述标准成为具有系统性风险的通用目的人工智能模型的提供者，那么其义务不限于所进行的修改。也就是说，根据《人工智能法》第55条第（1）款所需的系统性风险评估和缓解应针对修改后的模型重新进行，考虑有关原始模型的任何可用信息。提供者还必须根据《人工智能法》第52条第（1）款通知委员会。
3.3 通用目的人工智能模型的投放市场及开源豁免
“投放市场”的定义对于理解一个实体是否必须遵守《人工智能法》中通用目的人工智能模型提供者的义务至关重要。
《人工智能法》第3条第（9）款将通用目的人工智能模型的“投放市场”定义为“（……）在联盟市场投放（……）通用目的人工智能模型”，而《人工智能法》第3条第（10）款将通用目的人工智能模型的“投放市场”定义为“在商业活动中（……）提供（……）通用目的人工智能模型，以在联盟市场进行分销或使用，无论是否收取费用”。
本指南预计将基于《人工智能法》序言第97条已经提供的指导：“（……）通用目的人工智能模型可以通过多种方式投放市场，包括通过库、应用程序接口（API）、直接下载或作为物理副本。 （……）应理解，一旦通用目的人工智能模型投放市场，通用目的人工智能模型提供者的义务就应适用。当通用目的人工智能模型的提供者将其自有模型集成到其投放市场或投入使用的自有人工智能系统中时，该模型应被视为已投放市场，因此，本条例对模型的义务应继续适用，除了对人工智能系统的义务外。在任何情况下，当自有模型仅用于不涉及向第三方提供产品或服务且不影响自然人权利的内部流程时，不应适用对模型的义务。考虑到其潜在的重大负面影响，具有系统性风险的通用目的人工智能模型应始终受本条例下的相关义务约束。（……）”
“投放市场”的定义不仅与《人工智能法》中的通用目的人工智能部分有关，还与其他涉及人工智能系统的部分有关。为了避免委员会发布多个文件导致重要信息分散的情况，本指南将专门澄清什么是将通用目的人工智能模型投放市场，通过提供具体示例（第3.3.1节），以及澄清在何种情况下以开源方式发布的通用目的人工智能模型的提供者可以享受某些义务的豁免（第3.3.2节）。
3.3.1 通用目的人工智能模型投放市场的示例
以下列表提供了各种通用目的人工智能模型应被视为已投放市场的情况：
通用目的人工智能模型通过软件库或包提供；
通用目的人工智能模型通过应用程序接口（API）提供；
通用目的人工智能模型上传到公共仓库供直接下载（详情见第3.3.2节）；
通用目的人工智能模型以物理副本的形式提供；
通用目的人工智能模型通过云计算服务提供；
通用目的人工智能模型复制到客户的自有基础设施上；
通用目的人工智能模型集成到通过网络界面提供的聊天机器人中；
通用目的人工智能模型集成到通过应用商店提供的移动应用中；
通用目的人工智能模型集成到提供者投放市场的产品或服务中。
这些示例应根据蓝皮书提供的关于“投放市场”定义的横向指导以及《人工智能法》中的相关条款（第3条第（9）和（10）款以及序言第97条）进行解释。
3.3.2 以开源方式发布的通用目的人工智能模型的某些义务豁免
本指南的这一部分预计将澄清何时可以适用《人工智能法》中关于以开源方式发布的通用目的人工智能模型提供者的某些义务豁免，特别是这些豁免适用的条件。
原则上，《人工智能法》适用于投放市场的以开源方式发布的通用目的人工智能模型的提供者。然而，根据《人工智能法》序言第102条，“根据允许公开共享的自由和开源许可发布的软件和数据，包括模型，用户可以自由访问、使用、修改和重新分发这些模型或其修改版本，这可以为市场上的研究和创新做出贡献，并为联盟经济提供重要的增长机会。”因此，《人工智能法》为符合特定条件的此类模型的提供者提供了从若干义务中豁免的条款。
首先，《人工智能法》第53条第（2）款包含对提供者的义务豁免，这些义务涉及向人工智能办公室和国家主管当局提供信息，以及向打算将模型集成到其系统中的下游提供者提供信息：“第1款第（a）和（b）点所述的义务不适用于根据允许访问、使用、修改和分发模型的自由和开源许可发布的AI模型的提供者，并且其参数（包括权重、模型架构信息和模型使用信息）已公开提供。这一例外不适用于具有系统性风险的通用目的人工智能模型。”
其次，《人工智能法》第54条第（6）款包含对在第三国设立的通用目的人工智能模型提供者的义务豁免，这些提供者根据相同的条件任命授权代表：“本条所述的义务不适用于根据允许访问、使用、修改和分发模型的自由和开源许可发布的通用目的人工智能模型的提供者，并且其参数（包括权重、模型架构信息和模型使用信息）已公开提供，除非通用目的人工智能模型存在系统性风险。”
要适用这些豁免，提供者的模型必须满足以下条件：
通用目的人工智能模型根据允许访问、使用、修改和分发模型的自由和开源许可发布：
“访问”意味着许可规定任何感兴趣的人都可以自由获得该模型，无需支付费用或其他限制。
“使用”意味着许可保证原始提供者不会利用其知识产权限制或对模型的使用收费，受有限条件的约束。这些有限条件只能确保“模型的原始提供者得到认可，相同的、可比的分发条款得到尊重”（《人工智能法》序言第102条）。
“修改”意味着许可允许任何人在无需支付费用或其他限制的情况下自由对模型进行修改。
“分发”意味着许可允许那些访问、使用和修改通用目的人工智能模型的人自由地将其进一步分发，受有限条件的约束。同样，这些有限条件只能确保“模型的原始提供者得到认可，相同的或可比的分发条款得到尊重”（《人工智能法》序言第102条）。
“免费和开源”不仅包括上述自由访问、使用、修改和分发的概念，还表明该模型及其相关服务应免费提供（《人工智能法》序言第103条）。为了适用豁免，不应要求为访问通用目的人工智能模型或相关服务支付任何货币补偿。货币化包括以对价提供模型或任何形式的货币化。对于微型企业之间的交易以外的情况，货币化包括提供技术支持和其他服务，或使用从模型或相关服务的使用中收集的个人数据，除非这些个人数据仅用于改善软件的安全性、兼容性或互操作性。“通过开放仓库使[通用目的人工智能模型]可用本身并不构成货币化。”（《人工智能法》序言第103条）
参数（包括权重）、模型架构信息和模型使用信息已公开提供：这要求以一种格式和清晰度提供包含模型参数（包括权重）的文件以及支持文档，以便根据自由和开源许可进行使用、修改和分发。
通用目的人工智能模型不是具有系统性风险的通用目的人工智能模型。
3.4 估算用于训练或修改模型的计算资源
《人工智能法》包含一个涉及用于训练通用目的人工智能模型的计算资源（计算量）的阈值，该阈值可能导致模型被归类为具有系统性风险的通用目的人工智能模型。第3.1.1节和第3.2.2节引入了也涉及计算量的阈值。要了解模型是否达到这些阈值中的任何一个，潜在提供者必须估算所使用的计算量。本指南的这一部分旨在提供关于他们如何这样做的指导。第3.4.1节描述了潜在提供者可以用来估算用于训练或修改人工智能模型的计算量的两种广泛使用的方法。第3.4.2节具体说明了潜在提供者如何进一步估算用于训练通用目的人工智能模型的累计计算资源量，根据《人工智能法》第51条第（2）款、第52条第（1）款和序言第111条，包括应包括在计算中的内容、如何以及何时进行估算。
3.4.1 估算用于训练或修改的计算量
可以使用两种方法估算用于训练或修改模型的计算量：通过跟踪图形处理单元（GPU）使用情况（基于硬件的方法），或根据模型架构估算预期的浮点运算次数（基于架构的方法）。潜在提供者可以选择使用这两种方法中的哪一种来确定其模型是否达到第3.1.1节或第3.2.2节中分别规定的阈值。在任何情况下，所有操作应平等计算，无论浮点精度如何。此外，修改最终结果不超过5%的近似值被视为有效。
基于硬件的方法
要基于硬件估算其训练计算量，通用目的人工智能模型的潜在提供者应首先确定：
用于训练或修改的GPU数量（N）；
总训练时长（L，以秒为单位）；
所用GPU的峰值理论性能（H，以每秒浮点运算次数（FLOP/second）为单位，如果使用不同类型的GPU和/或相同类型的GPU使用不同的数字格式，则通过加权平均值计算）；
实现的GPU利用率（U）。
然后可以根据以下公式计算训练计算量（C，以FLOP为单位）：
𝐶 = 𝑁 ⋅ 𝐿 ⋅ 𝐻 ⋅ 𝑈.
附录A.1节包含了使用这种方法的示例计算。
基于架构的方法
这种方法基于模型架构估算用于训练或修改的计算资源量。
基于神经网络的人工智能模型（目前几乎所有通用目的人工智能模型或潜在通用目的人工智能模型都是如此）通过一系列正向和反向传递进行训练。训练计算量（C，以FLOP为单位）是训练期间进行的完整传递次数（一个完整传递是正向和反向传递的组合）与一个完整传递中执行的总操作次数的乘积，即
C =训练期间进行的正向传递次数*每个完整传递的操作次数
对于基于Transformer架构的大模型，提供者可以使用以下近似公式估算C：
𝐶 ≈ 6 ⋅ 𝑃 ⋅ 𝐷
其中P表示每个正向传递中激活的模型参数总数，C表示用于训练的总训练样本数（例如，https://arxiv.org/abs/2001.08361）。
附录A.1节包含了使用这种方法的示例计算。
3.4.2 估算用于训练的累计计算资源量
应计算什么？
根据《人工智能法》第51条第（1）款第（a）点，如果通用目的人工智能模型具有“通过适当的技术工具和方法（包括指标和基准）评估的高影响力能力”，则该模型被归类为具有系统性风险的通用目的人工智能模型。此外，《人工智能法》第51条第（2）款规定，“当用于训练通用目的人工智能模型的计算量（以浮点运算次数为单位）的累计值大于10的25次方时，应假定通用目的人工智能模型具有第1款第（a）点所述的高影响力能力。”
关于如何理解用于训练模型的“累计计算量”（累计训练计算量），《人工智能法》序言第111条指出：“用于训练的累计计算量包括用于增强模型在部署前能力的活动和方法中使用的计算量，例如预训练、合成数据生成和微调。”
人工智能办公室将这些活动和方法理解为仅限于作为模型训练的一部分进行的活动和方法（例如预训练、微调、从人类反馈中进行强化学习），或直接为训练提供输入的活动（例如合成数据生成），而不包括在大规模预训练之前进行的活动（例如研究和开发活动、原型设计和测试、小规模测试运行以及超参数调整），或在推理时增强模型能力的活动（例如脚手架）。
如何计算？
为了估算模型的累计训练计算量，提供者可以使用第3.4.1节中指定的基于硬件的方法或基于架构的方法，确保在任何情况下都已根据上述指导，将作为训练的一部分或直接为训练提供输入并旨在增强模型能力的所有活动和方法纳入计算范围。
为了估算用于生成合成数据的计算量，人工智能办公室认识到，在提供者从其未开发的模型生成合成数据，或者从第三方获得合成数据集的情况下，提供者可能无法直接计算用于生成合成数据的计算量。这进一步被合成数据生成的复杂性所困扰，因为在合成数据生成的情况下，可能会产生多个输出并通过过滤（例如通过拒绝采样）来产生单个高质量输入，并且提供者可能不知道拒绝率。因此，人工智能办公室的初步方法是允许提供者在无法获得精确信息时使用合理估算。在这种情况下，提供者应记录其估算方法。随着技术的发展，这种方法可能会发生变化。
当模型是通过组合多个较小的模型创建的，例如通过混合专家技术，或者通过集成预先存在的模型参数，例如通过参数初始化，最终模型的训练计算量估算应包括用于训练原始模型的训练计算量。
何时计算？
本指南的这一部分将澄清提供者应在何时根据《人工智能法》第52条第（1）款，通知委员会其通用目的人工智能模型已达到或将达到《人工智能法》第51条第（3）款中的计算量阈值。
根据《人工智能法》第52条第（1）款，满足《人工智能法》第51条第（1）款第（a）点所述条件的“通用目的人工智能模型”的提供者必须“毫不延迟地通知委员会，并且无论如何在满足该要求或知晓将满足该要求后的两周内通知”。此外，“通知应包括证明相关要求已得到满足的必要信息。”关于何时提供者应知晓其通用目的人工智能模型将满足《人工智能法》第51条第（2）款中规定的阈值，《人工智能法》序言第112条指出：“通用目的人工智能模型的训练需要相当的规划，这包括预先分配计算资源，因此通用目的人工智能模型的提供者能够在训练完成前知道其模型是否会达到该阈值。”
人工智能办公室假设《人工智能法》序言第112条中提到的“规划”和“预先分配计算资源”是在大规模预训练开始之前进行的活动，并且它们允许估算用于训练模型的预训练计算量。尽管累计计算量可能更大（尽管在当前训练最先进的通用目的人工智能模型的范式中，预训练计算量仍然占累计训练计算量的绝大部分），但提供者在开始预训练之前可能不知道这个数量是多少。
因此，人工智能办公室的初步方法是期望提供者在开始大规模预训练之前，根据第3.4.1节中指定的两种方法之一估算他们将使用的预训练计算量，并在估算值达到《人工智能法》第51条第（2）款中规定的阈值时，根据《人工智能法》第52条第（1）款，在“毫不延迟地在两周内”通知委员会。
如果估算值未达到《人工智能法》第51条第（2）款中规定的阈值，提供者应密切监控其实际和预期的计算使用情况，包括在大规模预训练完成后，以便他们能够知晓并且在累计计算量达到或预计达到该阈值时，根据《人工智能法》第52条第（1）款通知委员会。
当通用目的人工智能模型的提供者知晓其模型已达到或预计将达到《人工智能法》第51条第（2）款中规定的训练计算量阈值时，人工智能办公室将“证明相关要求已得到满足的必要信息”解释为至少应包含以下内容：
由提供者估算的触发通知要求的计算量，以FLOP为单位，并保留两位有效数字；
估算该计算量所使用的方法描述，包括在无法轻易获得精确信息时所使用的估算方法。
3.5 过渡规则、追溯性
根据《人工智能法》第111条第（3）款，“在2025年8月2日之前已投放市场的通用目的人工智能模型的提供者应采取必要的措施，以遵守本条例规定的义务，不迟于2027年8月2日。”
人工智能办公室认识到，在《人工智能法》中通用目的人工智能模型提供者义务于2025年8月2日生效后的几个月内，一些提供者可能在确保及时遵守其《人工智能法》下的义务方面面临各种挑战。因此，人工智能办公室致力于支持提供者采取必要的措施以遵守其义务。具体包括：
对于在2025年8月2日之前已投放市场的通用目的人工智能模型，提供者必须在2027年8月2日之前采取必要的措施以遵守其义务。这并不需要对2025年8月2日之前已经训练的模型进行重新训练或遗忘，当实施版权合规措施对过去的行为不可能时，当一些训练数据的信息不可用时，或者当获取这些信息会给提供者带来不成比例的负担时。这些情况必须在版权政策和训练内容摘要中明确说明并披露。
对于在2025年8月2日之前已投放市场的具有系统性风险的通用目的人工智能模型，预计会遇到遵守义务困难的提供者应与人工智能办公室联系，讨论如何支持他们遵守义务。
对于在2025年8月2日当天已经训练、正在训练或计划训练通用目的人工智能模型的提供者，目的是在2025年8月2日之后将模型投放市场，并且预计会遇到遵守所有通用目的人工智能模型提供者义务困难的，他们应主动告知人工智能办公室他们将如何以及何时采取必要的措施以遵守其义务。
对于在2025年8月2日当天已经训练、正在训练或计划训练具有系统性风险的通用目的人工智能模型的提供者，目的是在2025年8月2日之后将模型投放市场，人工智能办公室期望提供者毫不延迟地并且无论如何在2025年8月2日之后的两周内根据《人工智能法》第52条第（1）款通知人工智能办公室。如果提供者预计会遇到遵守其他具有系统性风险的通用目的人工智能模型提供者义务的困难，他们应将这些困难与人工智能办公室沟通，以便在通知时一并考虑。在特殊情况下，如果提供者在2025年8月2日之前从未投放过具有系统性风险的通用目的人工智能模型，人工智能办公室将特别考虑他们的困难情况，以确定采取必要措施遵守其义务的任何截止日期，以便及时投放市场。
3.6 签署和遵守行为准则的效果
签署行为准则的通用目的人工智能模型提供者将在遵守《人工智能法》方面表现出透明度，因此将从委员会和其他利益相关者那里获得更多的信任。尽管可以通过多种方式证明遵守《人工智能法》，但遵守经人工智能办公室和委员会批准的行为准则是证明遵守《人工智能法》的直接和透明的方式（《人工智能法》第53条第（4）款和第55条第（2）款）。对于行为准则的签署者，可以预期委员会将专注于监测对行为准则的遵守情况（《人工智能法》第89条第（1）款）。委员会可以通过实施，从而使行为准则在联盟内具有普遍效力（《人工智能法》第56条第（6）款）。
未签署行为准则的提供者应通过向人工智能办公室报告他们为遵守《人工智能法》义务而采取的措施，以其他适当、有效和成比例的方式证明其遵守《人工智能法》。此外，未签署行为准则的提供者应解释他们采取的措施如何确保其遵守《人工智能法》下的义务，例如通过进行差距分析。最后，未签署行为准则的提供者可能会收到更多要求提供信息和允许进行模型评估的请求，因为对于他们如何确保遵守《人工智能法》下的义务可能缺乏明确性。
委员会在确定罚款金额时，可能会将行为准则中的承诺视为一个减轻因素，具体取决于具体情况（《人工智能法》第101条第（1）款）。
没有系统性风险的通用目的人工智能模型的提供者可以自愿选择遵守与具有系统性风险的通用目的人工智能模型提供者相关的承诺（《人工智能法》第56条第（7）款），就其没有系统性风险的通用目的人工智能模型而言。在这种情况下，人工智能办公室将仅在提供者开发具有系统性风险的通用目的人工智能模型时，监测对与具有系统性风险的通用目的人工智能模型提供者相关的承诺的遵守情况（《人工智能法》第89条第（1）款）。
行为准则中的承诺仅在《人工智能法》中通用目的人工智能模型提供者义务于2025年8月2日生效后，才与评估提供者遵守《人工智能法》相关。如果行为准则无法在2025年8月2日之前最终确定，委员会可以通过实施令制定适用于所有通用目的人工智能模型和具有系统性风险的通用目的人工智能模型的提供者的共同规范（《人工智能法》第56条第（9）款）。行为准则是直到制定出协调标准为止的临时工具（《人工智能法》第40条）。如果在标准化请求后，协调标准未能及时或以令人满意的方式制定，委员会可以通过实施行为通过实施令（《人工智能法》第41条）采纳共同规范。
3.7 通用目的人工智能规则的监督和执行
人工智能办公室将监督和执行《人工智能法》中规定的通用目的人工智能模型提供者的义务（《人工智能法》第88条），以及当模型和系统的提供者相同时，基于通用目的人工智能模型的人工智能系统的合规性（《人工智能法》第75条第（1）款）。以下澄清涉及通用目的人工智能模型提供者义务的监督和执行。
人工智能办公室将采取合作和成比例的执行方式。人工智能办公室期望在通用目的人工智能模型的训练期间与提供者进行非正式的密切合作，以简化合规流程并确保市场投放无延迟，特别是对于具有系统性风险的通用目的人工智能模型的提供者。此外，人工智能办公室期望具有系统性风险的通用目的人工智能模型的提供者主动报告，无论是否收到请求，作为行为准则下的承诺或证明合规的其他方式的一部分。
人工智能办公室根据《人工智能法》授予的权力进行执法，即请求信息（《人工智能法》第91条）、对通用目的人工智能模型进行评估（《人工智能法》第92条）、要求提供者采取措施（包括实施风险缓解措施和从市场召回模型）（《人工智能法》第93条）以及从2026年8月2日起，在一年的宽限期后，处以高达全球年营业额3%或1500万欧元的罚款，以较高者为准（《人工智能法》第101条）。将发布更详细的实施令，特别是源自《人工智能法》第92条和第101条的实施令，以进一步具体说明这些权力的实施。人工智能办公室将确保在执行其任务和活动过程中获得的数据的保密性，以保护自然人或法人特别是知识产权、商业机密或商业秘密以及公共安全和安全保障（根据《人工智能法》第78条）。
附录
A.1 训练具有大约十亿参数的模型所使用的计算量
第3.1.1节中关于模型被视为通用目的人工智能模型的初步计算量阈值提案是基于实际用于训练具有大约十亿参数的广泛使用模型的计算量估算得出的。尽管我们不提及模型及其提供者的名称，但我们在以下内容中分享了与我们的初步估算相关的相关信息。该估算基于以下四个模型：
模型A（具有11亿参数的语言模型）：2×10的22次方FLOP。
模型B（具有10亿参数的语言模型）：3×10的21次方FLOP。
模型C（具有38亿参数的语言模型）：7.5×10的22次方FLOP。
模型D（具有10亿参数的图像扩散模型）：1.2×10的23次方FLOP。
上述值是通过以下计算得出的，这些计算也用于说明第3.3.1节中描述的两种估算方法。
模型A：
基于架构的方法：模型A是一个基于Transformer解码器架构的语言模型，具有11亿参数，在3万亿个标记上进行训练。应用第3.4.1节中的训练计算量C的近似公式，得出
𝐶 ≈ 6𝑃𝐷 = 6 ⋅ 1.1 ⋅ 10的9次方 ⋅ 3 ⋅ 10的12次方 = 1.98 ⋅ 10的22方 FLOP.
基于硬件的方法：模型A的文档还提到，使用A100 GPU在3000亿个标记上训练它需要3456个GPU小时，这意味着如果模型在3万亿个标记上进行训练，则完整的训练运行需要35000个GPU小时。这意味着：使用第3.4.1节中的基于硬件的方法，总计算量为𝐶 = 𝑁 ⋅ 𝐿 ⋅ 𝐻 ⋅ 𝑈 ≈ 2.1 ⋅ 10的22次方 FLOP，这证实了通过基于架构的方法得出的大约估算值。
GPU数量N和总训练时长L的乘积为；𝑁𝐿 =35,000 x 3,600秒
每个GPU的峰值性能为每秒 H = 300 x 10的12次方FLOP/second，根据NVIDIA A100数据表6；
GPU利用率为U=如模型文档所示中的56%。
模型B：
基于硬件的方法：模型B是一个具有10亿参数的基于Transformer解码器架构的语言模型，使用4830个GPU小时在40GB A100 GPU上进行训练。假设与模型A相同的峰值性能和GPU利用率数字，这意味着总计算量为𝐶 = 𝑁 ⋅ 𝐿 ⋅ 𝐻 ⋅ 𝑈 ≈ 3 ⋅ 10的21次方FLOP
模型C：
基于架构的方法：模型C是一个具有38亿参数的基于Transformer解码器架构的语言模型，在3.3万亿个标记上进行训练。第3.4.1节中的近似公式得出𝐶 ≈ 6 ⋅ 𝑃 ⋅ 𝐷 = 6 ⋅ 3.8 ⋅ 10的9次方 ⋅ 3.3 ⋅ 10的12次方 ≈ 7.5 ⋅ 10的22次方 FLOP.
模型D：
基于硬件的方法：模型D是一个著名的图像生成扩散模型。根据其模型卡，它在40GB A100 GPU上总共训练了200000个GPU小时。假设与之前相同的峰值性能和GPU利用率数字，这意味着总计算量为𝐶 = 𝑁 ⋅ 𝐿 ⋅ 𝐻 ⋅ 𝑈 ≈ 1.2 ⋅ 10的23次方 FLOP.