摘要
AI Security Test
基础模型的监管是全球各国立法中争议颇多的议题。欧盟拟议《人工智能法》在最后时刻激烈讨论对基础模型的规制。2023 年 12 月 22 日，美国众议员 Anna Eshoo 和 Don Beyer 提出了《人工智能基础模型透明度2023年法案》。该法案用于指示FTC制定公开人工智能基础模型所使用的训练数据和算法信息的标准，并用于其他目的。该法案对基础模型采取了技术参数定义，并提出了透明性的具体义务内容。译者翻译法案供各位参考。
基础模型透明度2023年法案
AI Foundation Model Transparence Act
Section 1 简称
本法可称为 《人工智能基础模型2023年透明度法案》。
Section 2 调查结果
国会认为
（1）随着公众获取人工智能的机会越来越多，诉讼和公众对侵犯版权的关注也越来越多了。包括在以下案件：
(A) Doe 1 v. GitHub, Inc., No. 22-cv- 06823, 2023 WL 3449131, at *1 (N.D. Cal. May 11, 2023).
(B) Amended Complaint, Getty Images, Inc. v. Stability AI, Ltd., No. 23-cv-00135 (D. Del. Mar. 29, 2023).
(C) Andersen v. Stability AI Ltd., No. 23- cv-00201, 2023 WL 7132064, at *1 (N.D. Cal. Oct. 30, 2023).
（2）基础模型的公开使用导致了无数次向公众展示不准确、不精确或有偏见信息，因为在推理过程中，基于有限的训练数据，限制了模型训练机制不完善，或未对训练数据的组成部分或模型训练过程透明化，包括在面部识别技术的使用、与健康有关推理的人工智能、与贷款发放和住房申请有关的人工智能以及更多场景。
（3）高影响基础模型的透明性已变得越来越必要，包括协助版权所有人保护版权并促进消费者保护。
（4) 在不损害基础模型的开发者和部署者知识产权的同时，用户应配备版权保护并做出关于基础模型的知情决定所需的信息。
Section 3 基础模型数据来源和训练的透明性
(a)设立标准。在本法颁布之日起 9 个月内，委员会应：
(1) 根据《美国法典》第5 篇第553 节，颁布法规，制定标准，明确规定有关信息，以提高提供基础模型的受控实体在训练数据、模型文档、推理中的数据收集以及基础模型运营方面的透明度；以及
(2) 发布指南，协助受控实体遵守上一款要求。
(b) 咨询--在制定标准时，并发布(a)小节所要求的指南时，则委员会应向NIST所长、科技政策办公室、版权局局长和其他相关利益攸关方，包括标准机构、受控实体、学术机构、技术专家、民主权利和消费者利益倡导者征求意见。
(c) 提交给委员会和向公众公布的信息。第(a)(1)款规定的要求应包括以下内容：
(1) 提供基础模型的受控实体应提交给FTC的具体信息类型；以及
(2) 提供基础模型的受控实体应公开的具体信息类型。
(d) 形式和方式。
根据第(a)(1)款规定制定的标准应规定委员会在与国家标准与技术研究所所长和第(b)小节中描述的其他主体协商后酌情选择的该条规定的某些信息应由受控实体公开提供的形式和方式，包括：
（1）应在受控实体的网站上公示关于其提供的基础模型的信息类型；
（2）应在FTC网站的集中位置上展示的基础模型的信息类型，该信息类型应当与上述（1）款受控实体在网站展示的信息实质相似；
（3）应采用机器可读格式用于提供上述（1）和（2）的信息；
（4）上述（2）款中提供具体信息的URL应当是FTC控制的；
（5）其他FTC认为应当采取的格式。
（e）程序。根据第(a)(1)款规定制定的标准应规定将（c）（1）规定的信息提交给FTC的流程。
（f）应当考虑的信息。FTC应考虑根据第(a)(1)款规定制定的标准规定的具体信息：
（1）训练数据的来源（包括，如适用，个人数据收集以及协助版权人和数据许可持有人保护其版权或数据许可权相关信息）以及在推理过程中是否收集数据、如何收集保存数据。
（2）训练数据的规模和组成的描述，包括广泛的人口统计数据形成、语言信息和其他属性信息，同时兼顾隐私。
（3）数据治理流程的相关信息，包括这些训练数据是如何编辑或存档的。
（4）训练数据是如何标注的，以及标签有效性形成过程的评估。
（5）对预期目的的说明，以及可预见的基础模式的局限性或风险、该模型过去的编辑的概览、模型的版本以及该模型的发布日期。
（6）受控实体在使基础模型和透明性符合下述规定的行动：
（A）NIST《人工智能风险管理框架》（及其后版本）；
（B）类似的联邦政府所批准的一致性技术标准。
（7）在基于公共或行业标准的自我评估或审计评估中的表现，包括基础模型在回应提供不准确或有害信息可能造成较高风险的场景下的预防措施。可能包括如下场景：
（A）医疗、健康或保健
（B）生物或化学合成。
（C）网络安全。
（D）选举。
（E）治安，包括预测性治安。
（F）金融贷款决定。
（G）教育。
（H）就业或雇用决定。
（I）公共服务。
（J）有关弱势群体的信息，包括儿童和受保护人群。
（8）用于训练和运行基础模型的算力信息
（9）其他FTC与NIST所长协商后确认的其他提升透明性的信息。
（g）对特定类型的基础模型的可选条款。FTC根据（a）款制定的标准和相关指南中，可能要考虑对如下特殊类型的基础模型制定可选条款：
（1）开源基础模型；或
（2）基础模型是建立在另一个基础模型之上或在另一个基础模型上衍生的，经过重新训练或改编到在任何程度。
（h）适用。自FTC批准之日起90天后实施。
（i）更新。FTC咨询NIST所长，在FTC批准后2年内不低于每年一次的频率评估基于法规所制定的标准，并更新法规以保证更新内容可以加入到标准中。
（j）FTC的执行。
（1）不公平或欺骗性行为。违反第（a）（1）将被视为违反 section 18(a)(1)(B) of the Federal Trade Commission Act (15 U.S.C. 17 57a(a)(1)(B))的不公平或欺骗性行为。
（2）FTC的权力。除非第(m)(3)(C)款规定：
（A）根据第(a)(1)款颁布的法规适用the Federal Trade Commission Act (15 U.S.C. 41 et seq.)同样的方式、方法和相同的管辖权、权力和职责。
（B）受控实体违反根据（a）（1）款颁布的法规适用于Federal Trade Commission Act的处罚与豁免。
（k）报告。本法案生效后的2年内，FTC应当向 the Committee on Energy and Commerce 、the Committee on Science, Space, and Technology of the House of Representatives and the Committee on Commerce, Science, and Transportation of the Senate提交根据（a）（1）款制定、实施和执行的标准的报告。
（l）授权和拨款。授权向FTC拨款以执行本法案：
（1） 2025 财政年度 10,000,000 美元；以及
（2）此后每个财政年度为 3,000,000美元。
（m）定义
（1）人工智能。人工智能是指 section 5002 of the National Artificial Intelligence Initiative Act of 2020 (15 U.S.C. 9401; enacted as division E of the William M. (Mac) Thornberry National Defense Authorization Act for Fiscal Year 2021 (Public Law 116–283))。
（2）委员会：特指FTC
（3）受控实体
（A）概述。受控实体是指符合下述（C）项的任何个人、合伙企业或公司。
（i）使用或服务于每月累计产生超过 100,000 个输出实例（无论是文本、图像、视频、音 频或其他方式）的基础模型，包括使用该模型的第二方实体的用户使用所产生的输出实例；或
（ii）累计月用户数量超过30000的基础模型，包括使用该模型的第二方实体的用户。
（B）阈值更新。FTC向NIST所长、科技政策办公室主任咨询后，根据United States Code section 553 of title 5, 更新（A）（i）中的输出实例数量或（A）（i i）中的累计月用户数量。
（C）所描述的个人、合伙企业和公司。个人、合伙企业或公司符合下述规定：
（i）FTC根据section 5(a)(2) of the Federal Trade Commission Act (15 U.S.C. 45(a)(2))享有管辖权的任何个人、合伙企业或公司。
（ii）虽然不符合 section 4, 5(a)(2)、6 of the Federal Trade Commission Act (15 U.S.C. 44、45(a)(2)、 46)，以及任何FTC的管辖限制：
（I）the Communications Act of 1934以及相关的强制性法规规定的任何公共运营者；
（II）任何不是为了其或其成员的利益而运营的组织。
（4）基础模型
（A）概述。基础模型是指人工智能模型符合如下：
（i）使用广泛的数据进行训练；
（ii）一般采用自我监督；
（iii）一般包含至少1,000,000,000 参数；
（iv）广泛应用于各类场景；
（v）在执行任务时，能展现出，或易于修改为能展现出高水平的表现，可能对安全、国家经济安全、国家公共健康或安全，或上述事项结合起来，造成风险。
（B）技术安全的效果。（A）款描述的基础模型，即使采取了技术安全措施，试图阻止用户使用不安全的能力，也会被认定为基础模型。
（5）推理。推理是指在基础模型的语境中，用户使用基础模型生成结果的过程。
（6）训练数据。训练数据是指在基础模型的语境中，训练基础模型的数据。
AI Security Test
基础模型的监管是全球各国立法中争议颇多的议题。欧盟拟议《人工智能法》在最后时刻激烈讨论对基础模型的规制。2023 年 12 月 22 日，美国众议员 Anna Eshoo 和 Don Beyer 提出了《人工智能基础模型透明度2023年法案》。该法案用于指示FTC制定公开人工智能基础模型所使用的训练数据和算法信息的标准，并用于其他目的。该法案对基础模型采取了技术参数定义，并提出了透明性的具体义务内容。译者翻译法案供各位参考。
基础模型透明度2023年法案
AI Foundation Model Transparence Act
Section 1 简称
本法可称为 《人工智能基础模型2023年透明度法案》。
Section 2 调查结果
国会认为
（1）随着公众获取人工智能的机会越来越多，诉讼和公众对侵犯版权的关注也越来越多了。包括在以下案件：
(A) Doe 1 v. GitHub, Inc., No. 22-cv- 06823, 2023 WL 3449131, at *1 (N.D. Cal. May 11, 2023).
(B) Amended Complaint, Getty Images, Inc. v. Stability AI, Ltd., No. 23-cv-00135 (D. Del. Mar. 29, 2023).
(C) Andersen v. Stability AI Ltd., No. 23- cv-00201, 2023 WL 7132064, at *1 (N.D. Cal. Oct. 30, 2023).
（2）基础模型的公开使用导致了无数次向公众展示不准确、不精确或有偏见信息，因为在推理过程中，基于有限的训练数据，限制了模型训练机制不完善，或未对训练数据的组成部分或模型训练过程透明化，包括在面部识别技术的使用、与健康有关推理的人工智能、与贷款发放和住房申请有关的人工智能以及更多场景。
（3）高影响基础模型的透明性已变得越来越必要，包括协助版权所有人保护版权并促进消费者保护。
（4) 在不损害基础模型的开发者和部署者知识产权的同时，用户应配备版权保护并做出关于基础模型的知情决定所需的信息。
Section 3 基础模型数据来源和训练的透明性
(a)设立标准。在本法颁布之日起 9 个月内，委员会应：
(1) 根据《美国法典》第5 篇第553 节，颁布法规，制定标准，明确规定有关信息，以提高提供基础模型的受控实体在训练数据、模型文档、推理中的数据收集以及基础模型运营方面的透明度；以及
(2) 发布指南，协助受控实体遵守上一款要求。
(b) 咨询--在制定标准时，并发布(a)小节所要求的指南时，则委员会应向NIST所长、科技政策办公室、版权局局长和其他相关利益攸关方，包括标准机构、受控实体、学术机构、技术专家、民主权利和消费者利益倡导者征求意见。
(c) 提交给委员会和向公众公布的信息。第(a)(1)款规定的要求应包括以下内容：
(1) 提供基础模型的受控实体应提交给FTC的具体信息类型；以及
(2) 提供基础模型的受控实体应公开的具体信息类型。
(d) 形式和方式。
根据第(a)(1)款规定制定的标准应规定委员会在与国家标准与技术研究所所长和第(b)小节中描述的其他主体协商后酌情选择的该条规定的某些信息应由受控实体公开提供的形式和方式，包括：
（1）应在受控实体的网站上公示关于其提供的基础模型的信息类型；
（2）应在FTC网站的集中位置上展示的基础模型的信息类型，该信息类型应当与上述（1）款受控实体在网站展示的信息实质相似；
（3）应采用机器可读格式用于提供上述（1）和（2）的信息；
（4）上述（2）款中提供具体信息的URL应当是FTC控制的；
（5）其他FTC认为应当采取的格式。
（e）程序。根据第(a)(1)款规定制定的标准应规定将（c）（1）规定的信息提交给FTC的流程。
（f）应当考虑的信息。FTC应考虑根据第(a)(1)款规定制定的标准规定的具体信息：
（1）训练数据的来源（包括，如适用，个人数据收集以及协助版权人和数据许可持有人保护其版权或数据许可权相关信息）以及在推理过程中是否收集数据、如何收集保存数据。
（2）训练数据的规模和组成的描述，包括广泛的人口统计数据形成、语言信息和其他属性信息，同时兼顾隐私。
（3）数据治理流程的相关信息，包括这些训练数据是如何编辑或存档的。
（4）训练数据是如何标注的，以及标签有效性形成过程的评估。
（5）对预期目的的说明，以及可预见的基础模式的局限性或风险、该模型过去的编辑的概览、模型的版本以及该模型的发布日期。
（6）受控实体在使基础模型和透明性符合下述规定的行动：
（A）NIST《人工智能风险管理框架》（及其后版本）；
（B）类似的联邦政府所批准的一致性技术标准。
（7）在基于公共或行业标准的自我评估或审计评估中的表现，包括基础模型在回应提供不准确或有害信息可能造成较高风险的场景下的预防措施。可能包括如下场景：
（A）医疗、健康或保健
（B）生物或化学合成。
（C）网络安全。
（D）选举。
（E）治安，包括预测性治安。
（F）金融贷款决定。
（G）教育。
（H）就业或雇用决定。
（I）公共服务。
（J）有关弱势群体的信息，包括儿童和受保护人群。
（8）用于训练和运行基础模型的算力信息
（9）其他FTC与NIST所长协商后确认的其他提升透明性的信息。
（g）对特定类型的基础模型的可选条款。FTC根据（a）款制定的标准和相关指南中，可能要考虑对如下特殊类型的基础模型制定可选条款：
（1）开源基础模型；或
（2）基础模型是建立在另一个基础模型之上或在另一个基础模型上衍生的，经过重新训练或改编到在任何程度。
（h）适用。自FTC批准之日起90天后实施。
（i）更新。FTC咨询NIST所长，在FTC批准后2年内不低于每年一次的频率评估基于法规所制定的标准，并更新法规以保证更新内容可以加入到标准中。
（j）FTC的执行。
（1）不公平或欺骗性行为。违反第（a）（1）将被视为违反 section 18(a)(1)(B) of the Federal Trade Commission Act (15 U.S.C. 17 57a(a)(1)(B))的不公平或欺骗性行为。
（2）FTC的权力。除非第(m)(3)(C)款规定：
（A）根据第(a)(1)款颁布的法规适用the Federal Trade Commission Act (15 U.S.C. 41 et seq.)同样的方式、方法和相同的管辖权、权力和职责。
（B）受控实体违反根据（a）（1）款颁布的法规适用于Federal Trade Commission Act的处罚与豁免。
（k）报告。本法案生效后的2年内，FTC应当向 the Committee on Energy and Commerce 、the Committee on Science, Space, and Technology of the House of Representatives and the Committee on Commerce, Science, and Transportation of the Senate提交根据（a）（1）款制定、实施和执行的标准的报告。
（l）授权和拨款。授权向FTC拨款以执行本法案：
（1） 2025 财政年度 10,000,000 美元；以及
（2）此后每个财政年度为 3,000,000美元。
（m）定义
（1）人工智能。人工智能是指 section 5002 of the National Artificial Intelligence Initiative Act of 2020 (15 U.S.C. 9401; enacted as division E of the William M. (Mac) Thornberry National Defense Authorization Act for Fiscal Year 2021 (Public Law 116–283))。
（2）委员会：特指FTC
（3）受控实体
（A）概述。受控实体是指符合下述（C）项的任何个人、合伙企业或公司。
（i）使用或服务于每月累计产生超过 100,000 个输出实例（无论是文本、图像、视频、音 频或其他方式）的基础模型，包括使用该模型的第二方实体的用户使用所产生的输出实例；或
（ii）累计月用户数量超过30000的基础模型，包括使用该模型的第二方实体的用户。
（B）阈值更新。FTC向NIST所长、科技政策办公室主任咨询后，根据United States Code section 553 of title 5, 更新（A）（i）中的输出实例数量或（A）（i i）中的累计月用户数量。
（C）所描述的个人、合伙企业和公司。个人、合伙企业或公司符合下述规定：
（i）FTC根据section 5(a)(2) of the Federal Trade Commission Act (15 U.S.C. 45(a)(2))享有管辖权的任何个人、合伙企业或公司。
（ii）虽然不符合 section 4, 5(a)(2)、6 of the Federal Trade Commission Act (15 U.S.C. 44、45(a)(2)、 46)，以及任何FTC的管辖限制：
（I）the Communications Act of 1934以及相关的强制性法规规定的任何公共运营者；
（II）任何不是为了其或其成员的利益而运营的组织。
（4）基础模型
（A）概述。基础模型是指人工智能模型符合如下：
（i）使用广泛的数据进行训练；
（ii）一般采用自我监督；
（iii）一般包含至少1,000,000,000 参数；
（iv）广泛应用于各类场景；
（v）在执行任务时，能展现出，或易于修改为能展现出高水平的表现，可能对安全、国家经济安全、国家公共健康或安全，或上述事项结合起来，造成风险。
（B）技术安全的效果。（A）款描述的基础模型，即使采取了技术安全措施，试图阻止用户使用不安全的能力，也会被认定为基础模型。
（5）推理。推理是指在基础模型的语境中，用户使用基础模型生成结果的过程。
（6）训练数据。训练数据是指在基础模型的语境中，训练基础模型的数据。