前情回顾
背景
2022年9月28日，欧盟委员会提出了关于人工智能非合同民事责任规则适应指令(AILD)的提案，该提案旨在
补充和现代化欧盟责任框架,引入针对人工智能系统造成损害的新规则
确保受人工智能系统伤害的人享有与其他技术造成伤害相同水平的保护
主要内容
AILD提案的主要内容包括：
引入可反驳的"因果关系推定"，以减轻受害者证明人工智能系统造成损害的举证负担
赋予国家法院权力，要求披露涉嫌造成损害的高风险人工智能系统的证据
适用于所有形式的非合同(民事)责任案件
可参考本公众号在发布过的《EDPS发布对人工智能责任规则两项指令提案的意见》
立法进程
1. 2022年9月28日：欧盟委员会提出AILD提案
2. 2023年1月：理事会民法事务工作组进行初步讨论
3. 2023年1月25日：欧洲经济和社会委员会(EESC)通过关于该提案的意见
4. 目前：立法进程暂停，等待与之密切相关的人工智能法案通过后再恢复讨论
最新进展
欧洲议会法律事务委员会(JURI)已任命Axel Voss(EPP,德国)为报告员
欧洲议会研究服务部(EPRS)于2024年9月发布了一份补充影响评估研究，指出了欧盟委员会最初影响评估的一些不足,并提出了扩大AILD范围和转向软件责任法规的建议。本文将就该补充影响评估报告进行详解。
执行摘要
人工智能（AI）所产生的法律责任正处于全球和欧盟的十字路口。虽然现有的多项法律，从数据保护到非歧视，为某些类型的AI所造成的伤害建立了责任制度，但AI法案和修订后的产品责任指令（PLD）是欧盟层面上首次专门实施全面义务的两个法律制度工具，是针对整个AI价值链的AI系统，以及对有缺陷的AI产品和软件相应的责任规则。在此背景下，由欧盟委员会与PLD修订案一同提出的人工智能责任指令（AILD），面临着如何适应这一新的监管框架的挑战。毫无疑问，AI对社会有着巨大的潜力——从癌症筛查到欺诈检测和事故预防——但同时也带来了风险。然而，PLD并未充分涵盖广泛的AI所产生的特定风险，尤其是与生成性AI相关的风险，如歧视和侵犯人格权。
为了给AILD指明前进的道路，本补充影响评估分为四个步骤，首先，它对2022年提出的AILD提案附带的欧盟委员会初始影响评估（IA）进行了分析。其次，本研究详细调查了PLD、AI法案和AILD之间的关系。第三，它比较了AILD框架与欧洲议会2020年关于AI民事责任制度决议中提出的规则。最后，它评估了将AILD转换为更广泛的软件责任规定的需要和过程。
I. 对欧盟委员会初始影响评估（IA）的分析
在讨论欧盟委员会IA时，确定了两个关键性问题：政策选项不完整和对政策选项的成本效益分析不够详尽。特别是，IA对2020年欧洲议会关于AI责任的决议关注不足。具体来说，它未能彻底调查将严格责任与责任上限相结合的可能性，并且在探索更广泛的过错推定或完全转移举证责任的范围时缺乏深度。因此，IA对与替代监管选项相关的成本和效益的分析，如严格责任，是不一致的。虽然对这些政策选项的某些方面进行了很好的审查，但在讨论严格责任制度的潜在优势和缺点时，评估相当简短。
II. AILD、PLD和AI法案之间的关系
为了填补这些空白，提出了以下建议。
概念和定义的一致性。为了保持一致性和法律清晰度，AILD应采用AI法案中使用的概念（例如，AI本身的定义）。
从高风险AI到高影响AI系统。然而，AILD应该增加某些触发证据披露义务和有关过错及因果关系的可反驳推定的类别。这主要涉及：通用目的AI系统（例如ChatGPT）；旧立法框架系统（例如自动驾驶汽车；更广泛的交通相关AI应用；其他属于AI法案附件I第B节的AI系统）；以及超出健康和人寿保险范围的保险应用。本研究建议使用一个总括术语（“高影响AI系统”），以涵盖高风险AI系统和这些额外系统。
可反驳的推定。AILD框架应允许在AI法案的初始违规行为在后期阶段得到纠正的情况下，反驳因果关系推定。
AI法案第14条和第26条违规行为。AI法案第14条和第26条要求在AI系统中建立人类监督机制。缺乏事后监督与有害输出之间的直接因果关系并不总是清晰的。建议为不遵守监督义务的AI输出与损害之间建立直接的因果关系推定。
被禁止的AI系统。对于根据AI法案第5条被禁止的AI系统，建议假设对其造成的任何损害承担严格责任。
通用目的AI系统的影响。当前的AILD框架并未充分涵盖通用目的AI系统，这可能导致在非歧视（例如不平衡的内容）和人格权（例如仇恨言论和假新闻）领域造成重大伤害。建议将生成性AI系统，如ChatGPT，归类为新的“高影响”类别。这将使它们受到AILD的管辖，确保证据披露，并为安全违规行为建立因果关系推定。这反过来又有助于被损害方实施法律索赔。
AILD超越PLD的适用范围。鉴于PLD的局限性（例如，涉及非专业用户和PLD未涵盖的损害类型），有强烈理由扩展AILD，以确保全面的赔偿框架（见下文图1）。
AILD适用于歧视所造成损害的案件。应该明确AILD适用于歧视所造成的损害责任案件。现有执法挑战和欧盟法院在Meister案中设定的法律先例强调了歧视案件中证据披露机制和可反驳推定的重要性，该案目前限制了获取对于证明歧视至关重要的数据和算法。
图1 - AILD覆盖但PLD未覆盖的领域
从AILD到软件责任工具。目前的AILD草案专注于AI责任，但并未充分解决许多非AI软件所面临的类似复杂性和挑战，比如证明过错和因果关系。与此同时，PLD则更广泛地适用于各类软件。为了解决这些差异，建议将AILD扩展成一个更全面的软件责任工具，如表1所示。这可以是指令的形式，或者更好的选择是法规（详见第四部分）。这样的工具将不仅包括AI，还包括所有其他类型的软件，类似于PLD的做法。这样的扩展将确保对所有软件应用程序统一实施证明缓解措施，无论它们是否被划分为（高风险）AI系统。
表1 - 修订后的PLD、提议的AILD和建议的软件责任工具（SLI）涵盖的软件类型和伤害类型
注：EDM：证据披露机制；RP：可反驳推定。资料来源：作者。
表1显示，如果没有AILD和SLI，与新的PLD相比，保护将在许多领域不充分：在绿色框中，只有在AILD的情况下才能实现类似的保护；在红色框中，只有在SLI的情况下才能实现。
III. AILD和欧洲议会2020年关于AI责任的决议
对非法伤害模型的严格责任。建议考虑将欧洲议会2020年关于AI责任的决议中提出的严格责任框架，特别是针对高风险AI系统，整合到修订后的AILD中。这一建议意味着采用一种严格责任模式，该模式能够区分在正常运作中可能导致的合法伤害与非法伤害的AI模型。如果AI系统的设计初衷是为了实现正当的伤害，比如合理地拒绝一个求职者，那么它就不应该承担真正的严格责任。如果不是这样，那么除了最终被选中的候选人之外，其他所有未被选中的候选人都有可能成功地对即使是完美运行的系统运营商提起诉讼。
支持和反对严格责任的论点。关于如果正确设计和部署则不应造成伤害的模型，必须彻底权衡支持和反对严格责任的论点。实施对AI的真正严格责任制度可能会激励AI的部署达到社会最适宜的水平，简化赔偿程序，并确保从AI技术中获益最大的经济实体承担可能造成的伤害成本。然而，这种严格责任也可能抑制在欧盟对AI的投资和应用，从而减少有益AI技术的普及。如果这种影响扩散到关键的服务领域，比如医疗和教育，可能会减少人们享有相关基本权利的机会。此外，这样的责任制度可能会增加无端诉讼的数量，尤其是那些涉及非物质损害的案件。这一点尤其会对中小企业（SME）产生影响，因为它们构成了欧洲AI生态系统的主体。
政治选择和透明度。这些论点应在AILD立法过程中被公开和透明地讨论。是否对高风险AI系统实施严格责任，最终是政治和制度选择。
价值链上的共同责任。为了公平地在AI价值链中分配责任，特别是针对通用目的AI系统，AILD需要提供一个简化的救济框架。这样的框架旨在减少对各国法律的依赖，并在欧盟内部促进一个统一的法律环境。基于PLD和数据法，提出了三种政策选项——平等责任分担、对中小企业的支持、以及对下游方的保护——这些选项提供了不同的机制来确保赔偿的公平性和责任的合理分配。这些政策可以结合实施，并且为了确保它们的效力，需要制定具有约束力的规定，防止合同实践中出现规避这些保护措施的行为。
过错责任和证据披露。AILD应与PLD保持一致，要求（证据）披露以非专家（如消费者或其法律顾问）容易理解的方式呈现。对于非竞争者的索赔，应降低启动证据披露的门槛，仅要求证明损害的存在和AI系统的参与。
IV. 制度工具选择
从指令到法规。从指令过渡到法规将防止市场分裂，增强清晰度，并通过为整个数字单一市场建立一致的法律标准来促进创新和消费者保护。这也符合产品安全法的当前趋势，其中许多指令正在被法规取代（例如，一般产品安全法规；医疗器械法规）。这些发现因此呼吁修订产品责任法规和AI责任法规（或更确切地说：软件责任法规，见上文）而不是指令。
实施步骤。实施这一变化需要：（i）与欧盟条约一致的法律评估；（ii）利益相关者咨询，（iii）影响评估；（iv）法律提案的修正；（v）遵循普通立法程序；（vi）为顺利过渡制定详细的实施指南。
1. 欧盟当前对AI的责任制度
1.1. 直接和间接AI法规
AI责任制度在欧盟的现状，特别是直接和间接两种类型的AI法规。直接AI法规指的是专门为AI技术制定的法律，如AI法案和修订后的产品责任指令（PLD）。间接AI法规则包括那些原本不是专为AI设计，但可以适用于AI的现有法律，例如数据保护法规、消费者保护法和侵权法等。
直接AI法规通过设定明确的义务和标准，为AI系统的设计、开发和部署提供了法律框架。间接AI法规则通过现有的法律原则和概念，如产品责任、数据保护和非歧视，间接地规范AI应用。
在欧盟，AI法案和修订后的PLD是两个关键的直接AI法规，它们旨在解决AI技术带来的特定挑战，如确保AI系统的透明度、安全性和可信赖性。同时，欧盟的通用数据保护条例（GDPR）和其他成员国法律也间接地对AI应用提出了要求，如对个人数据的处理和保护。
1.2. 其他国家立法：加拿大的AIDA和加利福尼亚参议院法案SB1047
在国际舞台上，欧盟的AI法并非孤立存在，而是与其他国家的法规和提案相互呼应。加拿大的人工智能和数据法案（AIDA）和美国加利福尼亚州的参议院法案1047都是针对AI责任和治理的重要立法尝试。
AIDA作为加拿大的一项立法提案，旨在规范国内AI的使用和发展。它遵循基于风险的方法，特别关注可能对公共安全造成重大影响的“高影响AI系统”。AIDA要求开发或部署这些系统的组织进行风险评估，实施风险缓解策略，并持续监控系统以确保遵守安全和伦理标准。在责任方面，AIDA强调通过公共执法而非私人诉讼来追究实体的责任。
加利福尼亚参议院法案SB1047则聚焦于美国加利福尼亚州内AI模型的严格责任。该法案特别关注在训练过程中使用大量计算资源的高级AI模型，并要求开发者实施全面的安全措施。如果AI模型造成了重大损害，开发者可能面临重罚，包括罚款、禁令和AI系统的删除。该法案还引入了严格责任规则，即使开发者采取了所有规定的安全措施，也可能被追究其AI系统造成的任何损害的责任。
1.3. 欧盟和欧洲议会2020年关于AI责任的决议中的严格责任
在欧盟法律框架内，对于人工智能（AI）系统的严格责任是一个重要议题。欧盟和欧洲议会在2020年通过的决议中提出了关于AI责任的全面提案，其中包括了对高风险AI系统实行严格责任的建议。这一提案旨在确保AI系统造成的伤害能够得到适当的赔偿，并且鼓励开发者和部署者采取预防措施以减少潜在的风险。
严格责任是一种不基于过错的法律责任，它要求责任主体在没有过错的情况下也可能需要为造成的损害承担责任。在AI领域，这意味着如果AI系统造成了伤害，即使开发者或部署者无法控制某些风险，他们也可能需要承担责任。
欧洲议会的决议强调了对于高风险AI系统的严格责任，这包括了对AI系统的设计、开发和部署过程中可能产生的风险进行评估和管理。此外，决议还提出了对于非高风险AI系统的过错责任，即在这些情况下，受害者需要证明AI系统的操作者或提供者存在过错。
这一决议的提出，反映了欧盟在AI治理方面的前瞻性思维，旨在通过法律手段确保AI技术的健康发展，同时保护消费者和公众的利益。通过这种方式，欧盟希望能够在全球AI治理中发挥领导作用，推动建立一个更加公正、透明和可信赖的AI生态系统。
此外，该决议还提出了对AI系统造成的物质和非物质损害的考虑，以及对受害者的保护措施。这些措施旨在确保受害者能够获得与非AI系统造成的伤害同等水平的保护，并增强他们对新技术的信任。
2. 欧盟委员会AILD影响评估的评估
IA评估了三个旨在完善AI责任法规的政策选项：
1.政策选项1：引入措施以减轻AI责任索赔的举证负担，包括强制披露AI文档，对不遵守AI法案安全措施的行为实行可反驳的责任推定，以及调整与AI系统内部工作相关的举证责任。
2.政策选项2：在政策选项1的基础上，增加对高风险AI用途的严格责任制度，并要求在严格责任制度下承担责任的一方进行保险。
3.政策选项3（首选政策选项）：最初只实施政策选项1的措施，并在AI技术进一步发展的基础上，进行后续评估，可能会加入严格责任措施。
在对欧盟委员会提出的人工智能责任指令（AILD）的影响评估（IA）进行评价时，补充影响评估研究揭示了IA在几个关键方面的不足：
1.政策选项的不全面性：IA在评估旨在完善AI责任法规的三个政策选项时，未能全面考虑所有可能的监管政策选项。特别是，IA没有充分考虑实施AI责任法规而非指令的可能性，这是欧洲议会提出的建议。此外，IA也没有详细探讨结合严格责任和责任上限的潜力，也没有深入研究更广泛的过失推定或完全逆转举证责任的范围。
2.成本效益分析的简化：IA在评估除首选政策选项之外的其他监管选项的成本和效益时，有时虽然详细，但在评估严格责任制度的承诺和风险时缺乏一些细节和分析。IA指出，严格责任可能会激励防止损害，并可能增加对AI产品的信任和接受度。然而，IA也表达了对严格责任与非AI技术基于过错的责任不一致的担忧，以及严格责任的比例性和法律确定性的质疑。
3.环境影响评估的不完整：IA在预期AI应用将对环境有益的同时，未能充分考虑AI发展和部署增加所带来的大量环境成本，如高水和能源消耗。
3. AILD、PLD和AI法案之间的相互作用
3.1. AI法案对AILD的新定义的影响
AI法案为AILD提供了一些关键定义，这些定义对于理解和实施AILD至关重要。以下是AI法案中一些重要定义及其对AILD的潜在影响：
3.1.1. AI和软件
AI 法案中的定义
AI法案中现在对 AI 提供了更具体的定义，将其定位为一种基于机器的系统，具有不同程度的自主性和适应性，能够从输入中推理并生成输出以影响物理或虚拟环境。该定义的公式取自经修订的经合组织 AI 定义，但非常宽泛和通用。根据该定义，任何软件几乎都满足要求，除了 “推理” 这一元素。要区分 AI 与传统软件，需要很好地理解从输入推理 AI 输出的含义，并且需要对自主性有一个 “足够程度” 的目的性解释。AI法案Recital 12 对自主性进行了进一步解释，强调了一定程度的独立于人类参与的行动能力和在没有人类干预的情况下运行的能力，但这实际上是自动化的定义，而非自主性。真正的自主性还应包括能够适应模型之前未见过的输入的能力。
AI法案还提到了当前 AI 的两种主要路径：机器学习和基于知识的路径，并强调推理能力必须超越基本数据处理，实现学习、推理或建模。像聊天机器人、基于扩散的图像生成器或高级面部识别技术等系统显然属于这一定义下的 AI，而基于规则定义的简单数学运算系统（如电子表格程序中的简单运算）则被排除在外。
对 AILD 的影响
AI法案中宽泛的 AI 定义对 AILD 产生直接影响，使其需要涵盖广泛的技术，但也可能导致将一些技术纳入法律范围，而这些技术可能并不真正带来 AI 通常所引发的伦理或社会风险。
建议
AI 的概念对任何相关监管至关重要，应尽可能具有未来前瞻性，同时能区分出对社会存在关键风险的 AI 系统，这些风险主要包括隐私和数据保护、不透明度、歧视、不可预测性、操纵、有害和虚假内容以及环境和气候成本等。
面对 AI Act 中宽泛的定义，AILD 可以选择采用不同的策略，如采用不同的、更窄的 AI 定义，扩展其范围至（复杂）软件，或仍采用 AI Act 的定义。从欧盟法律的一致性和合规性角度看，后者更有优势，因为 PLD 已涵盖任何类型的软件，且未对软件进行定义，只在 PLD Recital 13 中提供了非详尽的示例。因此，AILD 采用 AI法案的定义或将其范围扩展至软件，不会对 PLD 的范围产生太大影响，除非在 PLD 范围之外的一些领域。从 AI 责任指令到软件责任指令，这一选择需要考虑与 PLD 的比较，目前 PLD 在某些方面存在不足，如未涵盖歧视、人格权等问题，而 AILD 可以弥补这些不足。此外，为了避免市场割裂和法律不一致，将 AILD 扩展为更全面的软件责任工具（SLI）是有必要的，SLI 应涵盖 AI 和所有其他类型的软件，确保证据披露机制和可反驳的推定原则普遍适用于所有软件应用。
3.1.2. 提供者和部署者
与 AI 法案定义保持一致
出于与 AI 定义的相同原因，提供者和部署者的概念应与 AI Act 中的相应定义保持一致。这意味着 AI Act 第25（1）条中关于从部署者到提供者的转变的规定也应引入 AILD 框架。根据该规定，任何部署者或第三方如果对高风险 AI 系统进行了特定的修改（如贴上自己的商标、进行重大修改或修改其预期目的使其成为高风险 AI 系统），将被视为新的提供者，而原提供者在某些情况下将不再被视为提供者，但必须与新提供者密切合作。
重大修改的界定
AI法案在 第3（23）条中定义了重大修改，即 AI 系统在投放市场或投入使用后发生的、未预见或计划的变更，且该变更影响了 AI 系统符合高风险 AI 系统要求的合规性，或导致其预期目的的修改。在 AILD 中，应与 AI 法案保持一致，明确界定重大修改的范围。同时，需要注意的是，在大多数情况下，部署者和第三方可以通过避免进行某些行为（如避免对 AI 系统进行可能被视为重大修改的操作）来规避被视为提供者的风险，但在某些情况下（如 fine - tuning），需要明确规定一般情况下不会导致被视为重大修改，除非存在特定情况（如去除安全层或在严重偏差的数据上进行 fine - tuning）。否则，在任何环境中使用基础模型或其他通用目的人工智能系统的部署者，如果仅仅因为使用标准技术来定制模型以满足其需求而被视为提供者，可能会对通用目的人工智能系统的使用造成极大的阻碍，因为他们将需要承担高风险 AI 系统提供者所需的广泛规制。
3.1.3. 通用目的AI系统
AI 法案中的定义
AI Act 现在包含了关于 “通用目的人工智能系统” 的条款，将其定义为基于 “通用目的人工智能模型” 的 AI 系统。通用目的人工智能模型是一种具有显著通用性、能够胜任执行广泛不同任务的模型，无论其投放市场的方式如何，并且能够集成到各种下游系统或应用中，但用于研究、开发或原型制作活动之前投放市场的 AI 模型除外。
对 AILD 的影响
目前 AILD（在起草时）尚未包含这一术语，因此其对 AILD 的影响有限，但随着 AI Act 对通用目的人工智能系统的条款的纳入，AILD 需要考虑如何适应这一变化，以确保对通用目的人工智能系统的责任和监管得到妥善处理。
3.1.4. 风险
AI 法案中的定义
AI Act 将风险定义为 “发生伤害的概率与伤害严重程度的组合”，这有效地体现了当前欧盟法律中关于风险监管和成本效益分析的概念。
对 AILD 的影响
虽然 “风险” 这一概念在 AILD 中没有被明确引用，但从一致性和合规性的角度来看，AILD 采用 AI Act 中的风险定义是有利的，因为这有助于确保在 AI 相关的监管和责任框架中，对风险的理解和处理方式保持一致。
3.1.5. AI素养
AI法案的要求
AI Act 要求所有 AI 系统的提供者和部署者（无论其风险状态如何）采取措施，确保其员工和其他代表其操作和使用 AI 系统的人员具备足够的 AI 素养。AI法案第4 和 3（56）条进一步定义了 AI 素养的概念。
与证据披露和推定的关系
违反AI法案第4条是否应启动AILD第3 和 4 条中的证据披露义务和可反驳推定存在疑问。一种观点认为，仅仅因为公司中一名 AI 素养不足的员工（与造成的损害没有任何证据联系）就导致AILD第3 和 4 条中严重后果的规则可能过于宽泛。
建议的处理方式
对于部署高风险系统的人员，违反第26（2）条中关于为人类监督分配具有必要能力、培训和权威的个人的特定要求，启动证据披露机制（AILD 第3（1）条），并且在某些情况下，启动了可反驳推定（AILD第4（2）条）。同样，对于高风险 AI 系统的提供者，违反AI法案第4 条中与直接职责相关的条款（如条款 9 - 16 中的风险管理、数据和数据治理），也应受到这些限制。这些规定确保了只有与损害行为直接相关的个人才会受到关注，从而提供了更有针对性和相关性的保护，比基于任何违反AI法案第4 条的宽泛规则更为合理。
对于非高风险 AI 系统，一般规则如AILD第4（5）条可以提供保护：如果投诉人在证明违反AI法案第4 条与某些具体输出之间的因果关系时面临过度困难。然而，如果任何违反AI法案第4 条的行为都导致了AILD第3条下的访问权，这可能会导致对个别员工培训和能力水平的过度审查。此外，这样的要求可能会与 GDPR 规定发生冲突，并普遍引起对这些个人数据保护和隐私的担忧。因此，引入额外的证据披露规则和对 AI 素养违反的可反驳推定似乎没有必要，并且可能会给公司带来过多的要求。现有的法律机制已经解决了那些直接参与 AI 相关事件的特定职责的问题，进一步规定 AI 素养违反的责任可能是多余的。总体而言，一名与损害行为无关的员工的 AI 素养缺乏与实际损害之间的联系太弱，无法证明如此广泛的义务和推定是合理的，因为任何直接参与都可以通过AI法案第9 和26（2）条规定的具体职责来处理，并且 AILD 中对这些违反行为的后果已经做出了规定。
3.1.6. 建议
采纳AI法案的定义
为了保持一致性，应主要采纳AI法案的定义，以确保 AILD 与 AI Act 在相关概念上的协调一致，从而更好地实现对 AI 系统的监管和责任分配。
增加处理违反AI法案第4条的责任规则
虽然额外的证据披露规则和对 AI 素养违反的可反驳推定可能不必要，但可以考虑制定其他规则来制裁违反AI法案第4条的行为，以确保AI法案的要求得到有效执行。
明确关键概念的指南
由于AI法案中一些概念的宽泛性和复杂性，为了避免在实际应用中出现混淆和不确定性，需要制定清晰的指南，明确哪些系统被视为 AI 以及在法律框架内的具体含义，包括提供具体技术示例来解释这些概念，同时允许根据技术发展对指南进行更新，以确保相关方能够更好地理解和遵守法律规定。
3.2. AI法案和AILD中的高风险AI系统
在AI法案和AILD中，对于高风险AI系统的分类和监管是一个关键议题。AI法案基于AI系统可能对人类健康、安全和基本权利造成的潜在威胁，将其分为高风险和非高风险系统，并为高风险系统设定了更严格的监管要求。
3.2.1. 社会风险与个人风险
在AI法案中，对于高风险AI系统的分类侧重于社会层面的风险，这可能没有充分考虑到个体层面的风险。例如，AI法案可能会将某些在特定社会应用中可能对大量人群产生影响的AI系统视为高风险，而那些只影响少数个体的系统可能不会被归类为高风险，即使这些少数个体可能遭受严重影响。
AILD则更侧重于保护个体免受AI系统可能造成的伤害，无论这些系统是否被AI法案归类为高风险。这种差异意味着AILD可能需要对高风险AI系统的分类进行扩展，以确保能够覆盖那些对个体构成显著风险的AI应用。
3.2.2. 建议
针对AILD和AI法案中高风险AI系统的分类差异，建议AILD在考虑如何将AI法案中的高风险分类直接应用到AILD中时，应采取以下措施：
定义调整或后果扩展：要么在 AILD 中定义不同于 AI Act 的高风险 AI 系统，以更准确地涵盖那些对个体可能造成重大风险的 AI 应用；要么在保持高风险 AI 系统概念一致的前提下，扩展 AILD 中目前针对高风险系统的法律后果适用范围，使其涵盖更多潜在的高风险 AI 应用场景。
引入新类别：为了更全面地涵盖各种潜在的高风险 AI 应用，建议在 AILD 中引入 “高影响 AI 系统” 的新类别。这一类别将包括通用目的 AI 系统（如 ChatGPT）、旧立法框架系统（如自动驾驶车辆、更广泛的交通运输相关 AI 应用）、其他属于 AI Act 附件 I B 节的 AI 系统以及超出健康和人寿保险的保险应用等。通过这样的分类，可以更有效地应对 AI 应用带来的多样化风险，确保 AI 责任框架的完整性和有效性。
3.3. AI法案第9-15条与AILD责任推定
AILD提出了在特定条件下，对违反AI法案第9-15条的行为进行责任推定，以简化受害者在AI系统造成损害时寻求赔偿的法律程序。这些条款涉及AI系统的透明度、人类监督、数据治理、准确性、鲁棒性和网络安全等方面。
3.3.1. 因果关系推定
在AILD中，为了解决因AI系统的复杂性和不透明性导致的因果关系难以证明的问题，提出了一种因果关系推定机制。这种机制旨在帮助受害者更容易地将AI系统的输出与造成的损害联系起来，特别是在违反了AI法案中的相关规定时。
因果关系推定的核心思想是，当AI系统违反了AI法案中的特定条款，如透明度、人类监督、数据治理等，就可能推定该系统对由此产生的损害负有责任。这种推定是为了减轻受害者在证明AI系统提供者或部署者的过错时的举证负担。
然而，这种推定并不是绝对的。被告方可以通过提供证据来反驳这种推定，证明其行为或产品与损害之间不存在因果关系。例如，如果AI系统的提供者能够证明，即使其系统符合所有适用的安全和合规标准，损害仍然可能发生，那么他们可能能够避免责任。
AILD的这一部分建议，为了确保受害者能够有效地获得法律救济，需要对因果关系推定的具体应用和限制进行明确的规定，以确保在保护受害者权益的同时，也不过度损害AI系统提供者和部署者的合法权益。
3.3.2. 建议
针对AILD中因果关系推定的实施和其在法律框架内的具体应用，以下是一些建议：
明确反驳可能性：文章 4 AILD 应明确包括基于在 AI 管道中引入的保障措施（如 “治愈” 先前违规的措施）进行反驳的可能性，以更好地反映 AI 技术的动态性质和提供者在改进系统方面的努力。
建立新的推定：应纳入新的推定，明确建立输出与任何由此产生的损害之间的因果关系（而非过错与输出），特别是在违反文章 14 和 26（2）和（5）AI Act（涉及人类监督和部署者监测职责）的情况下。这样的推定将更准确地反映这些条款的违反与损害之间的实际关系，因为这些条款的违反主要影响的是对输出的干预和监测能力，而不是直接导致输出的特定性质。
处理部署禁止 AI 系统的损害：对于因部署被禁止的 AI 系统而导致的损害，应采用严格责任制度，或者自动假定过错和因果关系（无反驳余地）。这样的规定将使受伤人员只需证明使用了被禁止的系统以及该系统导致的因果损害，从而减轻了他们在证明过错方面的负担，同时也对部署禁止 AI 系统的行为施加了更强的法律约束。
3.4. 新通用目的AI系统规则对AILD的影响
AI法案引入了针对通用目的AI系统的具体规则，这些系统基于能够执行广泛不同任务的通用AI模型。这些系统，如基础模型，虽然在AI法案下并未被归类为高风险，但它们带来了独特挑战和风险，这些在当前AILD框架下并未得到充分解决。
3.4.1. 通用目的AI系统的风险
通用目的AI系统（General-Purpose AI systems, GPAI），如基础模型，具有显著的通用性，能够胜任各种不同的任务，并可集成到多种下游系统或应用中。这些系统在AI法案下并未被归类为高风险，但它们可能对个人或社会造成显著的伤害，包括歧视、侵犯人格权和生成有害内容等。这些系统的操作往往基于随机变量，其输出具有不可预测性，这增加了在诉讼中支持受害者的难度。
由于AILD主要关注高风险AI系统，通用目的AI系统在当前的AILD框架下并未得到充分覆盖。为了解决这一问题，建议AILD应扩展其适用范围，将通用目的AI系统纳入监管，确保这些系统在造成损害时，受害者能够获得必要的法律保护和救济。
3.4.2. 建议
为了确保AILD能够有效地应对通用目的AI系统（如生成性AI技术，包括ChatGPT）带来的风险，以下是一些建议：
证据披露要求：建议AILD的第3条规则应明确包括生成性AI技术，目前这些规则仅适用于高风险系统。这一调整将确保在涉及生成性AI的法律程序中，有证据披露机制来提供帮助，承认这些系统的不透明性和概率性本质，以及它们在诉讼中带来的挑战。
违规的因果关系推定：违反AI法案第55条（规定通用目的AI系统的安全规则）的行为，应触发违规行为与系统产生的任何具体有害输出之间存在因果关系的推定。这种推定将促进受害者寻求因这类AI系统造成的损害赔偿的过程，承认直接将设计决策与特定伤害实例联系起来的困难。
重要的是，在这种方法下，受害者仍应能够证明GPAI提供者的责任，超出违反AI法案第55条的范围：这一规定仅适用于具有系统性风险的非常小的GPAI集合（可能只有GPT-4和一些Gemini及/或Claude版本），除非委员会明确指定更多模型展示系统性风险。在这种情况下，过错的要素可能是：开发和部署期间内容审核政策不足；缺乏对有害内容的持续测试；缺乏通知和行动机制，使用户能够对特别有害的输出形式提供反馈。受害者仍然需要借助披露的证据来证明过错，但在扩大的AILD第4条下，他们将不必证明与特定输出的因果关系。
3.5. PLD和AILD的范围 - 剩余的漏洞？
产品责任指令（PLD）和提出的人工智能责任指令（AILD）旨在解决AI系统的不同责任方面。PLD侧重于物理产品及其缺陷，而AILD旨在涵盖AI系统的非契约民事责任的程序方面。然而，存在一些PLD的范围可能无法完全扩展到AI的复杂性，留下了AILD可能解决的潜在漏洞。
3.5.1. 歧视
产品责任指令（PLD）并未明确涵盖由人工智能（AI）系统引起的歧视问题。这是一个显著的空白，因为AI系统已经显示出可能基于偏见的训练数据或算法产生歧视性结果。这些系统可能在信贷评估、招聘、广告定向等方面做出不公平的决策，对个人或群体造成不利影响。
针对歧视问题，建议AILD应明确适用于歧视责任案件，并提供证据披露和因果关系推定的机制，这对于法庭上证明歧视至关重要。这些机制将帮助受害者更容易获得赔偿，并确保AI系统的提供者和部署者对其可能产生的歧视性后果负责。
建议措施包括：
证据披露要求：AILD应要求AI系统的提供者和部署者在必要时向法院披露相关证据，以便受害者能够证明其案件。
因果关系推定：违反AI法案中关于非歧视和公平处理数据的规定应触发违规行为与系统产生的有害输出之间存在因果关系的推定。
明确责任：AILD应明确规定，AI系统的提供者和部署者对于其系统造成的歧视性结果负有责任，即使这些结果并非故意为之。
通过实施这些建议，AILD将有助于确保AI技术的发展不会以牺牲基本的非歧视原则为代价，并为受害者提供必要的法律保护。
3.5.2. 生成性AI和人格权
生成性AI系统，如ChatGPT，能够产生各种内容，包括文本、图像和视频。这些系统可能会侵犯个人的人格权，例如通过生成诽谤性内容、未经同意的私密图像、深度伪造视频（deepfakes）或其他有害内容。这些行为可能会对个人的名誉、隐私和尊严造成严重伤害。
由于生成性AI系统的输出具有随机性和不可预测性，这使得在法律诉讼中建立系统设计缺陷与特定有害输出之间的因果关系变得尤为困难。与确定性的非生成性AI系统不同，生成性AI系统以概率性方式运作，对同一输入可能随时间提供不同类型的输出。
为了解决这一问题，建议AILD应扩展其适用范围，明确包括对人格权的保护，并为涉及生成性AI系统的案件提供以下法律框架：
证据披露要求：AILD应要求生成性AI系统的提供者和部署者在必要时向法院披露相关证据，以便受害者能够证明其案件。
因果关系推定：违反AI法案中关于人格权保护的规定应触发违规行为与系统产生的有害输出之间存在因果关系的推定。
责任明确：AILD应明确规定，生成性AI系统的提供者和部署者对于其系统造成的人格权侵犯负有责任。
通过这些建议，AILD将有助于确保AI技术的发展不会侵犯个人的基本权利，并为受害者提供必要的法律保护。这将有助于建立一个更加公正和负责任的AI生态系统。
3.5.3. 纯经济损失和专业使用财产
在现有的产品责任指令（PLD）框架下，对于由人工智能（AI）系统造成的纯经济损失和专业使用财产的损害，可能没有提供足够的保护。AI系统，尤其是在金融和保险领域，可能会因错误决策或不准确的风险评估导致经济损失，而这些损失在PLD的现有规定下可能无法得到充分赔偿。
为了解决这一问题，建议AILD应扩展其适用范围，包括以下方面：
纯经济损失：AILD应明确涵盖AI系统造成的直接财务损失，例如在金融交易或保险理赔中因AI系统的错误或误导性建议而导致的损失。
专业使用财产：AILD应提供对专业使用财产的保护，包括在商业环境中使用的软件和系统，这些可能因AI系统的缺陷而遭受损害。
证据披露和因果关系推定：AILD应要求AI系统的提供者在必要时向法院披露相关证据，并在适当情况下提供因果关系推定，以帮助受害者证明AI系统与损失之间的联系。
通过这些建议，AILD将能够为因AI系统造成的经济损失和专业使用财产损害提供更全面的保护，确保受害者能够获得公正的赔偿，并促进AI技术的负责任使用。这将有助于增强法律框架的完整性，确保所有类型的损害都能得到适当的法律救济。
3.5.4. 可持续性损害
在现有的产品责任指令（PLD）中，并没有明确涉及由人工智能（AI）系统造成的环境和可持续性损害。随着AI技术的发展，尤其是在训练和运行大型AI模型时，能源和水资源的消耗以及相关的环境影响成为了一个日益突出的问题。例如，大型AI模型的训练可能需要大量的电力，这不仅增加了碳足迹，还可能对水资源造成压力。
为了解决这一问题，建议AILD应该考虑包括以下方面：
环境影响的考量：AILD应该要求AI系统的提供者评估和披露其系统对环境的潜在影响，包括能源和水资源的使用情况。
可持续性损害的责任：AILD应该为因AI系统造成的环境损害提供责任追究机制，确保受害者和环境损害能够得到适当的赔偿。
预防措施和最佳实践：AILD应该鼓励和要求AI系统的设计者和部署者采取预防措施，采用环保的最佳实践，以减少对环境的影响。
跨领域合作：AILD应该促进不同领域之间的合作，包括技术开发者、环境专家和政策制定者，共同研究和制定减少AI系统环境影响的策略。
通过这些建议，AILD将有助于确保AI技术的发展不会以牺牲环境和可持续性为代价，同时也为因AI系统造成的环境损害提供了法律救济的途径。这将有助于推动AI行业的可持续发展，并确保AI技术的进步与环境保护相协调。
3.5.5. 总体建议：超越PLD
尽管产品责任指令（PLD）为产品责任提供了基础框架，但它在覆盖人工智能（AI）系统特有的责任问题方面存在局限性。AILD旨在补充PLD，确保对AI系统造成的损害提供更全面的法律保护。以下是针对AILD的总体建议：
扩大适用范围：AILD应扩大其适用范围，不仅包括高风险AI系统，还应涵盖通用目的AI系统和其他可能对个人或社会造成显著影响的AI应用。
明确责任和义务：AILD应明确AI系统提供者和部署者的责任，特别是在涉及歧视、侵犯人格权、纯经济损失和可持续性损害等方面。
证据披露和因果关系推定：AILD应包含证据披露要求和因果关系推定机制，以帮助受害者在法律诉讼中更容易地证明AI系统与损害之间的联系。
环境和可持续性考量：AILD应考虑AI系统对环境的影响，并为因AI系统造成的环境损害提供责任追究机制。
跨领域合作：AILD应促进不同领域之间的合作，包括技术开发者、环境专家、法律专家和政策制定者，共同研究和制定减少AI系统风险的策略。
法律框架的现代化：AILD应反映AI技术的最新发展，确保法律框架能够适应快速变化的技术环境。
国际协调：AILD应考虑与国际法律标准和最佳实践保持一致，促进全球AI治理的协调和合作。
通过实施这些建议，AILD将有助于确保AI技术的负责任发展和应用，同时为受害者提供必要的法律保护。这将有助于建立一个更加公正、透明和可信赖的AI生态系统，促进AI技术的长期可持续发展。
4. AILD与欧洲议会关于AI责任的决议
欧洲议会在2020年通过的关于人工智能责任的决议为欧盟内AI责任框架提供了不同的视角。该决议建议对AI责任采取双轨制方法：对高风险AI系统实行严格责任，对非高风险AI系统实行过错推定责任。本节比较了AILD与欧洲议会的决议，突出了关键差异和AILD可以与决议建议保持一致或扩展的领域。
4.1. 严格责任
在欧洲议会2020年关于人工智能责任的决议中，提出了对高风险人工智能（AI）系统实行严格责任的建议。这一建议旨在确保AI系统造成的伤害能够得到适当的赔偿，并鼓励开发者和部署者采取预防措施以减少潜在的风险。
严格责任的模式：严格责任分为产品缺陷导致伤害的 “严格责任”（实际为过错责任的伪装）和某些高风险行业中仅因行动导致伤害的真正严格责任（如转基因生物或某些危险设施造成的损害）。对于 AI 系统，应区分非法伤害模型（正常运行时不应造成伤害）和合法伤害模型（可能会对某些人造成不利影响但不一定需要赔偿）。
欧洲议会决议中的严格责任：欧洲议会 2020 年关于 AI 责任的决议建议对高风险 AI 系统实行真正的严格责任，包括设定个人伤害和财产损害的赔偿上限以及强制保险要求，对非高风险 AI 系统实行基于过错推定的责任制度，并对损害赔偿上限和诉讼时效做出了规定，同时关注了责任主体的术语使用，建议采用 PLD 和 / 或 AI法案 中的术语。
AILD 中严格责任的现状与未来：目前 AILD 未采纳欧洲议会决议中提出的真正严格责任，未来是否应将其纳入 AILD 需要权衡利弊。真正严格责任的好处包括调节活动水平、简化法律程序、内部化成本和有效执行非歧视法律等；但其缺点包括可能阻碍创新、对基本权利产生复杂影响（如减少 AI 产品供应、影响教育和医疗等领域的基本权利享受、增加 AI 产品价格）以及增加无理诉讼的风险。
建议：在决定是否建立真正的严格责任时，需要考虑其对创新和基本权利的多维度影响，这是一个需要仔细权衡的政治选择。
4.2. 共同责任
在人工智能（AI）领域，确定责任主体并不总是直截了当的，因为AI系统可能涉及多个参与者，包括开发者、部署者、维护者和用户。这些参与者可能在AI价值链的不同环节，因此，当AI系统造成损害时，可能需要考虑共同责任的问题。
4.2.1. 当前情况分析
当前在 AI 相关案件中，共同责任的赔偿主要依据国家法律的规定。
《产品责任指令》（PLD）允许多个经济行为主体对同一损害承担共同连带责任，但也存在一些例外情况，旨在鼓励软件部门的小微企业进行创新。
然而，共同责任在 AI 价值链中存在核心问题，即责任的分配不够明确。在 AI 价值链中，通常最后与受害者接触的是下游行为主体（如部署者），他们往往是受害者最容易寻求赔偿的对象。但是，当这些下游行为主体面临上游行为主体（如制造商或提供者）的市场主导地位时，可能会出现上游行为主体通过合同条款限制下游行为主体的追索权，导致下游行为主体在某些情况下无法有效寻求赔偿。
此外，即使下游行为主体能够向其他上游行为主体寻求追索，这也依赖于国家法律的规定，而不同国家的法律在这方面可能存在差异，导致法律适用的不确定性和复杂性。
4.2.2. 建议
为了确保 AI 价值链中责任的公平分担，AILD 应该纳入一个明确的赔偿框架。
推定平等份额：首先，可以引入推定平等份额的原则，即每个在 AI 价值链中对损害有责任的实体都承担相同份额的责任。只有当某个实体试图挑战这一推定时，才需要通过诉讼来确定各实体具体的责任份额，并且挑战推定的一方需要承担举证责任。此外，这些规定应该具有约束力，不能被合同约定轻易改变，以确保责任的公平分配。
支持中小企业：可以借鉴 PLD 中有利于中小企业的豁免条款，将这些条款纳入 AILD 的赔偿系统中。同时，为了避免中小企业在合同中处于弱势地位，这些保护中小企业的规定应该具有约束力，而不仅仅是依赖制造商的自愿同意，以确保中小企业在承担责任时不会受到过度的压力。
保护下游方：应该禁止合同中出现放弃或严重负面修改下游方追索权的条款。任何试图通过合同限制下游方追索权的行为都应该被视为无效，以确保下游方在 AI 价值链中能够有效地维护自己的权益，当他们因为上游方的责任而受到损害时，能够顺利地寻求赔偿。
这些政策选项可以组合使用，以全面保护下游方的权益，确保在 AI 相关的损害事件中，下游方能够有效地获得赔偿，从而实现 AI 价值链中责任的公平分担，促进 AI 产业的健康发展。
4.3. 基于过错的责任和证据披露
在人工智能（AI）责任的背景下，基于过错的责任是指只有在证明AI系统提供者或部署者未能履行其注意义务时，才承担赔偿责任。这通常要求受害者证明责任方的行为或疏忽导致了损害。然而，由于AI系统的复杂性和不透明性，这可能是一项挑战性的任务。
4.3.1. 披露证据
AILD中的证据披露条款对于有效执行该指令以及增强合规性至关重要。然而，为了更好地发挥其作用，该条款需要进行一些调整以更好地与AI Act对齐。
具体来说，正如PLD修订版所规定的那样，证据应被要求以易于理解的方式呈现给非专家，例如消费者或他们的法律顾问。因为在典型的产品责任案件中，尤其是涉及AI系统时，由于其技术复杂性、不透明性和自主性，制造商与受害者之间存在着严重的信息不对称。如果证据不能以易于理解的方式呈现，受害者将很难有效地利用这些证据来维护自己的权益。
此外，当前AILD中对潜在索赔人启动证据披露机制的门槛设置过高。例如，潜在索赔人需要提供足够的证据来支持其索赔的合理性，这一要求往往会阻止许多合法的索赔，特别是在歧视法等领域。因此，建议降低这一门槛，允许证据披露机制在更宽松的条件下被触发。具体而言，只要潜在索赔人能够证明损害的存在以及AI系统的参与，并且能够表明AI导致损害的可能性并非荒谬，就应该能够启动证据披露机制。当然，对于潜在或实际竞争对手提起的案件，为了防止无理诉讼和保护商业秘密，应保持对合理性的要求。
4.3.2. 举证责任
AILD提案在减轻索赔人举证责任方面存在一些不足。首先，当前的因果关系推定并没有涵盖过错的确定、AI系统的输出、损害的程度以及输出与损害之间的直接因果关系等方面。这意味着在许多情况下，索赔人仍然需要承担沉重的举证责任，来证明这些关键因素，这对于索赔人来说是非常困难的，尤其是在面对复杂的AI系统时。
其次，即使索赔人能够证明一些初步的事实，例如违反了AI法案的某些规定，但在某些情况下，如被告证明索赔人可以获取证据和专业知识来证明因果关系时，索赔人的举证难度可能会进一步增加。这可能导致索赔人在诉讼中处于不利地位，无法有效地维护自己的权益。
此外，AILD目前没有提供全面的过错推定。在许多情况下，索赔人需要证明被告存在过错，这对于受害者来说是非常困难的，因为AI系统的复杂性使得很难确定过错的归属。
为了解决这些问题，建议对AILD进行修改，使其包括在提供者或部署者在后期处理阶段违反AI Act时，过错与损害之间因果关系的推定。同时，在解释性说明中应明确，仅仅承认机器学习模型的固有易错性不应自动作为反驳因果关系推定的有效辩护。这样的修改将有助于减轻索赔人的举证责任，使其能够更有效地获得赔偿，同时也能够更好地平衡各方的利益，促进AI产业的健康发展。
综上所述，AILD在披露证据和举证责任方面需要进行一些改进，以更好地保护受害者的权益，同时也能够适应AI技术的特点和复杂性。
5. 从指令到AI责任法规
在考虑如何最有效地规范人工智能（AI）责任时，一个关键问题是选择适当的法律工具。欧洲议会法律事务委员会（JURI）提出的人工智能责任指令（AILD）目前采取的是指令形式，但存在将其转变为法规的可能性。法规将为整个欧盟提供统一的法律标准，有助于防止市场分裂，提高法律的清晰度，并促进创新和消费者保护。
5.1. 选择制度工具：指令还是法规？
在欧盟法律体系中，指令（Directive）和法规（Regulation）是两种不同的法律工具，它们在实施方式和法律效力上有所区别。指令通常要求成员国将其目标和要求转化为国家法律，而法规则在整个欧盟范围内直接适用，无需成员国的进一步立法。在考虑人工智能（AI）责任指令（AILD）的法律形式时，需要权衡这两种工具的优劣。
5.1.1. 市场监管和产品安全法的经验
欧盟在市场监管和产品安全法方面的经验表明，法规可以提供更加统一和明确的法律框架。例如，医疗设备法规和一般产品安全法规都是以法规形式存在，确保了在整个欧盟范围内对产品安全采取一致的方法。这种统一性有助于减少法律不确定性，促进单一市场的运作，并保护消费者和用户的利益。
5.1.2. 建议
基于市场监管和产品安全法的经验，建议AILD考虑转变为法规形式。这样做的好处包括：
统一性：法规将为所有成员国提供统一的法律标准，减少因成员国法律差异而导致的法律不确定性。
直接适用性：作为法规，AILD的规定将直接适用于整个欧盟，无需成员国的进一步立法。
市场整合：统一的法律框架有助于整合欧盟内部市场，促进AI技术的创新和应用。
消费者保护：法规可以确保在整个欧盟范围内为消费者提供一致的保护水平。
然而，这种转变也需要考虑到成员国在法律传统和实施能力上的差异，以及可能对成员国主权和立法自主权的影响。因此，这一转变需要在广泛的利益相关者咨询和深入的影响评估基础上进行。
5.2. 向法规迈进的具体步骤
将人工智能责任指令（AILD）从指令转变为法规，需要经历一系列详细的步骤来确保法律框架的顺利过渡和有效实施。以下是这一转变过程中可能涉及的关键步骤：
法律评估：首先，需要进行彻底的法律评估，以确保提议的法规与欧盟条约保持一致，并且具有适当的法律基础。这可能涉及对欧盟条约相关条款的解释，以及对现有法律框架的评估。
利益相关者咨询：在法规制定过程中，与成员国、行业代表、消费者组织、技术专家和其他利益相关者进行广泛咨询至关重要。这有助于收集不同的观点和建议，确保法规能够满足不同利益相关者的需求。
影响评估：进行全面的影响评估，以评估法规对市场、创新、消费者保护、中小企业以及欧盟内部市场运作的潜在影响。这将包括对法规可能带来的经济、社会和环境影响的分析。
提案修订：根据法律评估、利益相关者咨询和影响评估的结果，对AILD提案进行必要的修订。这可能涉及对法规文本的修改，以解决评估过程中发现的问题和关切。
立法程序：修订后的提案将提交给欧洲议会和理事会，按照欧盟的普通立法程序进行审议和投票。这一过程可能包括三方协商，即欧洲议会、理事会和委员会之间的谈判。
实施措施：一旦法规被正式采纳，需要制定详细的实施指南和措施，以帮助成员国、企业和组织理解和遵守新的法律要求。这可能包括培训、宣传和教育活动，以及为成员国提供技术支持和资源。
监督和评估：在法规实施后，建立有效的监督和评估机制，以确保法规得到正确执行，并评估其在实践中的效果。这可能涉及定期报告、审计和评估，以及必要时对法规进行进一步的修订。
通过这些步骤，AILD的转变将有助于创建一个更加统一和协调的法律环境，以应对人工智能技术带来的挑战和机遇。
背景
2022年9月28日，欧盟委员会提出了关于人工智能非合同民事责任规则适应指令(AILD)的提案，该提案旨在
补充和现代化欧盟责任框架,引入针对人工智能系统造成损害的新规则
确保受人工智能系统伤害的人享有与其他技术造成伤害相同水平的保护
主要内容
AILD提案的主要内容包括：
引入可反驳的"因果关系推定"，以减轻受害者证明人工智能系统造成损害的举证负担
赋予国家法院权力，要求披露涉嫌造成损害的高风险人工智能系统的证据
适用于所有形式的非合同(民事)责任案件
可参考本公众号在发布过的《EDPS发布对人工智能责任规则两项指令提案的意见》
立法进程
1. 2022年9月28日：欧盟委员会提出AILD提案
2. 2023年1月：理事会民法事务工作组进行初步讨论
3. 2023年1月25日：欧洲经济和社会委员会(EESC)通过关于该提案的意见
4. 目前：立法进程暂停，等待与之密切相关的人工智能法案通过后再恢复讨论
最新进展
欧洲议会法律事务委员会(JURI)已任命Axel Voss(EPP,德国)为报告员
欧洲议会研究服务部(EPRS)于2024年9月发布了一份补充影响评估研究，指出了欧盟委员会最初影响评估的一些不足,并提出了扩大AILD范围和转向软件责任法规的建议。本文将就该补充影响评估报告进行详解。
执行摘要
人工智能（AI）所产生的法律责任正处于全球和欧盟的十字路口。虽然现有的多项法律，从数据保护到非歧视，为某些类型的AI所造成的伤害建立了责任制度，但AI法案和修订后的产品责任指令（PLD）是欧盟层面上首次专门实施全面义务的两个法律制度工具，是针对整个AI价值链的AI系统，以及对有缺陷的AI产品和软件相应的责任规则。在此背景下，由欧盟委员会与PLD修订案一同提出的人工智能责任指令（AILD），面临着如何适应这一新的监管框架的挑战。毫无疑问，AI对社会有着巨大的潜力——从癌症筛查到欺诈检测和事故预防——但同时也带来了风险。然而，PLD并未充分涵盖广泛的AI所产生的特定风险，尤其是与生成性AI相关的风险，如歧视和侵犯人格权。
为了给AILD指明前进的道路，本补充影响评估分为四个步骤，首先，它对2022年提出的AILD提案附带的欧盟委员会初始影响评估（IA）进行了分析。其次，本研究详细调查了PLD、AI法案和AILD之间的关系。第三，它比较了AILD框架与欧洲议会2020年关于AI民事责任制度决议中提出的规则。最后，它评估了将AILD转换为更广泛的软件责任规定的需要和过程。
I. 对欧盟委员会初始影响评估（IA）的分析
在讨论欧盟委员会IA时，确定了两个关键性问题：政策选项不完整和对政策选项的成本效益分析不够详尽。特别是，IA对2020年欧洲议会关于AI责任的决议关注不足。具体来说，它未能彻底调查将严格责任与责任上限相结合的可能性，并且在探索更广泛的过错推定或完全转移举证责任的范围时缺乏深度。因此，IA对与替代监管选项相关的成本和效益的分析，如严格责任，是不一致的。虽然对这些政策选项的某些方面进行了很好的审查，但在讨论严格责任制度的潜在优势和缺点时，评估相当简短。
II. AILD、PLD和AI法案之间的关系
为了填补这些空白，提出了以下建议。
概念和定义的一致性。为了保持一致性和法律清晰度，AILD应采用AI法案中使用的概念（例如，AI本身的定义）。
从高风险AI到高影响AI系统。然而，AILD应该增加某些触发证据披露义务和有关过错及因果关系的可反驳推定的类别。这主要涉及：通用目的AI系统（例如ChatGPT）；旧立法框架系统（例如自动驾驶汽车；更广泛的交通相关AI应用；其他属于AI法案附件I第B节的AI系统）；以及超出健康和人寿保险范围的保险应用。本研究建议使用一个总括术语（“高影响AI系统”），以涵盖高风险AI系统和这些额外系统。
可反驳的推定。AILD框架应允许在AI法案的初始违规行为在后期阶段得到纠正的情况下，反驳因果关系推定。
AI法案第14条和第26条违规行为。AI法案第14条和第26条要求在AI系统中建立人类监督机制。缺乏事后监督与有害输出之间的直接因果关系并不总是清晰的。建议为不遵守监督义务的AI输出与损害之间建立直接的因果关系推定。
被禁止的AI系统。对于根据AI法案第5条被禁止的AI系统，建议假设对其造成的任何损害承担严格责任。
通用目的AI系统的影响。当前的AILD框架并未充分涵盖通用目的AI系统，这可能导致在非歧视（例如不平衡的内容）和人格权（例如仇恨言论和假新闻）领域造成重大伤害。建议将生成性AI系统，如ChatGPT，归类为新的“高影响”类别。这将使它们受到AILD的管辖，确保证据披露，并为安全违规行为建立因果关系推定。这反过来又有助于被损害方实施法律索赔。
AILD超越PLD的适用范围。鉴于PLD的局限性（例如，涉及非专业用户和PLD未涵盖的损害类型），有强烈理由扩展AILD，以确保全面的赔偿框架（见下文图1）。
AILD适用于歧视所造成损害的案件。应该明确AILD适用于歧视所造成的损害责任案件。现有执法挑战和欧盟法院在Meister案中设定的法律先例强调了歧视案件中证据披露机制和可反驳推定的重要性，该案目前限制了获取对于证明歧视至关重要的数据和算法。
图1 - AILD覆盖但PLD未覆盖的领域
从AILD到软件责任工具。目前的AILD草案专注于AI责任，但并未充分解决许多非AI软件所面临的类似复杂性和挑战，比如证明过错和因果关系。与此同时，PLD则更广泛地适用于各类软件。为了解决这些差异，建议将AILD扩展成一个更全面的软件责任工具，如表1所示。这可以是指令的形式，或者更好的选择是法规（详见第四部分）。这样的工具将不仅包括AI，还包括所有其他类型的软件，类似于PLD的做法。这样的扩展将确保对所有软件应用程序统一实施证明缓解措施，无论它们是否被划分为（高风险）AI系统。
表1 - 修订后的PLD、提议的AILD和建议的软件责任工具（SLI）涵盖的软件类型和伤害类型
注：EDM：证据披露机制；RP：可反驳推定。资料来源：作者。
表1显示，如果没有AILD和SLI，与新的PLD相比，保护将在许多领域不充分：在绿色框中，只有在AILD的情况下才能实现类似的保护；在红色框中，只有在SLI的情况下才能实现。
III. AILD和欧洲议会2020年关于AI责任的决议
对非法伤害模型的严格责任。建议考虑将欧洲议会2020年关于AI责任的决议中提出的严格责任框架，特别是针对高风险AI系统，整合到修订后的AILD中。这一建议意味着采用一种严格责任模式，该模式能够区分在正常运作中可能导致的合法伤害与非法伤害的AI模型。如果AI系统的设计初衷是为了实现正当的伤害，比如合理地拒绝一个求职者，那么它就不应该承担真正的严格责任。如果不是这样，那么除了最终被选中的候选人之外，其他所有未被选中的候选人都有可能成功地对即使是完美运行的系统运营商提起诉讼。
支持和反对严格责任的论点。关于如果正确设计和部署则不应造成伤害的模型，必须彻底权衡支持和反对严格责任的论点。实施对AI的真正严格责任制度可能会激励AI的部署达到社会最适宜的水平，简化赔偿程序，并确保从AI技术中获益最大的经济实体承担可能造成的伤害成本。然而，这种严格责任也可能抑制在欧盟对AI的投资和应用，从而减少有益AI技术的普及。如果这种影响扩散到关键的服务领域，比如医疗和教育，可能会减少人们享有相关基本权利的机会。此外，这样的责任制度可能会增加无端诉讼的数量，尤其是那些涉及非物质损害的案件。这一点尤其会对中小企业（SME）产生影响，因为它们构成了欧洲AI生态系统的主体。
政治选择和透明度。这些论点应在AILD立法过程中被公开和透明地讨论。是否对高风险AI系统实施严格责任，最终是政治和制度选择。
价值链上的共同责任。为了公平地在AI价值链中分配责任，特别是针对通用目的AI系统，AILD需要提供一个简化的救济框架。这样的框架旨在减少对各国法律的依赖，并在欧盟内部促进一个统一的法律环境。基于PLD和数据法，提出了三种政策选项——平等责任分担、对中小企业的支持、以及对下游方的保护——这些选项提供了不同的机制来确保赔偿的公平性和责任的合理分配。这些政策可以结合实施，并且为了确保它们的效力，需要制定具有约束力的规定，防止合同实践中出现规避这些保护措施的行为。
过错责任和证据披露。AILD应与PLD保持一致，要求（证据）披露以非专家（如消费者或其法律顾问）容易理解的方式呈现。对于非竞争者的索赔，应降低启动证据披露的门槛，仅要求证明损害的存在和AI系统的参与。
IV. 制度工具选择
从指令到法规。从指令过渡到法规将防止市场分裂，增强清晰度，并通过为整个数字单一市场建立一致的法律标准来促进创新和消费者保护。这也符合产品安全法的当前趋势，其中许多指令正在被法规取代（例如，一般产品安全法规；医疗器械法规）。这些发现因此呼吁修订产品责任法规和AI责任法规（或更确切地说：软件责任法规，见上文）而不是指令。
实施步骤。实施这一变化需要：（i）与欧盟条约一致的法律评估；（ii）利益相关者咨询，（iii）影响评估；（iv）法律提案的修正；（v）遵循普通立法程序；（vi）为顺利过渡制定详细的实施指南。
1. 欧盟当前对AI的责任制度
1.1. 直接和间接AI法规
AI责任制度在欧盟的现状，特别是直接和间接两种类型的AI法规。直接AI法规指的是专门为AI技术制定的法律，如AI法案和修订后的产品责任指令（PLD）。间接AI法规则包括那些原本不是专为AI设计，但可以适用于AI的现有法律，例如数据保护法规、消费者保护法和侵权法等。
直接AI法规通过设定明确的义务和标准，为AI系统的设计、开发和部署提供了法律框架。间接AI法规则通过现有的法律原则和概念，如产品责任、数据保护和非歧视，间接地规范AI应用。
在欧盟，AI法案和修订后的PLD是两个关键的直接AI法规，它们旨在解决AI技术带来的特定挑战，如确保AI系统的透明度、安全性和可信赖性。同时，欧盟的通用数据保护条例（GDPR）和其他成员国法律也间接地对AI应用提出了要求，如对个人数据的处理和保护。
1.2. 其他国家立法：加拿大的AIDA和加利福尼亚参议院法案SB1047
在国际舞台上，欧盟的AI法并非孤立存在，而是与其他国家的法规和提案相互呼应。加拿大的人工智能和数据法案（AIDA）和美国加利福尼亚州的参议院法案1047都是针对AI责任和治理的重要立法尝试。
AIDA作为加拿大的一项立法提案，旨在规范国内AI的使用和发展。它遵循基于风险的方法，特别关注可能对公共安全造成重大影响的“高影响AI系统”。AIDA要求开发或部署这些系统的组织进行风险评估，实施风险缓解策略，并持续监控系统以确保遵守安全和伦理标准。在责任方面，AIDA强调通过公共执法而非私人诉讼来追究实体的责任。
加利福尼亚参议院法案SB1047则聚焦于美国加利福尼亚州内AI模型的严格责任。该法案特别关注在训练过程中使用大量计算资源的高级AI模型，并要求开发者实施全面的安全措施。如果AI模型造成了重大损害，开发者可能面临重罚，包括罚款、禁令和AI系统的删除。该法案还引入了严格责任规则，即使开发者采取了所有规定的安全措施，也可能被追究其AI系统造成的任何损害的责任。
1.3. 欧盟和欧洲议会2020年关于AI责任的决议中的严格责任
在欧盟法律框架内，对于人工智能（AI）系统的严格责任是一个重要议题。欧盟和欧洲议会在2020年通过的决议中提出了关于AI责任的全面提案，其中包括了对高风险AI系统实行严格责任的建议。这一提案旨在确保AI系统造成的伤害能够得到适当的赔偿，并且鼓励开发者和部署者采取预防措施以减少潜在的风险。
严格责任是一种不基于过错的法律责任，它要求责任主体在没有过错的情况下也可能需要为造成的损害承担责任。在AI领域，这意味着如果AI系统造成了伤害，即使开发者或部署者无法控制某些风险，他们也可能需要承担责任。
欧洲议会的决议强调了对于高风险AI系统的严格责任，这包括了对AI系统的设计、开发和部署过程中可能产生的风险进行评估和管理。此外，决议还提出了对于非高风险AI系统的过错责任，即在这些情况下，受害者需要证明AI系统的操作者或提供者存在过错。
这一决议的提出，反映了欧盟在AI治理方面的前瞻性思维，旨在通过法律手段确保AI技术的健康发展，同时保护消费者和公众的利益。通过这种方式，欧盟希望能够在全球AI治理中发挥领导作用，推动建立一个更加公正、透明和可信赖的AI生态系统。
此外，该决议还提出了对AI系统造成的物质和非物质损害的考虑，以及对受害者的保护措施。这些措施旨在确保受害者能够获得与非AI系统造成的伤害同等水平的保护，并增强他们对新技术的信任。
2. 欧盟委员会AILD影响评估的评估
IA评估了三个旨在完善AI责任法规的政策选项：
1.政策选项1：引入措施以减轻AI责任索赔的举证负担，包括强制披露AI文档，对不遵守AI法案安全措施的行为实行可反驳的责任推定，以及调整与AI系统内部工作相关的举证责任。
2.政策选项2：在政策选项1的基础上，增加对高风险AI用途的严格责任制度，并要求在严格责任制度下承担责任的一方进行保险。
3.政策选项3（首选政策选项）：最初只实施政策选项1的措施，并在AI技术进一步发展的基础上，进行后续评估，可能会加入严格责任措施。
在对欧盟委员会提出的人工智能责任指令（AILD）的影响评估（IA）进行评价时，补充影响评估研究揭示了IA在几个关键方面的不足：
1.政策选项的不全面性：IA在评估旨在完善AI责任法规的三个政策选项时，未能全面考虑所有可能的监管政策选项。特别是，IA没有充分考虑实施AI责任法规而非指令的可能性，这是欧洲议会提出的建议。此外，IA也没有详细探讨结合严格责任和责任上限的潜力，也没有深入研究更广泛的过失推定或完全逆转举证责任的范围。
2.成本效益分析的简化：IA在评估除首选政策选项之外的其他监管选项的成本和效益时，有时虽然详细，但在评估严格责任制度的承诺和风险时缺乏一些细节和分析。IA指出，严格责任可能会激励防止损害，并可能增加对AI产品的信任和接受度。然而，IA也表达了对严格责任与非AI技术基于过错的责任不一致的担忧，以及严格责任的比例性和法律确定性的质疑。
3.环境影响评估的不完整：IA在预期AI应用将对环境有益的同时，未能充分考虑AI发展和部署增加所带来的大量环境成本，如高水和能源消耗。
3. AILD、PLD和AI法案之间的相互作用
3.1. AI法案对AILD的新定义的影响
AI法案为AILD提供了一些关键定义，这些定义对于理解和实施AILD至关重要。以下是AI法案中一些重要定义及其对AILD的潜在影响：
3.1.1. AI和软件
AI 法案中的定义
AI法案中现在对 AI 提供了更具体的定义，将其定位为一种基于机器的系统，具有不同程度的自主性和适应性，能够从输入中推理并生成输出以影响物理或虚拟环境。该定义的公式取自经修订的经合组织 AI 定义，但非常宽泛和通用。根据该定义，任何软件几乎都满足要求，除了 “推理” 这一元素。要区分 AI 与传统软件，需要很好地理解从输入推理 AI 输出的含义，并且需要对自主性有一个 “足够程度” 的目的性解释。AI法案Recital 12 对自主性进行了进一步解释，强调了一定程度的独立于人类参与的行动能力和在没有人类干预的情况下运行的能力，但这实际上是自动化的定义，而非自主性。真正的自主性还应包括能够适应模型之前未见过的输入的能力。
AI法案还提到了当前 AI 的两种主要路径：机器学习和基于知识的路径，并强调推理能力必须超越基本数据处理，实现学习、推理或建模。像聊天机器人、基于扩散的图像生成器或高级面部识别技术等系统显然属于这一定义下的 AI，而基于规则定义的简单数学运算系统（如电子表格程序中的简单运算）则被排除在外。
对 AILD 的影响
AI法案中宽泛的 AI 定义对 AILD 产生直接影响，使其需要涵盖广泛的技术，但也可能导致将一些技术纳入法律范围，而这些技术可能并不真正带来 AI 通常所引发的伦理或社会风险。
建议
AI 的概念对任何相关监管至关重要，应尽可能具有未来前瞻性，同时能区分出对社会存在关键风险的 AI 系统，这些风险主要包括隐私和数据保护、不透明度、歧视、不可预测性、操纵、有害和虚假内容以及环境和气候成本等。
面对 AI Act 中宽泛的定义，AILD 可以选择采用不同的策略，如采用不同的、更窄的 AI 定义，扩展其范围至（复杂）软件，或仍采用 AI Act 的定义。从欧盟法律的一致性和合规性角度看，后者更有优势，因为 PLD 已涵盖任何类型的软件，且未对软件进行定义，只在 PLD Recital 13 中提供了非详尽的示例。因此，AILD 采用 AI法案的定义或将其范围扩展至软件，不会对 PLD 的范围产生太大影响，除非在 PLD 范围之外的一些领域。从 AI 责任指令到软件责任指令，这一选择需要考虑与 PLD 的比较，目前 PLD 在某些方面存在不足，如未涵盖歧视、人格权等问题，而 AILD 可以弥补这些不足。此外，为了避免市场割裂和法律不一致，将 AILD 扩展为更全面的软件责任工具（SLI）是有必要的，SLI 应涵盖 AI 和所有其他类型的软件，确保证据披露机制和可反驳的推定原则普遍适用于所有软件应用。
3.1.2. 提供者和部署者
与 AI 法案定义保持一致
出于与 AI 定义的相同原因，提供者和部署者的概念应与 AI Act 中的相应定义保持一致。这意味着 AI Act 第25（1）条中关于从部署者到提供者的转变的规定也应引入 AILD 框架。根据该规定，任何部署者或第三方如果对高风险 AI 系统进行了特定的修改（如贴上自己的商标、进行重大修改或修改其预期目的使其成为高风险 AI 系统），将被视为新的提供者，而原提供者在某些情况下将不再被视为提供者，但必须与新提供者密切合作。
重大修改的界定
AI法案在 第3（23）条中定义了重大修改，即 AI 系统在投放市场或投入使用后发生的、未预见或计划的变更，且该变更影响了 AI 系统符合高风险 AI 系统要求的合规性，或导致其预期目的的修改。在 AILD 中，应与 AI 法案保持一致，明确界定重大修改的范围。同时，需要注意的是，在大多数情况下，部署者和第三方可以通过避免进行某些行为（如避免对 AI 系统进行可能被视为重大修改的操作）来规避被视为提供者的风险，但在某些情况下（如 fine - tuning），需要明确规定一般情况下不会导致被视为重大修改，除非存在特定情况（如去除安全层或在严重偏差的数据上进行 fine - tuning）。否则，在任何环境中使用基础模型或其他通用目的人工智能系统的部署者，如果仅仅因为使用标准技术来定制模型以满足其需求而被视为提供者，可能会对通用目的人工智能系统的使用造成极大的阻碍，因为他们将需要承担高风险 AI 系统提供者所需的广泛规制。
3.1.3. 通用目的AI系统
AI 法案中的定义
AI Act 现在包含了关于 “通用目的人工智能系统” 的条款，将其定义为基于 “通用目的人工智能模型” 的 AI 系统。通用目的人工智能模型是一种具有显著通用性、能够胜任执行广泛不同任务的模型，无论其投放市场的方式如何，并且能够集成到各种下游系统或应用中，但用于研究、开发或原型制作活动之前投放市场的 AI 模型除外。
对 AILD 的影响
目前 AILD（在起草时）尚未包含这一术语，因此其对 AILD 的影响有限，但随着 AI Act 对通用目的人工智能系统的条款的纳入，AILD 需要考虑如何适应这一变化，以确保对通用目的人工智能系统的责任和监管得到妥善处理。
3.1.4. 风险
AI 法案中的定义
AI Act 将风险定义为 “发生伤害的概率与伤害严重程度的组合”，这有效地体现了当前欧盟法律中关于风险监管和成本效益分析的概念。
对 AILD 的影响
虽然 “风险” 这一概念在 AILD 中没有被明确引用，但从一致性和合规性的角度来看，AILD 采用 AI Act 中的风险定义是有利的，因为这有助于确保在 AI 相关的监管和责任框架中，对风险的理解和处理方式保持一致。
3.1.5. AI素养
AI法案的要求
AI Act 要求所有 AI 系统的提供者和部署者（无论其风险状态如何）采取措施，确保其员工和其他代表其操作和使用 AI 系统的人员具备足够的 AI 素养。AI法案第4 和 3（56）条进一步定义了 AI 素养的概念。
与证据披露和推定的关系
违反AI法案第4条是否应启动AILD第3 和 4 条中的证据披露义务和可反驳推定存在疑问。一种观点认为，仅仅因为公司中一名 AI 素养不足的员工（与造成的损害没有任何证据联系）就导致AILD第3 和 4 条中严重后果的规则可能过于宽泛。
建议的处理方式
对于部署高风险系统的人员，违反第26（2）条中关于为人类监督分配具有必要能力、培训和权威的个人的特定要求，启动证据披露机制（AILD 第3（1）条），并且在某些情况下，启动了可反驳推定（AILD第4（2）条）。同样，对于高风险 AI 系统的提供者，违反AI法案第4 条中与直接职责相关的条款（如条款 9 - 16 中的风险管理、数据和数据治理），也应受到这些限制。这些规定确保了只有与损害行为直接相关的个人才会受到关注，从而提供了更有针对性和相关性的保护，比基于任何违反AI法案第4 条的宽泛规则更为合理。
对于非高风险 AI 系统，一般规则如AILD第4（5）条可以提供保护：如果投诉人在证明违反AI法案第4 条与某些具体输出之间的因果关系时面临过度困难。然而，如果任何违反AI法案第4 条的行为都导致了AILD第3条下的访问权，这可能会导致对个别员工培训和能力水平的过度审查。此外，这样的要求可能会与 GDPR 规定发生冲突，并普遍引起对这些个人数据保护和隐私的担忧。因此，引入额外的证据披露规则和对 AI 素养违反的可反驳推定似乎没有必要，并且可能会给公司带来过多的要求。现有的法律机制已经解决了那些直接参与 AI 相关事件的特定职责的问题，进一步规定 AI 素养违反的责任可能是多余的。总体而言，一名与损害行为无关的员工的 AI 素养缺乏与实际损害之间的联系太弱，无法证明如此广泛的义务和推定是合理的，因为任何直接参与都可以通过AI法案第9 和26（2）条规定的具体职责来处理，并且 AILD 中对这些违反行为的后果已经做出了规定。
3.1.6. 建议
采纳AI法案的定义
为了保持一致性，应主要采纳AI法案的定义，以确保 AILD 与 AI Act 在相关概念上的协调一致，从而更好地实现对 AI 系统的监管和责任分配。
增加处理违反AI法案第4条的责任规则
虽然额外的证据披露规则和对 AI 素养违反的可反驳推定可能不必要，但可以考虑制定其他规则来制裁违反AI法案第4条的行为，以确保AI法案的要求得到有效执行。
明确关键概念的指南
由于AI法案中一些概念的宽泛性和复杂性，为了避免在实际应用中出现混淆和不确定性，需要制定清晰的指南，明确哪些系统被视为 AI 以及在法律框架内的具体含义，包括提供具体技术示例来解释这些概念，同时允许根据技术发展对指南进行更新，以确保相关方能够更好地理解和遵守法律规定。
3.2. AI法案和AILD中的高风险AI系统
在AI法案和AILD中，对于高风险AI系统的分类和监管是一个关键议题。AI法案基于AI系统可能对人类健康、安全和基本权利造成的潜在威胁，将其分为高风险和非高风险系统，并为高风险系统设定了更严格的监管要求。
3.2.1. 社会风险与个人风险
在AI法案中，对于高风险AI系统的分类侧重于社会层面的风险，这可能没有充分考虑到个体层面的风险。例如，AI法案可能会将某些在特定社会应用中可能对大量人群产生影响的AI系统视为高风险，而那些只影响少数个体的系统可能不会被归类为高风险，即使这些少数个体可能遭受严重影响。
AILD则更侧重于保护个体免受AI系统可能造成的伤害，无论这些系统是否被AI法案归类为高风险。这种差异意味着AILD可能需要对高风险AI系统的分类进行扩展，以确保能够覆盖那些对个体构成显著风险的AI应用。
3.2.2. 建议
针对AILD和AI法案中高风险AI系统的分类差异，建议AILD在考虑如何将AI法案中的高风险分类直接应用到AILD中时，应采取以下措施：
定义调整或后果扩展：要么在 AILD 中定义不同于 AI Act 的高风险 AI 系统，以更准确地涵盖那些对个体可能造成重大风险的 AI 应用；要么在保持高风险 AI 系统概念一致的前提下，扩展 AILD 中目前针对高风险系统的法律后果适用范围，使其涵盖更多潜在的高风险 AI 应用场景。
引入新类别：为了更全面地涵盖各种潜在的高风险 AI 应用，建议在 AILD 中引入 “高影响 AI 系统” 的新类别。这一类别将包括通用目的 AI 系统（如 ChatGPT）、旧立法框架系统（如自动驾驶车辆、更广泛的交通运输相关 AI 应用）、其他属于 AI Act 附件 I B 节的 AI 系统以及超出健康和人寿保险的保险应用等。通过这样的分类，可以更有效地应对 AI 应用带来的多样化风险，确保 AI 责任框架的完整性和有效性。
3.3. AI法案第9-15条与AILD责任推定
AILD提出了在特定条件下，对违反AI法案第9-15条的行为进行责任推定，以简化受害者在AI系统造成损害时寻求赔偿的法律程序。这些条款涉及AI系统的透明度、人类监督、数据治理、准确性、鲁棒性和网络安全等方面。
3.3.1. 因果关系推定
在AILD中，为了解决因AI系统的复杂性和不透明性导致的因果关系难以证明的问题，提出了一种因果关系推定机制。这种机制旨在帮助受害者更容易地将AI系统的输出与造成的损害联系起来，特别是在违反了AI法案中的相关规定时。
因果关系推定的核心思想是，当AI系统违反了AI法案中的特定条款，如透明度、人类监督、数据治理等，就可能推定该系统对由此产生的损害负有责任。这种推定是为了减轻受害者在证明AI系统提供者或部署者的过错时的举证负担。
然而，这种推定并不是绝对的。被告方可以通过提供证据来反驳这种推定，证明其行为或产品与损害之间不存在因果关系。例如，如果AI系统的提供者能够证明，即使其系统符合所有适用的安全和合规标准，损害仍然可能发生，那么他们可能能够避免责任。
AILD的这一部分建议，为了确保受害者能够有效地获得法律救济，需要对因果关系推定的具体应用和限制进行明确的规定，以确保在保护受害者权益的同时，也不过度损害AI系统提供者和部署者的合法权益。
3.3.2. 建议
针对AILD中因果关系推定的实施和其在法律框架内的具体应用，以下是一些建议：
明确反驳可能性：文章 4 AILD 应明确包括基于在 AI 管道中引入的保障措施（如 “治愈” 先前违规的措施）进行反驳的可能性，以更好地反映 AI 技术的动态性质和提供者在改进系统方面的努力。
建立新的推定：应纳入新的推定，明确建立输出与任何由此产生的损害之间的因果关系（而非过错与输出），特别是在违反文章 14 和 26（2）和（5）AI Act（涉及人类监督和部署者监测职责）的情况下。这样的推定将更准确地反映这些条款的违反与损害之间的实际关系，因为这些条款的违反主要影响的是对输出的干预和监测能力，而不是直接导致输出的特定性质。
处理部署禁止 AI 系统的损害：对于因部署被禁止的 AI 系统而导致的损害，应采用严格责任制度，或者自动假定过错和因果关系（无反驳余地）。这样的规定将使受伤人员只需证明使用了被禁止的系统以及该系统导致的因果损害，从而减轻了他们在证明过错方面的负担，同时也对部署禁止 AI 系统的行为施加了更强的法律约束。
3.4. 新通用目的AI系统规则对AILD的影响
AI法案引入了针对通用目的AI系统的具体规则，这些系统基于能够执行广泛不同任务的通用AI模型。这些系统，如基础模型，虽然在AI法案下并未被归类为高风险，但它们带来了独特挑战和风险，这些在当前AILD框架下并未得到充分解决。
3.4.1. 通用目的AI系统的风险
通用目的AI系统（General-Purpose AI systems, GPAI），如基础模型，具有显著的通用性，能够胜任各种不同的任务，并可集成到多种下游系统或应用中。这些系统在AI法案下并未被归类为高风险，但它们可能对个人或社会造成显著的伤害，包括歧视、侵犯人格权和生成有害内容等。这些系统的操作往往基于随机变量，其输出具有不可预测性，这增加了在诉讼中支持受害者的难度。
由于AILD主要关注高风险AI系统，通用目的AI系统在当前的AILD框架下并未得到充分覆盖。为了解决这一问题，建议AILD应扩展其适用范围，将通用目的AI系统纳入监管，确保这些系统在造成损害时，受害者能够获得必要的法律保护和救济。
3.4.2. 建议
为了确保AILD能够有效地应对通用目的AI系统（如生成性AI技术，包括ChatGPT）带来的风险，以下是一些建议：
证据披露要求：建议AILD的第3条规则应明确包括生成性AI技术，目前这些规则仅适用于高风险系统。这一调整将确保在涉及生成性AI的法律程序中，有证据披露机制来提供帮助，承认这些系统的不透明性和概率性本质，以及它们在诉讼中带来的挑战。
违规的因果关系推定：违反AI法案第55条（规定通用目的AI系统的安全规则）的行为，应触发违规行为与系统产生的任何具体有害输出之间存在因果关系的推定。这种推定将促进受害者寻求因这类AI系统造成的损害赔偿的过程，承认直接将设计决策与特定伤害实例联系起来的困难。
重要的是，在这种方法下，受害者仍应能够证明GPAI提供者的责任，超出违反AI法案第55条的范围：这一规定仅适用于具有系统性风险的非常小的GPAI集合（可能只有GPT-4和一些Gemini及/或Claude版本），除非委员会明确指定更多模型展示系统性风险。在这种情况下，过错的要素可能是：开发和部署期间内容审核政策不足；缺乏对有害内容的持续测试；缺乏通知和行动机制，使用户能够对特别有害的输出形式提供反馈。受害者仍然需要借助披露的证据来证明过错，但在扩大的AILD第4条下，他们将不必证明与特定输出的因果关系。
3.5. PLD和AILD的范围 - 剩余的漏洞？
产品责任指令（PLD）和提出的人工智能责任指令（AILD）旨在解决AI系统的不同责任方面。PLD侧重于物理产品及其缺陷，而AILD旨在涵盖AI系统的非契约民事责任的程序方面。然而，存在一些PLD的范围可能无法完全扩展到AI的复杂性，留下了AILD可能解决的潜在漏洞。
3.5.1. 歧视
产品责任指令（PLD）并未明确涵盖由人工智能（AI）系统引起的歧视问题。这是一个显著的空白，因为AI系统已经显示出可能基于偏见的训练数据或算法产生歧视性结果。这些系统可能在信贷评估、招聘、广告定向等方面做出不公平的决策，对个人或群体造成不利影响。
针对歧视问题，建议AILD应明确适用于歧视责任案件，并提供证据披露和因果关系推定的机制，这对于法庭上证明歧视至关重要。这些机制将帮助受害者更容易获得赔偿，并确保AI系统的提供者和部署者对其可能产生的歧视性后果负责。
建议措施包括：
证据披露要求：AILD应要求AI系统的提供者和部署者在必要时向法院披露相关证据，以便受害者能够证明其案件。
因果关系推定：违反AI法案中关于非歧视和公平处理数据的规定应触发违规行为与系统产生的有害输出之间存在因果关系的推定。
明确责任：AILD应明确规定，AI系统的提供者和部署者对于其系统造成的歧视性结果负有责任，即使这些结果并非故意为之。
通过实施这些建议，AILD将有助于确保AI技术的发展不会以牺牲基本的非歧视原则为代价，并为受害者提供必要的法律保护。
3.5.2. 生成性AI和人格权
生成性AI系统，如ChatGPT，能够产生各种内容，包括文本、图像和视频。这些系统可能会侵犯个人的人格权，例如通过生成诽谤性内容、未经同意的私密图像、深度伪造视频（deepfakes）或其他有害内容。这些行为可能会对个人的名誉、隐私和尊严造成严重伤害。
由于生成性AI系统的输出具有随机性和不可预测性，这使得在法律诉讼中建立系统设计缺陷与特定有害输出之间的因果关系变得尤为困难。与确定性的非生成性AI系统不同，生成性AI系统以概率性方式运作，对同一输入可能随时间提供不同类型的输出。
为了解决这一问题，建议AILD应扩展其适用范围，明确包括对人格权的保护，并为涉及生成性AI系统的案件提供以下法律框架：
证据披露要求：AILD应要求生成性AI系统的提供者和部署者在必要时向法院披露相关证据，以便受害者能够证明其案件。
因果关系推定：违反AI法案中关于人格权保护的规定应触发违规行为与系统产生的有害输出之间存在因果关系的推定。
责任明确：AILD应明确规定，生成性AI系统的提供者和部署者对于其系统造成的人格权侵犯负有责任。
通过这些建议，AILD将有助于确保AI技术的发展不会侵犯个人的基本权利，并为受害者提供必要的法律保护。这将有助于建立一个更加公正和负责任的AI生态系统。
3.5.3. 纯经济损失和专业使用财产
在现有的产品责任指令（PLD）框架下，对于由人工智能（AI）系统造成的纯经济损失和专业使用财产的损害，可能没有提供足够的保护。AI系统，尤其是在金融和保险领域，可能会因错误决策或不准确的风险评估导致经济损失，而这些损失在PLD的现有规定下可能无法得到充分赔偿。
为了解决这一问题，建议AILD应扩展其适用范围，包括以下方面：
纯经济损失：AILD应明确涵盖AI系统造成的直接财务损失，例如在金融交易或保险理赔中因AI系统的错误或误导性建议而导致的损失。
专业使用财产：AILD应提供对专业使用财产的保护，包括在商业环境中使用的软件和系统，这些可能因AI系统的缺陷而遭受损害。
证据披露和因果关系推定：AILD应要求AI系统的提供者在必要时向法院披露相关证据，并在适当情况下提供因果关系推定，以帮助受害者证明AI系统与损失之间的联系。
通过这些建议，AILD将能够为因AI系统造成的经济损失和专业使用财产损害提供更全面的保护，确保受害者能够获得公正的赔偿，并促进AI技术的负责任使用。这将有助于增强法律框架的完整性，确保所有类型的损害都能得到适当的法律救济。
3.5.4. 可持续性损害
在现有的产品责任指令（PLD）中，并没有明确涉及由人工智能（AI）系统造成的环境和可持续性损害。随着AI技术的发展，尤其是在训练和运行大型AI模型时，能源和水资源的消耗以及相关的环境影响成为了一个日益突出的问题。例如，大型AI模型的训练可能需要大量的电力，这不仅增加了碳足迹，还可能对水资源造成压力。
为了解决这一问题，建议AILD应该考虑包括以下方面：
环境影响的考量：AILD应该要求AI系统的提供者评估和披露其系统对环境的潜在影响，包括能源和水资源的使用情况。
可持续性损害的责任：AILD应该为因AI系统造成的环境损害提供责任追究机制，确保受害者和环境损害能够得到适当的赔偿。
预防措施和最佳实践：AILD应该鼓励和要求AI系统的设计者和部署者采取预防措施，采用环保的最佳实践，以减少对环境的影响。
跨领域合作：AILD应该促进不同领域之间的合作，包括技术开发者、环境专家和政策制定者，共同研究和制定减少AI系统环境影响的策略。
通过这些建议，AILD将有助于确保AI技术的发展不会以牺牲环境和可持续性为代价，同时也为因AI系统造成的环境损害提供了法律救济的途径。这将有助于推动AI行业的可持续发展，并确保AI技术的进步与环境保护相协调。
3.5.5. 总体建议：超越PLD
尽管产品责任指令（PLD）为产品责任提供了基础框架，但它在覆盖人工智能（AI）系统特有的责任问题方面存在局限性。AILD旨在补充PLD，确保对AI系统造成的损害提供更全面的法律保护。以下是针对AILD的总体建议：
扩大适用范围：AILD应扩大其适用范围，不仅包括高风险AI系统，还应涵盖通用目的AI系统和其他可能对个人或社会造成显著影响的AI应用。
明确责任和义务：AILD应明确AI系统提供者和部署者的责任，特别是在涉及歧视、侵犯人格权、纯经济损失和可持续性损害等方面。
证据披露和因果关系推定：AILD应包含证据披露要求和因果关系推定机制，以帮助受害者在法律诉讼中更容易地证明AI系统与损害之间的联系。
环境和可持续性考量：AILD应考虑AI系统对环境的影响，并为因AI系统造成的环境损害提供责任追究机制。
跨领域合作：AILD应促进不同领域之间的合作，包括技术开发者、环境专家、法律专家和政策制定者，共同研究和制定减少AI系统风险的策略。
法律框架的现代化：AILD应反映AI技术的最新发展，确保法律框架能够适应快速变化的技术环境。
国际协调：AILD应考虑与国际法律标准和最佳实践保持一致，促进全球AI治理的协调和合作。
通过实施这些建议，AILD将有助于确保AI技术的负责任发展和应用，同时为受害者提供必要的法律保护。这将有助于建立一个更加公正、透明和可信赖的AI生态系统，促进AI技术的长期可持续发展。
4. AILD与欧洲议会关于AI责任的决议
欧洲议会在2020年通过的关于人工智能责任的决议为欧盟内AI责任框架提供了不同的视角。该决议建议对AI责任采取双轨制方法：对高风险AI系统实行严格责任，对非高风险AI系统实行过错推定责任。本节比较了AILD与欧洲议会的决议，突出了关键差异和AILD可以与决议建议保持一致或扩展的领域。
4.1. 严格责任
在欧洲议会2020年关于人工智能责任的决议中，提出了对高风险人工智能（AI）系统实行严格责任的建议。这一建议旨在确保AI系统造成的伤害能够得到适当的赔偿，并鼓励开发者和部署者采取预防措施以减少潜在的风险。
严格责任的模式：严格责任分为产品缺陷导致伤害的 “严格责任”（实际为过错责任的伪装）和某些高风险行业中仅因行动导致伤害的真正严格责任（如转基因生物或某些危险设施造成的损害）。对于 AI 系统，应区分非法伤害模型（正常运行时不应造成伤害）和合法伤害模型（可能会对某些人造成不利影响但不一定需要赔偿）。
欧洲议会决议中的严格责任：欧洲议会 2020 年关于 AI 责任的决议建议对高风险 AI 系统实行真正的严格责任，包括设定个人伤害和财产损害的赔偿上限以及强制保险要求，对非高风险 AI 系统实行基于过错推定的责任制度，并对损害赔偿上限和诉讼时效做出了规定，同时关注了责任主体的术语使用，建议采用 PLD 和 / 或 AI法案 中的术语。
AILD 中严格责任的现状与未来：目前 AILD 未采纳欧洲议会决议中提出的真正严格责任，未来是否应将其纳入 AILD 需要权衡利弊。真正严格责任的好处包括调节活动水平、简化法律程序、内部化成本和有效执行非歧视法律等；但其缺点包括可能阻碍创新、对基本权利产生复杂影响（如减少 AI 产品供应、影响教育和医疗等领域的基本权利享受、增加 AI 产品价格）以及增加无理诉讼的风险。
建议：在决定是否建立真正的严格责任时，需要考虑其对创新和基本权利的多维度影响，这是一个需要仔细权衡的政治选择。
4.2. 共同责任
在人工智能（AI）领域，确定责任主体并不总是直截了当的，因为AI系统可能涉及多个参与者，包括开发者、部署者、维护者和用户。这些参与者可能在AI价值链的不同环节，因此，当AI系统造成损害时，可能需要考虑共同责任的问题。
4.2.1. 当前情况分析
当前在 AI 相关案件中，共同责任的赔偿主要依据国家法律的规定。
《产品责任指令》（PLD）允许多个经济行为主体对同一损害承担共同连带责任，但也存在一些例外情况，旨在鼓励软件部门的小微企业进行创新。
然而，共同责任在 AI 价值链中存在核心问题，即责任的分配不够明确。在 AI 价值链中，通常最后与受害者接触的是下游行为主体（如部署者），他们往往是受害者最容易寻求赔偿的对象。但是，当这些下游行为主体面临上游行为主体（如制造商或提供者）的市场主导地位时，可能会出现上游行为主体通过合同条款限制下游行为主体的追索权，导致下游行为主体在某些情况下无法有效寻求赔偿。
此外，即使下游行为主体能够向其他上游行为主体寻求追索，这也依赖于国家法律的规定，而不同国家的法律在这方面可能存在差异，导致法律适用的不确定性和复杂性。
4.2.2. 建议
为了确保 AI 价值链中责任的公平分担，AILD 应该纳入一个明确的赔偿框架。
推定平等份额：首先，可以引入推定平等份额的原则，即每个在 AI 价值链中对损害有责任的实体都承担相同份额的责任。只有当某个实体试图挑战这一推定时，才需要通过诉讼来确定各实体具体的责任份额，并且挑战推定的一方需要承担举证责任。此外，这些规定应该具有约束力，不能被合同约定轻易改变，以确保责任的公平分配。
支持中小企业：可以借鉴 PLD 中有利于中小企业的豁免条款，将这些条款纳入 AILD 的赔偿系统中。同时，为了避免中小企业在合同中处于弱势地位，这些保护中小企业的规定应该具有约束力，而不仅仅是依赖制造商的自愿同意，以确保中小企业在承担责任时不会受到过度的压力。
保护下游方：应该禁止合同中出现放弃或严重负面修改下游方追索权的条款。任何试图通过合同限制下游方追索权的行为都应该被视为无效，以确保下游方在 AI 价值链中能够有效地维护自己的权益，当他们因为上游方的责任而受到损害时，能够顺利地寻求赔偿。
这些政策选项可以组合使用，以全面保护下游方的权益，确保在 AI 相关的损害事件中，下游方能够有效地获得赔偿，从而实现 AI 价值链中责任的公平分担，促进 AI 产业的健康发展。
4.3. 基于过错的责任和证据披露
在人工智能（AI）责任的背景下，基于过错的责任是指只有在证明AI系统提供者或部署者未能履行其注意义务时，才承担赔偿责任。这通常要求受害者证明责任方的行为或疏忽导致了损害。然而，由于AI系统的复杂性和不透明性，这可能是一项挑战性的任务。
4.3.1. 披露证据
AILD中的证据披露条款对于有效执行该指令以及增强合规性至关重要。然而，为了更好地发挥其作用，该条款需要进行一些调整以更好地与AI Act对齐。
具体来说，正如PLD修订版所规定的那样，证据应被要求以易于理解的方式呈现给非专家，例如消费者或他们的法律顾问。因为在典型的产品责任案件中，尤其是涉及AI系统时，由于其技术复杂性、不透明性和自主性，制造商与受害者之间存在着严重的信息不对称。如果证据不能以易于理解的方式呈现，受害者将很难有效地利用这些证据来维护自己的权益。
此外，当前AILD中对潜在索赔人启动证据披露机制的门槛设置过高。例如，潜在索赔人需要提供足够的证据来支持其索赔的合理性，这一要求往往会阻止许多合法的索赔，特别是在歧视法等领域。因此，建议降低这一门槛，允许证据披露机制在更宽松的条件下被触发。具体而言，只要潜在索赔人能够证明损害的存在以及AI系统的参与，并且能够表明AI导致损害的可能性并非荒谬，就应该能够启动证据披露机制。当然，对于潜在或实际竞争对手提起的案件，为了防止无理诉讼和保护商业秘密，应保持对合理性的要求。
4.3.2. 举证责任
AILD提案在减轻索赔人举证责任方面存在一些不足。首先，当前的因果关系推定并没有涵盖过错的确定、AI系统的输出、损害的程度以及输出与损害之间的直接因果关系等方面。这意味着在许多情况下，索赔人仍然需要承担沉重的举证责任，来证明这些关键因素，这对于索赔人来说是非常困难的，尤其是在面对复杂的AI系统时。
其次，即使索赔人能够证明一些初步的事实，例如违反了AI法案的某些规定，但在某些情况下，如被告证明索赔人可以获取证据和专业知识来证明因果关系时，索赔人的举证难度可能会进一步增加。这可能导致索赔人在诉讼中处于不利地位，无法有效地维护自己的权益。
此外，AILD目前没有提供全面的过错推定。在许多情况下，索赔人需要证明被告存在过错，这对于受害者来说是非常困难的，因为AI系统的复杂性使得很难确定过错的归属。
为了解决这些问题，建议对AILD进行修改，使其包括在提供者或部署者在后期处理阶段违反AI Act时，过错与损害之间因果关系的推定。同时，在解释性说明中应明确，仅仅承认机器学习模型的固有易错性不应自动作为反驳因果关系推定的有效辩护。这样的修改将有助于减轻索赔人的举证责任，使其能够更有效地获得赔偿，同时也能够更好地平衡各方的利益，促进AI产业的健康发展。
综上所述，AILD在披露证据和举证责任方面需要进行一些改进，以更好地保护受害者的权益，同时也能够适应AI技术的特点和复杂性。
5. 从指令到AI责任法规
在考虑如何最有效地规范人工智能（AI）责任时，一个关键问题是选择适当的法律工具。欧洲议会法律事务委员会（JURI）提出的人工智能责任指令（AILD）目前采取的是指令形式，但存在将其转变为法规的可能性。法规将为整个欧盟提供统一的法律标准，有助于防止市场分裂，提高法律的清晰度，并促进创新和消费者保护。
5.1. 选择制度工具：指令还是法规？
在欧盟法律体系中，指令（Directive）和法规（Regulation）是两种不同的法律工具，它们在实施方式和法律效力上有所区别。指令通常要求成员国将其目标和要求转化为国家法律，而法规则在整个欧盟范围内直接适用，无需成员国的进一步立法。在考虑人工智能（AI）责任指令（AILD）的法律形式时，需要权衡这两种工具的优劣。
5.1.1. 市场监管和产品安全法的经验
欧盟在市场监管和产品安全法方面的经验表明，法规可以提供更加统一和明确的法律框架。例如，医疗设备法规和一般产品安全法规都是以法规形式存在，确保了在整个欧盟范围内对产品安全采取一致的方法。这种统一性有助于减少法律不确定性，促进单一市场的运作，并保护消费者和用户的利益。
5.1.2. 建议
基于市场监管和产品安全法的经验，建议AILD考虑转变为法规形式。这样做的好处包括：
统一性：法规将为所有成员国提供统一的法律标准，减少因成员国法律差异而导致的法律不确定性。
直接适用性：作为法规，AILD的规定将直接适用于整个欧盟，无需成员国的进一步立法。
市场整合：统一的法律框架有助于整合欧盟内部市场，促进AI技术的创新和应用。
消费者保护：法规可以确保在整个欧盟范围内为消费者提供一致的保护水平。
然而，这种转变也需要考虑到成员国在法律传统和实施能力上的差异，以及可能对成员国主权和立法自主权的影响。因此，这一转变需要在广泛的利益相关者咨询和深入的影响评估基础上进行。
5.2. 向法规迈进的具体步骤
将人工智能责任指令（AILD）从指令转变为法规，需要经历一系列详细的步骤来确保法律框架的顺利过渡和有效实施。以下是这一转变过程中可能涉及的关键步骤：
法律评估：首先，需要进行彻底的法律评估，以确保提议的法规与欧盟条约保持一致，并且具有适当的法律基础。这可能涉及对欧盟条约相关条款的解释，以及对现有法律框架的评估。
利益相关者咨询：在法规制定过程中，与成员国、行业代表、消费者组织、技术专家和其他利益相关者进行广泛咨询至关重要。这有助于收集不同的观点和建议，确保法规能够满足不同利益相关者的需求。
影响评估：进行全面的影响评估，以评估法规对市场、创新、消费者保护、中小企业以及欧盟内部市场运作的潜在影响。这将包括对法规可能带来的经济、社会和环境影响的分析。
提案修订：根据法律评估、利益相关者咨询和影响评估的结果，对AILD提案进行必要的修订。这可能涉及对法规文本的修改，以解决评估过程中发现的问题和关切。
立法程序：修订后的提案将提交给欧洲议会和理事会，按照欧盟的普通立法程序进行审议和投票。这一过程可能包括三方协商，即欧洲议会、理事会和委员会之间的谈判。
实施措施：一旦法规被正式采纳，需要制定详细的实施指南和措施，以帮助成员国、企业和组织理解和遵守新的法律要求。这可能包括培训、宣传和教育活动，以及为成员国提供技术支持和资源。
监督和评估：在法规实施后，建立有效的监督和评估机制，以确保法规得到正确执行，并评估其在实践中的效果。这可能涉及定期报告、审计和评估，以及必要时对法规进行进一步的修订。
通过这些步骤，AILD的转变将有助于创建一个更加统一和协调的法律环境，以应对人工智能技术带来的挑战和机遇。