重磅！欧盟新产品责任指令发布，AI 产品责任界定迎来重大变革：AI适用严格责任！

前情回顾
2022 年 9 月 28 日，欧盟委员会发布了以下两项提案（"提案"）：
欧洲议会和委员会关于缺陷产品责任指令提案（ Proposal for a directive of the European Parliament and of the Council on liability for defective products，以下简称"PLD 提案"）、
欧洲议会和委员会关于根据人工智能调整非合同民事责任规则的指令提案（Proposal for a Directive of the European Parliament and of the Council on adapting noncontractual civil liability rules to artificial intelligence，以下简称"AILD 提案"）。
这两项提案的共同目标是使责任规则适应数字时代，以确保受害者在受到人工智能（AI）产品或服务的伤害时，能像在任何其他情况下受到伤害时一样，享受相同标准的保护。这两项提案是支持在欧洲部署人工智能的一揽子措施的一部分，其中还包括一项规定人工智能系统横向规则的立法提案（即《人工智能法》）。
关于AILD提案，在2024年9月EDPS发布了《关于AI责任指令提案的补充影响评估》，参见本公众号1.5万字详解
关于PLD提案，将于2024年12月8日生效，本文将讲解该指令对AI的影响。
2024 年 11 月 18 日，欧洲议会和理事会于 2024 年 10 月 23 日发布的关于缺陷产品责任的指令 （EU） 2024/2853 和废除欧盟指令 85/374/EEC（产品责任指令）在欧盟官方公报上发布。
《产品责任指令》(以下称“新指令”)在发布 20 天后，即 2024 年 12 月 8 日生效。新指令通过序言的方式明确阐述了该指令如何适用于AI系统。
指令的背景
欧盟认识到，1985年制定的85/374/EEC指令虽然一直是一个有效和重要的工具，但在面对新技术发展时需要进行修订。特别是在人工智能(AI)、循环经济新商业模式和新的全球供应链等方面的发展，导致了一些不一致和法律不确定性，尤其是在"产品"一词的含义方面。
实施原指令的经验表明，受害者在获得赔偿方面面临困难，这主要是由于提出赔偿请求的限制以及在收集证据以证明责任方面的挑战，特别是在技术和科学复杂性日益增加的情况下。这包括与新技术相关的损害赔偿请求。
因此，修订该指令的目的是鼓励新技术（包括AI）的推广和采用，同时确保索赔人无论涉及何种技术都能享有同等水平的保护，并且所有企业都能受益于更大的法律确定性和公平的竞争环境。
这一背景反映了欧盟立法者对AI等新兴技术带来的挑战和机遇的认识。他们意识到，现有的产品责任框架可能不足以应对AI系统的复杂性和独特性，因此需要一个更新的、更全面的法律框架来平衡创新与消费者保护。
扩大使用范围：AI明确纳入产品定义
新指令显著扩大了"产品"的定义范围，明确将AI系统纳入其中：
"软件，如操作系统、固件、计算机程序、应用程序或AI系统，在市场上越来越普遍，并在产品安全方面发挥着越来越重要的作用。软件能够作为独立产品投放市场，也能随后作为组件集成到其他产品中，并且能够通过其执行造成损害。"
这一定义的扩展对AI行业有以下重大影响：
a) 法律责任的明确化：AI系统开发者现在明确承担与传统产品制造商相同的法律责任。这意味着AI公司需要更加谨慎地考虑其产品的安全性和潜在风险。
b) 适用范围的扩大：无论AI系统是作为独立产品还是集成到其他产品中，都将受到该指令的约束。这包括云端AI服务、嵌入式AI系统等各种形式的AI应用。
c) AI提供商被视为制造商：指令明确指出，"软件开发者或生产者，包括AI系统提供商，应被视为制造商。"这意味着AI公司将直接承担产品责任，不能仅仅因为其产品是软件或服务而规避责任。
明确缺陷认定和安全评估
新指令对AI系统的缺陷认定和安全评估提出了具体要求：
"为了反映互联产品的日益普及，产品安全评估应考虑其他产品对相关产品的合理可预见影响，例如在智能家居系统中。产品在投放市场或投入使用后学习或获取新功能的任何能力对产品安全的影响也应考虑在内，以反映产品的软件和底层算法的设计方式应防止危险产品行为的合理期望。"
这一规定对AI系统的影响包括：
a) 动态性的考虑：AI系统的学习能力和动态特性被明确纳入安全评估范围。这意味着AI开发者不仅需要考虑系统的初始状态，还需要预测和管理系统在使用过程中可能出现的行为变化。
b) 预期外行为的责任：指令明确指出，"设计具有发展意外行为能力的产品的制造商应对造成伤害的行为保持责任。"这对于具有高度自主性的AI系统尤其重要。
c) 网络安全考虑：指令将网络安全脆弱性也纳入了产品缺陷的范畴。这要求AI开发者更加重视其系统的网络安全性。
举证责任的调整
新指令对AI系统的举证责任进行了调整：
1. 推定机制的引入
指令引入了一种推定机制，允许国家法院在特定情况下推定产品的缺陷性或缺陷与损害之间的因果关系，或两者兼而有之。这种推定适用于以下情况：
a) 即使被告已披露信息，原告仍面临过度困难无法证明缺陷性或因果关系。 b) 这种困难主要是由于案件的技术或科学复杂性造成的。
2. 举证标准的降低
新指令认识到，在复杂案件中，通常要求的高度概率证明标准可能会损害获得赔偿的权利。因此，它降低了原告的举证标准：
a) 对于缺陷性，原告只需证明产品"可能"存在缺陷。 b) 对于因果关系，原告只需证明产品的缺陷"可能"是造成损害的原因。
3. 技术或科学复杂性的判断
指令要求国家法院根据具体情况判断技术或科学复杂性，考虑因素包括：
a) 产品本身的复杂性（如创新医疗设备）。 b) 使用技术的复杂性（如机器学习）。 c) 需要分析的信息和数据的复杂性。 d) 因果关系的复杂性（如药品或食品与健康状况之间的关系，或需要解释AI系统内部工作原理的情况）。
4. 过度困难的评估
新指令规定，国家法院应根据具体情况评估原告是否面临过度困难：
a) 原告需提供论据来证明存在过度困难，但不需要提供过度困难的证据。 b) 对于涉及AI系统的索赔，原告不需要解释AI系统的具体特征或这些特征如何使因果关系难以确立。
5. 被告的抗辩权
指令保护了被告的权利，允许被告对索赔的所有要素提出异议，包括过度困难的存在。
这些变化对AI产业的影响包括：
a)增加法律风险：AI系统开发者和使用者可能面临更高的法律风险，因为原告更容易提出和证明产品责任索赔。
b)产品安全的重视：这些变化可能推动AI企业更加重视产品安全，以减少潜在的法律风险。
c)创新与责任的平衡：虽然这些变化可能增加了AI企业的法律风险，但它们也旨在促进负责任的创新，确保消费者权益得到充分保护。
总的来说，这些举证责任的调整反映了立法者试图在促进技术创新和保护消费者权益之间取得平衡。它们要求AI产业更加谨慎地开发和部署AI系统，同时也为受害者提供了更多的法律保护。