联合国欧洲经济委员会关于嵌入式人工智能产品合规性的宣言：促进产品法规趋同的总体原则与声明
一、引言
随着人工智能(AI)和数字技术在日常产品和服务中的快速普及，全球各国在监管方面面临着前所未有的挑战。为应对这一复杂局面，联合国欧洲经济委员会(UNECE)监管合作和标准化政策工作组(WP.6)于2024年11月4日发布了题为"嵌入式人工智能产品的合规性"的宣言[1]。该宣言旨在促进全球监管协调，为规范嵌入式AI产品提供了一个连贯的国际方法。本文将详细分析该宣言的背景、内容及其潜在影响。
二、组织背景
(一) 联合国欧洲经济委员会(UNECE)
联合国欧洲经济委员会(UNECE)成立于1947年，是联合国经济及社会理事会下设的五个区域委员会之一。UNECE的主要任务是促进泛欧洲经济一体化和成员国之间的合作[2]。该委员会包括56个成员国，不仅涵盖欧洲国家，还包括北美、中亚和西亚的一些国家。UNECE的工作范围广泛，涉及经济合作、环境政策、可持续交通、贸易、统计等多个领域。
(二) 监管合作和标准化政策工作组(WP.6)
监管合作和标准化政策工作组(WP.6)是UNECE的一个重要组成部分，专注于监管合作、标准化和相关活动。WP.6成立于20世纪70年代，旨在促进非农产品法规的协调[3]。该工作组致力于推动监管合作、标准化政策和活动，以减少技术贸易壁垒，促进可持续发展的各个方面，包括性别平等、气候和环境保护、循环经济以及新技术的适应。
三、发布背景
近年来，AI和数字技术在日常产品和服务中的快速普及创造了一个复杂的监管环境。这种技术进步虽然为创新和经济增长提供了巨大潜力，但在安全、安保和道德考虑方面也带来了重大挑战。不同司法管辖区对AI的监管方法分散，加上全球安全关切和地缘政治挑战，可能会为贸易创造新的障碍。
UNECE WP.6主席Heidi Lund指出："AI的分散监管环境，加上全球安全关切和地缘政治挑战，可能会造成新的贸易壁垒。因此，至关重要的是要采取针对特定AI用例有效的措施来应对数字风险。"这种情况凸显了迫切需要一种连贯的国际方法来监管嵌入式AI产品，从消费电子产品到医疗设备和工业系统。
四、宣言内容
(一) 总体框架
该宣言建立在相关的总体通用监管安排(CRA)基础之上，这是一个旨在支持政府之间自愿监管合作的框架，同时保障全球贸易和技术进步[6]。CRA提供了减少技术贸易壁垒、协调监管方法和加强市场监督的指导。
(二) 主要目标
1.促进国际贸易：通过促进更大的监管一致性，该宣言旨在消除冗余检查并支持跨境贸易的顺畅进行。
2.增强监管一致性：采用CRA的政府机构将在其监管方法中获得更大的清晰度和可预测性，避免不必要的技术壁垒，同时促进相互认可。
3.促进可信度和韧性：CRA解决了与AI相关的社会和技术风险，确保嵌入式AI系统安全、可靠，并能抵御网络威胁。
4.支持可持续发展：该宣言与联合国可持续发展目标(SDGs)保持一致，鼓励推进环境、经济和社会目标的AI实施^7。
(三) 实施方法
宣言提供了一种灵活的、非约束性的方法，适应参与机构的成熟度水平。这种灵活性允许机构实施针对其特定监管需求的最佳实践，而不会承担约束性承诺的负担。
五、共同监管安排
- 引言
本文是联合国经济委员会欧洲分会（UNECE）下属的工作组6（WP.6）发布的关于嵌入式人工智能（AI）产品的合规性文件，旨在促进产品法规的融合。文件强调了嵌入式AI产品/服务的广泛使用和监管框架的多样性。随着技术的发展，这些产品/服务在全球范围内被广泛使用，但缺乏统一的定义和接受的监管框架，导致国际间的协调困难。为了解决这一问题，提出了一个共同监管安排（CRA），旨在促进市场准入，增加法规的协调性，并在联合国成员国之间建立特定行业或产品的具体安排。CRA基于WP.6的建议L，提供了一个自愿框架，通过最佳实践促进监管合作，减少技术性贸易壁垒，促进可持续发展目标的实现。
文件概述了产品监管通常是以垂直方式进行的，而嵌入式技术更多的是横向性质的，这可能导致在一些经济体中，对AI或其他嵌入式技术的要求可能被不同地解释或测试。CRA建立在WP.6为2023年11月年会开发的文件“嵌入式人工智能或其他数字技术产品的监管合规性”（ECE/CTCS/WP.6/2023/9）之上，并考虑了联合国人工智能咨询委员会开发的“临时报告：为人类治理AI”（2023年12月）。从这个角度来看，它支持使用AI作为实现所有17个可持续发展目标和可持续发展的潜在手段，包括环境、经济和社会三个维度。 - 范围
本共同监管安排（CRA）为嵌入人工智能（AI）系统或其他数字技术的产品和/或服务提供了一个总体方法，作为以下方面的基础：
制定合法的监管目标
识别和评估风险
确定制定法规的相关国际标准
建立相互认可的合格评定程序
建立市场监管和其他执法机制
它可以在国家层面使用，以促进现有机构或即将建立的机构之间的国家技术法规的融合。
本CRA为嵌入AI或其他数字技术的产品和/或服务提供了一个总体方法。建议开发用例，以展示CRA在不同领域中的应用方式。 - 术语和定义
本节详细阐述了与嵌入式人工智能（AI）产品/服务相关的术语和定义，为理解和实施共同监管安排（CRA）提供了基础。
3.1 基于WTO和WP.6建议的术语使用
文件中的术语除非文本中另有说明，否则基于世界贸易组织（WTO）技术性贸易壁垒协议（TBT）附件1或WP.6建议的定义。这些定义为不同国家和组织提供了一个共同的语言基础，有助于在全球范围内统一对嵌入式AI产品/服务的理解和监管。
3.2 不包括的领域：自动驾驶车辆和自主武器
CRA明确指出，不涵盖自动驾驶车辆和自主武器。这些领域已经由其他国家或国际安排直接覆盖。尽管如此，本文件中的指导原则也可能为这些产品类别提供有用的参考。
3.3 相关产品/服务的术语定义
文件提供了以下关键术语的定义：
人工智能（AI）系统：为实现一组人为定义的目标而设计的系统，能够生成内容、预测、建议或决策。这一定义与国际标准化组织（ISO）/国际电工委员会（IEC）22989关于AI概念和术语的标准相一致。
生成性人工智能（GenAI）：能够产生各种数据（如图像、视频、3D模型或音频文件）的AI系统。这些系统可以嵌入到设备中，或者作为软件即服务（SaaS）提供。
嵌入式AI或其他数字技术的产品/服务：包含嵌入式、可升级（远程、离线或其他方式）的AI系统，或集成的、可升级的软件，或两者的组合，以不同程度的自主性运作，并指导其操作，能够在通常旨在促进人为定义目标的方式中影响物理或虚拟环境的决策。 - 产品或服务要求
4.1 监管目标和评估风险水平
本节详细讨论了嵌入式人工智能（AI）产品或服务的监管目标和风险评估，以及如何确定不同产品的风险水平，并据此选择合适的合格评定方法。
在设定监管目标时，应基于零风险不可实现的认识。确定可接受的风险水平和风险偏好应遵循经济委员会欧洲（ECE）WP.6建议R，即在监管框架中管理风险。某些嵌入AI或其他数字技术的产品可能具有固有的高风险，例如可能直接影响人类健康和安全或基本权利的产品。有限风险（或中等风险）是可能影响安全问题的风险。低风险AI是不使用个人数据和/或影响人类的AI。政府需要评估风险并相应选择适当的合格评定方法。
在与AI系统相关的错误风险高的情况下，应尽可能包含人类决策。AI系统不应能够覆盖人类控制。某些行业具有固有的更高严重性，其中生命和健康的赌注特别高。例如，医院中的某些医疗设备使用嵌入式AI的复杂诊断系统。鉴于责任问题和潜在的患者风险，即使医疗设备能够生成算法决策，也建议尽可能包含人类决策。在某些工业机械中，人类与由AI驾驶的程序化机器人一起工作，也可能需要强制性的人类监督和干预。
技术嵌入产品中的评估通常很困难，或者无法知道实际内容（例如，结果所依据的方法、逻辑是未知的）。这对于嵌入AI或其他数字技术的产品尤其如此，因为系统本身可能因为从其他来源学习的信息而以意想不到的方式反应。技术的这一未知参数通常通过在各种参数下对系统进行一系列稳健测试来平衡；这可能不足以发现系统的每一个未知数，因此会保留一定程度的残余风险。监管机构和这类产品的分销商需要确保这些残余风险是可接受的并予以披露。例如，美国国家标准与技术研究院（NIST）开发的人工智能风险管理框架（AI RMF 1.0）提供了进一步的指导。
4.2 监管目标与社会影响
本节探讨了嵌入式人工智能（AI）产品或服务的监管目标，特别关注其对社会的影响，包括偏见、个人自由、心理健康和社会影响等方面。
嵌入式系统旨在减少AI系统中的偏见，包括人类认知偏见、数据偏见和由工程决策引入的偏见。这些偏见类型在ISO/IEC TR 24027中有所描述，该标准涉及AI系统和AI辅助决策中的偏见问题。
嵌入式系统的设计不应导致个人自由、责任或人类自主的丧失。
嵌入式系统的设计应考虑到对儿童的影响，包括教育、家庭、媒体和游戏化/娱乐等方面。这与联合国儿童权利公约（UNCRC）和其一般性评论第25号（2021年）关于儿童权利与数字环境的关系相一致。
监管目标还包括不扩大数字鸿沟，如联合国关于“抓住安全、可靠和值得信赖的人工智能系统为可持续发展带来的机会”的决议（A/78/L.49）中所述。确保AI产品或服务在新兴经济体中完全可用，不创造贸易壁垒，也不阻碍新兴经济体进入市场。
4.3 监管目标与数字考量
本节探讨了在监管嵌入式人工智能（AI）产品或服务时需要考虑的数字因素，特别是与信任、安全和隐私相关的问题。
嵌入式系统的设计应确保其可信度，包括防范AI特定的安全威胁、隐私威胁、不可预测性、不透明性以及AI系统实施和使用中的挑战。这些问题在ISO/IEC TR 24028中有所概述，该标准提供了AI中信任度的概览。特别关注数据丢失或未经授权访问数据的问题，这些问题在欧盟通用数据保护条例（GDPR）和欧盟AI法案等数据保护法规中有所发展。
嵌入式系统应预见到一个强大的系统来保护免受网络攻击，包括数据漂移、概念漂移、奖励黑客算法和安全探索等问题。这些内容在ISO/IEC TR 5469中有所概述，该标准涉及功能安全和AI系统。此外，NIST的对抗性机器学习、攻击和缓解措施的分类法和术语（NIST AI 100-2e2023）和NIST网络安全框架（CSF）2.0提供了关于如何保护系统免受网络攻击的指导。
应采取措施确保嵌入式技术不能被用于非法活动，如未经授权或非法的控制或监控、诽谤或诋毁等。 - 参考国际标准
本节概述了在设计和监管嵌入式人工智能（AI）产品或服务时可以参考的一系列国际标准。这些标准为确保AI产品的功能性、安全性和合规性提供了框架和指导。
5.1 国际标准的作用
技术法规基础：当需要技术法规且相关国际标准存在或即将完成时，WTO成员应当使用这些国际标准或其相关部分作为技术法规的基础，除非这些标准或相关部分因基本的气候、地理因素或技术问题而无法有效或适当地实现追求的合法目标。
WP.6建议D：WP.6建议D强调了在制定技术法规时应参考国际标准的重要性，并在WTO TBT协议第2.4条中进一步阐述。
5.2 特定国际标准的列举
以下是与嵌入式AI产品或服务相关的一些国际标准：
ISO/IEC 42001系列标准：涉及AI管理系统的标准。
ISO/IEC 23894:2023系列标准：提供关于AI风险管理的指导。
ISO/IEC TR 22100-5系列标准：涉及AI机器学习的影响。
IEC 62443系列标准：涉及工业自动化和控制系统（IACS）的标准。
IEEE 7001-2021系列标准：涉及自主系统的透明度标准。
经济合作与发展组织（OECD）关于人工智能的理事会建议：提供了关于人工智能的指导。
联合国教科文组织（UNESCO）关于人工智能伦理的建议：涉及人工智能伦理的指导。
世界卫生组织（WHO）关于人工智能在健康领域的伦理和治理的指导：涉及大型多模态模型的指导。
这些标准涵盖了AI管理系统、风险管理、机器学习影响、工业自动化、自主系统透明度、消费者保护和包容性等多个方面。它们为监管机构、制造商和服务提供商提供了一套共同的参考标准，以确保AI产品或服务的质量和安全性。 - 合格评估
现行的监管实践通常遵循特定行业的指令，而嵌入式AI产品或服务的合规性是横向的，需要新的专业知识。需要跨学科的方法来识别和解决风险、脆弱性和网络威胁，并增强操作韧性。需要发展跨部门的监管能力，这些能力能够支持数字创新的动态性质，并有助于执行数字市场所需的执法策略。
除了要检查受特定机构监管的产品是否符合规定之外，含有嵌入式AI或其他数字技术的产品还需针对其AI特定的技术层面进行验证。正如之前提到的，存在的风险是每个国家机构可能会针对其传统监管的产品采取不同的AI监管方法，这可能导致在同一经济体内出现多个不同的AI合规规则。为避免这种情况，建议采取统一的监管方法。
合格评定程序的严格性应与不合规产品的风险成比例。
AI系统的功能不能以一种方式在标准中描述，以至于符合标准就足以认为产品是安全的。即使符合标准，经济运营商或合格评定机构也无法深入这些系统进行测试。
监管框架应为AI系统提供/其他利益相关者在系统开发过程中建立风险缓解要求，并要求AI系统的剩余风险是可容忍的。
应建立一个测试和评估AI系统符合性的框架，至少包括以下过程：
识别AI系统运行期间可能出现的所有可能危害和风险事件。
构建系统可能面临的情况/场景列表。
确定每个场景中可能发生的危害。
评估场景中潜在危害的严重程度及其频率。
根据风险水平选择测试场景：确保涵盖最可能和最危险的场景。
执行模拟/测试并评估剩余风险。
如上文产品监管示例中所述，可以考虑将风险分为三个等级：高、有限（或中等）和低。对于低风险产品，政府可能考虑不需要特定的合格评定过程，或者最多只需要供应商的符合性声明。对于有限风险产品，政府可能考虑供应商的符合性声明。而对于高风险产品，政府可能考虑独立的第三方合格评定。
供应商符合性声明
供应商符合性声明可能适用于嵌入式AI或其他数字技术产品或服务中有限风险的产品，甚至可能适用于低风险产品。这种声明强调供应商认识到产品要求部分的原则，并确认产品或服务符合相关国际标准。
供应商的声明应当提及产品符合的国际标准，例如ISO/IEC TR5469（关于功能安全和AI系统的标准）和OECD关于人工智能的理事会建议（OECD/LEGAL/0449）。
第三方合规评估
对于被认为具有高风险的嵌入人工智能（AI）或其他数字技术的产品或服务，通常更倾向于进行第三方合规评估。这种评估应当验证产品或服务的AI相关技术方面是否符合产品要求章节中的原则，并且是否遵守了相关的国际标准。根据不同产品类型，所依据的标准可能会有所不同。例如，在医疗设备领域，可能会参考世界卫生组织（WHO）发布的《健康领域的人工智能伦理和治理：多模态大模型的指南》。
政府机构采纳这一共同监管安排（CRA）后，将表明它们接受基于CRA原则对产品或服务的AI方面进行的第三方合规评估。这种接受可以是在现有的相互认可协议框架内，也可以是超出这些协议的范围。无论哪种情况，都需要引用CRA中的原则，特别是与AI相关的部分。 - 市场监管
嵌入式AI产品或服务可能与远程服务器相连，提供定期更新。这带来了确保产品一旦投放市场后持续合规的挑战，因为可能不允许对产品/服务属性的变化进行物理跟进、检查或验证。
市场监管当局需要将连续合规的方法整合到他们的工作流程中。这包括对已经在市场上的产品或服务进行定期的强制性独立审计，以确保它们符合政府批准的二元（合规/不合规）标准，并测试它们是否符合最初进入市场时所需的原则和标准（基于本CRA内的原则）。
对于不再符合市场准入要求的原则和标准的产品或服务，应立即召回并撤出市场。在严重违规的情况下，应发布国际警报，通知其他经济体。 - 技术法规声明：嵌入式人工智能产品的技术法规
跨境监管合作和产品法规的协调是避免为实现公共政策目标（如国家安全、保护人类、动植物生命或健康、环境以及防止欺诈行为）而制定的法规变成技术壁垒的关键促进因素。为此，监管合作和标准化政策工作组（WP.6）制定了建议L：基于良好监管实践的国际模型，用于跨国监管合作，并提出了该建议的修订版，提交给第三十四届会议以供决策（ECE/CTCS/WP.6/2024/13）。
建议L提供了如何建立共同监管安排（CRA）的指导，CRA是一个自愿机制，各国可以采纳以帮助协调产品法规并减少冗余的合格验证。针对嵌入人工智能或其他数字技术的产品/服务的监管合规性，提出了一个总体的共同监管安排，提交给第三十四届年会以供决策（ECE/CTCS/WP.6/2024/11）。
为了跟踪这一总体CRA在AI方面的采纳情况，并促进基于此的产品特定CRA的制定，WP.6提出了一个简单的声明，政府机构可以利用该声明来促进技术法规的一致性，并分享嵌入AI或其他数字技术产品法规的示例。
附件中的声明以WP.6关于性别响应标准和标准发展的声明（ECE/CTCS/WP.6/2018/6/Rev.1）为参考。建议的初步目标签署方是参与世界贸易组织技术性贸易壁垒委员会的政府机构。其他从事产品监管的政府机构也欢迎采纳和签署。
六、下一步计划
UNECE将很快启动一项参与呼吁，邀请政府和国家机构参与新的实施项目。这些项目旨在将CRA的原则应用于特定部门，如医疗设备、电器和/或玩具。具体计划包括：
1.邀请全球政府和国家机构加入这一倡议。
2.开展针对特定部门的实施项目，例如医疗器械、电器和/或玩具。
3.收集和分享最佳实践，以确保AI技术的安全和负责任发展。
七、潜在的影响
该宣言的发布预计将对国际贸易、消费者保护、人工智能技术发展、创新环境以及全球AI治理合作等方面产生深远影响。
首先，在促进国际贸易方面，该宣言通过推动监管一致性和消除冗余检查，有望显著简化嵌入式AI产品的跨境贸易流程。这种简化将直接降低企业的合规成本，使其能够将更多资源投入到产品研发和市场拓展中。同时，简化的贸易流程也将缩短新产品的上市时间，使企业能够更快速地响应市场需求，提高其全球竞争力。此外，统一的监管标准将为中小企业创造更公平的竞争环境，使其更容易进入国际市场，从而促进全球经济的包容性增长。
在增强消费者保护方面，宣言的实施将显著提高AI产品的安全性和可靠性。通过要求企业遵守严格的安全标准和风险评估程序，消费者将能够更加放心地使用嵌入式AI产品。同时，宣言对AI决策透明度和可解释性的强调，将使消费者更好地理解AI系统的运作原理，增强其对技术的信任。此外，宣言对用户隐私和数据安全的重视，将为消费者提供更强有力的个人信息保护，减少数据滥用和隐私侵犯的风险。这些措施将共同提升消费者的使用体验和权益保护水平。
在推动负责任的AI发展方面，宣言将对AI技术的伦理标准产生深远影响。通过鼓励开发无偏见、非歧视性的AI系统，宣言将推动AI技术向更加公平和包容的方向发展。这不仅有助于减少AI应用中的社会不平等问题，还将提升公众对AI技术的接受度。同时，宣言强调AI技术与可持续发展目标的对齐，将促使企业在追求技术创新的同时，更多地考虑其对环境和社会的影响，推动AI技术成为解决全球挑战的有力工具。
对于创新环境的影响，宣言通过提供明确的监管框架，将为AI研发创造更可预测和稳定的环境。这种可预测性将增强投资者的信心，鼓励更多资金流入AI领域，从而加速技术创新。同时，统一的国际标准将促进跨境技术合作和知识交流，使研究人员和企业能够更有效地共享资源和经验，推动全球AI技术的整体进步。此外，宣言对持续合规和市场监督的要求，将推动企业不断改进其AI系统，形成良性的创新循环。
在推动全球AI治理合作方面，宣言代表了朝着更大规模全球AI治理合作迈出的重要一步。它将促进各国之间就AI监管问题展开更深入的对话和合作，有助于形成更统一的全球AI监管标准。这种协调一致的国际监管环境将减少监管碎片化带来的挑战，降低企业在不同市场运营的复杂性。同时，宣言为各国提供了一个共同的参考框架，有助于缩小发达国家和发展中国家在AI监管能力上的差距，推动全球AI治理的公平性和包容性。
然而，实现宣言的目标仍面临诸多挑战。各国在实施过程中可能会遇到法律、技术和资源方面的障碍。不同国家和地区的监管文化和优先事项的差异可能会影响宣言原则的统一执行。此外，快速发展的AI技术可能会不断挑战现有的监管框架，要求监管机构保持高度的灵活性和适应性。
总的来说，UNECE的这份宣言标志着全球AI治理进入了一个新的阶段。它不仅为解决当前AI监管挑战提供了重要指导，还为未来AI技术的健康发展奠定了基础。随着宣言的逐步实施，我们有望看到一个更加安全、公平、创新的全球AI生态系统的形成，这将为人类社会带来深远的积极影响。
注：
[1]: United Nations Economic Commission for Europe. (2024). UNECE launches declaration on products with embedded AI calling for global cooperation to address regulatory challenges. https://unece.org/artificial-intelligence/news/unece-launches-declaration-products-embedded-ai-calling-global
[2]: United Nations Economic Commission for Europe. (n.d.). About UNECE. https://unece.org/about-unece
[3]: United Nations Economic Commission for Europe. (n.d.). Working Party on Regulatory Cooperation and Standardization Policies (WP.6). https://unece.org/trade/working-party-regulatory-cooperation-and-standardization-policies-wp6
[4]: United Nations Economic Commission for Europe. (2024). Compliance of products with embedded artificial intelligence: Overarching principles and declaration to promote convergence of product regulations. ECE/TRADE/486.