摘要
英国科学、创新和技术部（以下简称“DSIT”）于2024年2月12日发布《人工智能保障机制（IntroductiontoAIAssurance）》为不太了解人工智能治理的读者提供了一个人工智能保障机制的介绍，解释关键概念和术语。AI保障是实现英国政府在《促进创新的人工智能监管路径》白皮书中提出的五项跨部门基本原则实施的重要保障。该指南进一步提出了目前实践中人工智能保障机制的落实形式以及企业在当前立法正在推进过程中如何落实人工智能治理的路径建议。英国的人工智能监管措施在全球范围内是比较独特的，并未形成全面的人工智能相关法律，更多是依靠各监管机构在贯彻统一的人工智能五项基本原则基础上形成符合各部门实践人工智能的具体规则，为了有效地控制松散式治理框架下带来的风险，英国提供了较多的实践指南供企业理解和采用，所以笔者将通过本文来总体介绍英国人工智能保障机制，以期提供给企业更多具有可操作性的实践指南。
英国人工智能保障机制的起源
人工智能保障机制最早出现于英国数据伦理与创新中心（以下简称CDEI）在2021年12月发布的《人工智能保障生态系统路线图（TheroadmaptoaneffectiveAIassuranceecoystem）》，其后又发布了路线图的扩展版本。在该机制内，人工智能保障机制应该理解为人工智能保障生态体系，强调的是以第三方的独立身份提供人工智能保障机制，如下图所示解决人工智能是否可信的信息问题以及将可信以证据形式传达给用户的沟通问题。
人工智能保障生态体系包括如下关键角色：人工智能供应链、人工智能保障提供者、独立研究者以及包括政府、监管机构、标准组织、认证机构等支撑机构。
该报告中也初步提出了人工智能保障技术的图谱，如下图所示，包括影响评估、审计等。
在2023年英国政府发布的《促进创新的人工智能监管路径》白皮书中提出了可信人工智能的工具来支持实施人工智能治理，即人工智能保障技术与标准。该白皮书中明确提出需要有一个人工智能保障技术集合以衡量、评估和沟通人工智能系统在整个开发和部署生命周期中的可信度。虽然也提到了可能需要第三方人工智能保障机构来完善整个生态系统，但是其含义更独立地说明了人工智能保障机制。
人工智能保障机制的定义
保障（Assurance）最初来自于会计，后来被应用于包括网络安全和质量管理在内的领域。保障是对系统或流程、文件、产品或组织进行衡量、评估和沟通的过程。就人工智能而言，人工智能保障（AI Assurance）就是衡量、评估和传达人工智能系统的可信度。人工智能保障的核心要素是：
1. 衡量（Measure）
收集关于AI系统功能的数据，包括性能、功能和在不同情境下的潜在影响。这可能包括系统设计和任何管理过程的文档，以确保有效评估。
2. 评估（Evaluate）
使用技术评估AI系统的风险和影响，以便为进一步的决策提供信息。这可能包括根据标准和监管指南评估AI系统的影响，以识别问题。
3. 沟通（Communicate）
应用一系列沟通技术，确保组织内外的有效沟通。这可能包括将发现整理成报告、在仪表板中呈现信息，以及向公众传达组织为确保AI系统所采取的步骤。长期来看，这可能包括认证活动。
人工智能保障在英国人工智能监管中的意义
1. 人工智能保障机制实现正当的可信
如下图所示，信任与可信任之间有个重叠区域是正当的可信，强调的是基于可靠的证据，个人或组织信任其所使用的人工智能。人工智能保障通过提供可靠、标准化和可访问的证据来衡量和评估人工智能系统的能力，确保系统按预期工作，识别局限性和潜在风险，并在整个人工智能开发生命周期中融入伦理考虑。这种基于证据的信任有助于确保人工智能系统的负责任开发和部署，从而实现人工智能系统的经济和社会利益。
2. 人工智能保障机制在英国人工智能治理中的地位
鉴于人工智能的独特价值与挑战，英国政府认为人工智能的风险取决于发生的场景，因此人工智能监管采取的是对结果进行监管，而非对技术本身监管。如下图所示，人工智能治理是解决人工智能产生的法律风险，比如《促进创新的人工智能监管路径》白皮书中提出了五项基本原则，包括安全和稳健、透明性和可解释性、公平性、可问责性、可竞争性与可救济性。
这些原则确定了这些原则确定了人工智能系统应实现的具体目标，而不论其部署在哪个行业。人工智能保障技术和标准（通常被称为“可信人工智能工具”）可通过提供流程、衡量标准和框架来支持行业和监管机构实现这些目标，从而帮助他们了解“如何”在实践中落实这些原则。
【实践案例】人工智能保障机制与前沿人工智能
1. Bletchley Declaration：
Bletchley Declaration是在2023年11月的英国AI安全峰会上签署的，它强调了在前沿AI领域实施AI保障措施的重要性。这些措施包括安全测试、评估和问责透明度机制，旨在衡量、监控和减轻前沿AI模型可能具有的有害能力。这表明了AI保障在确保前沿AI模型安全和负责任使用方面的关键作用。
2. AI Safety Institute (AISI)：
AI Safety Institute (AISI)是英国政府支持的组织，专注于先进AI安全。AISI正在开发社会技术基础设施，以识别潜在的风险，并提供工具和系统来减轻这些风险。这进一步展示了AI保障在前沿AI领域的应用，特别是在支持更广泛的治理和监管方面。
这些案例展示了AI保障在前沿AI领域的实际应用，特别是在确保这些高度先进的AI模型在开发和部署过程中的安全性和伦理性。通过这些措施，可以帮助构建公众对前沿AI技术的信任，并促进其负责任的发展。
英国人工智能保障机制的措施
（一）人工智能保障机制
该报告提供了在人工智能全生命周期中可以使用的一系列人工智能保障技术，包括定性评估（可用于存在高度不确定性、模糊性和主观性的主题，例如评估系统的潜在风险和社会影响）和定量评估（可用于客观、高度确定测量的主题，例如系统在特定指标方面的表现如何，或是否符合特定法律要求）。人工智能保障机制是没有银弹，需要结合场景，将各类保障机制结合使用。如下是常见的人工智能保障机制：
1. 风险评估（Risk Assessment）
用于考虑和识别AI产品/系统开发和部署过程中可能出现的一系列潜在风险，包括偏见、数据保护和隐私风险、技术使用风险（如用于错误信息或恶意目的）以及组织声誉风险。
2. （算法）影响评估（(Algorithmic) Impact Assessment）
用于预测系统/产品对环境、平等、人权、数据保护或其他结果的更广泛影响。
3. 偏见审计（Bias Audit）
评估算法系统的输入和输出，以确定输入数据、决策结果或分类过程中是否存在不公平的偏见。
4. 合规审计（Compliance Audit）
涉及审查对内部政策、外部法规和相关法律要求的遵守情况。
5. 符合性评估（Conformity Assessment）
证明产品或系统在上市前是否符合相关要求，通常包括性能测试。
6. 形式验证（Formal Verification）
使用形式化数学方法来证明系统满足特定要求。
7. 数据和系统安全（Data and System Security）
AI保障的一个关键基线要求是确保数据和系统的安全性。英国国家网络安全中心（NCSC）提供了资源和课程，如Cyber Essentials认证，帮助组织提升网络安全能力。
（二）人工智能保障机制与标准
AI保障机制应基于全球技术标准，这些标准由国际标准化组织（如ISO）制定。这些标准为AI保障提供了一致的基准，允许保障用户信任保障提供者所呈现的证据和结论。AI保障涉及多种类型的标准，包括基础和术语标准、接口和架构标准、测量和测试方法、过程、管理和治理标准以及产品和性能要求标准。这些标准支持AI保障技术的实施，并帮助确保AI系统满足特定的性能和安全要求。比如在偏见审计方面的标准成果如下：
【实践案例】人工智能标准中心
人工智能标准中心（AI Standards Hub）是由艾伦-图灵研究所（The Alan Turing Institute）、英国标准协会（BSI）和国家物理实验室（NPL）联合发起的一项倡议，并得到了政府的支持。该中心的使命是推进可信和负责任的人工智能，重点关注全球技术标准作为治理工具和创新机制所能发挥的作用。人工智能标准中心旨在帮助利益相关方积极参与全球人工智能标准化工作，倡导全球人工智能技术标准。
（三）人工智能保障生态体系
该报告中提到存在一个不断增长的人工智能保障服务市场，这些服务由组织提供，它们可能没有内部团队提供内部保障能力，或者需要在其现有能力之上增加额外的能力。这些保障服务提供者可能提供特定的技术工具，也可能提供全面的AI治理平台。还有一些多元化的专业服务公司提供保障“即服务”，支持客户嵌入良好的治理和保障实践。由于其与更广泛的组织风险管理的关系，人工智能保障通常被视为组织环境、社会和公司治理（ESG）过程的一部分。
在人工智能保障生态系统中，有多种角色需要检查AI系统的可信度和合规性，并向他人传达这些证据。这些角色包括监管机构、认证机构、政府、标准机构、研究机构、民间社会组织和专业机构。每个利益相关者在保障生态系统中扮演着相互依赖的角色。
1. 监管机构（Regulators）
作用：在相关领域设定法规和最佳实践，并在必要时鼓励、测试和验证AI系统的合规性。监管机构还将激励最佳实践，并为AI的可信开发和使用创造条件。
举例：ICO已经开发了关于AI如何适用于数据保护法规的监管指南和工具包。
2. 认证机构（Accreditation bodies）
作用：证明第三方保障服务提供者持续的能力和公正性，以符合国际标准。这将建立对审计员、评估者和供应商在整个AI保障生态系统中的信任。
举例：英国认证服务（UKAS）是英国唯一的国家认证机构，负责评估提供包括AI保障在内的一系列服务第三方组织的能力。
3. 政府（Government）
作用：推动一个支持法律合规的AI保障生态系统的发展，同时不阻碍经济增长。
举例：DSIT（数字、科学和创新技术部）提出AI保障计划，支持一个强大和可持续的AI保障生态系统的发展，如建立了人工智能保障技术组合。
4. 标准机构（Standards bodies）
作用：召集包括行业和学术界的参与者，共同开发用以评估的广泛可接受的标准。
举例：英国标准协会（BSI）是英国的国家标准机构，代表英国利益相关者参与特定的区域和国际标准机构。
5. 研究机构（Research bodies）
作用：通过研究潜在风险或开发领先的保障系统来贡献。
举例：艾伦图灵研究所（The Alan Turing Institute）是英国的国家数据科学和AI研究所，通过研究项目如Assuring Autonomy International Programme来推动AI保障。Assuring Autonomy International Programme包括开发开放和可复制的工具，以帮助项目团队满足健康研究和医疗保健领域针对一系列数据驱动技术的伦理和监管最佳实践。
6. 民间社会组织（Civil society organisations）
作用：通过监督和利益相关者召集，支持对AI系统的多方利益相关者反馈和审查。他们还可以通过外部倡导和开发保障思想领导力和最佳实践来保持公众/行业对新兴风险和趋势的了解。
举例：Ada Lovelace Institute的Algorithmic Impact Assessment in Healthcare项目开发了医疗保健背景下的算法影响评估（AIA）模板。其目的是确保对使用公共部门数据的算法进行评估和管理，从而为社会、政府、公共机构和个人带来益处。
7. 专业机构（Professional bodies）
作用：定义、支持和改进保障标准的专业化，并促进信息共享、培训和良好实践，这对开发者和保障服务提供者都很重要。
举例：目前没有特定的专业机构以人工智能保障为主重点。但是，英国网络安全委员会（UK Cyber Security Council）负责网络安全专业人员的标准实践，这可能是未来AI保障的模式。国际算法审计师协会（IAAA）希望通过创建AI审计师的行为准则、培训课程和最终的认证计划来实现AI审计的专业化。
人工智能保障机制的实践
（一）人工智能保障机制的全景图
正如前面所述，人工智能保障技术并没有所谓的银弹，需要根据不同的场景来进行设定和组合选择适用具体的措施，下图是高层次地展示了人工智能保障机制的全景图。DSIT将于近期提供适用于不同行业的人工智能保障机制。
以人工智能生命周期来说，如下图所示，横向开发流程适用于内部构建人工智能系统的情况，纵向部署流程适用于部署采购或内部人工智能系统的情况，在这两种情况下人工智能保障机制在实践中应当覆盖数据、模型、系统以及治理。
1. 针对数据（Data）的保障机制
数据是AI的基础。组织应建立清晰和标准化的数据处理流程，包括：有效的组织数据战略；清晰的员工数据责任；清晰、标准化和透明的数据收集、处理和共享流程。同时所有处理数据的组织必须遵守现有的法律要求，特别是英国的GDPR（General Data Protection Regulation）和《2018年数据保护法》（Data Protection Act 2018）。使用个人数据的系统必须进行数据保护影响评估（DPIA），考虑对个人、群体和社会的风险和影响，并规划数据处理活动。
2. 针对模型和系统（Models and Systems）的保障机制
AI模型是机器学习的产物，通过识别训练数据中的模式来学习解决特定任务。AI系统是利用AI模型解决问题的产品、工具、应用程序或设备。为了提高对AI模型和系统的信任，应确保它们按预期工作并产生有益的结果。这包括确保输出的准确性，并最小化潜在的有害结果，如非预期的偏见。使用一系列保障工具和技术来评估AI模型和系统，包括影响评估、偏见审计和性能测试。在设定指标时，应采用严格的软件测试和性能评估方法，并与明确的性能基准进行比较。
3. 针对治理（Governance）的保障机制
所有组织应整合有效的AI系统治理框架。治理过程应包括：清晰的内部透明度和报告流程，以及明确的职责分配；为所有层级的员工提供上报问题的明确途径；识别、管理和缓解风险的明确流程；整个AI生命周期内的质量保证流程；确保具备适当的技能和能力，以及AI保障能力和基础设施得到充分资助。
同时，对于已识别的风险和问题，可以采取内部缓解措施，如设计指标来识别和纠正表现不佳或不公平的算法，以及改进内部治理流程以提高风险管理。对于外部（公众）的救济，应通过清晰传达的上诉流程提供，这些机制应简单且有效。
上述这些要求强调了在AI系统的整个生命周期中，从数据收集到模型训练，再到系统部署和治理，都需要采取一系列措施来确保AI技术的负责任和安全使用。
（二）人工智能保障机制的实践案例
该报告同时对人工智能保障机制提供了若干实际案例，供读者理解和参考。
1. 风险评估（Risk assessment）
背景：一个在线教育平台探索使用AI制作个性化视频内容，公司正在进行风险评估，考虑潜在的成本和收益，包括对声誉、安全、收入和用户的影响。
过程：通过研讨会和详细问卷，鼓励员工分享他们对潜在风险的想法和担忧。内部审计团队随后评估这些风险，量化并将其与基准进行比较，并将发现整理成内部报告，以指导未来的决策。
结果：风险评估使对潜在风险有更清晰和共享的理解，这被用来创建缓解策略，增强组织对未来变化的韧性。
2. 影响评估（Impact assessment）
背景：一家废物收集公司在部署新的AI系统以更高效地管理废物分类之前进行影响评估。
过程：公司使用工具评估新AI系统的潜在结果的不同方面。在规划阶段，组织从公开资源中采用了一个工具包，包括详细问卷，涵盖环境影响、公平性、透明度和包容性，并指导评估人员规划新系统的部署理由以及潜在后果。
结果：影响评估使公司能够更清晰地理解部署新AI系统的潜在机会和成本。最终报告还提供了可以帮助缓解有害后果的行动。
3. 偏见审计（Bias audit）
背景：一家正在扩张中的公司使用AI系统筛选招聘候选人，对AI系统进行审计以确保其方法不会引入非预期的偏见。
过程：第三方审计员与内部员工合作定义审计的范围和目标。然后，审计员请求公司提供数据并访问其系统，进行技术审计，以测量筛选算法的结果，识别潜在的偏见。
结果：审计揭示了模型更有可能通过居住在特定区域的候选人。这可能引入偏见，因为家庭地址可能与种族/年龄/残疾等其他受保护特征相关。审计员与系统开发人员合作分析发现并提出建议，支持开发人员实施缓解措施，确保系统设计最小化非公平的偏见。
4. 合规审计（Compliance audit）
背景：一家英国公司在其制造过程中使用AI，正在努力确保其产品符合海外的监管要求，并计划在国际市场上销售新产品。
过程：公司首先进行合规审计。他们与第三方服务提供商合作，审查其产品和流程在多大程度上遵守内部政策、外部法规和相关法律要求。
结果：通过应用这些保障技术，公司对其在不同市场和地区遵守要求和标准的程度有了更清晰的理解。
5. 符合性评估（Conformity assessment）
背景：一家大型技术公司使用英国认可的服务提供商进行产品认证，以证明其产品符合适用的产品标准。
过程：认证机构制定了一个适用于技术公司产品的方案，包括（但不限于）执行符合性评估活动的所需方法。产品方案还包括与产品特定要求之外的要求，这些要求与管理系统的一致运行有关，以确保生产过程的持续符合性。
结果：产品证书显示，技术公司生产的产品继续符合认证方案的要求（只要证书有效）。
6. 形式验证（Formal verification）
背景：一家银行使用形式验证来测试其更新的AI模型，以支持抵押贷款申请的评估，确保模型的稳健性并验证与其使用相关的任何风险。
过程：银行与咨询公司合作，在部署前对其软件进行严格的评估。第三方保障提供商的评估有助于确保评估的公正性，并允许银行利用专家知识彻底评估其算法。
结果：形式验证过程使用正式的数学方法来评估系统更新是否满足关键要求。评估结果在详细报告中呈现，突出显示任何错误或风险因素。这个过程确保在系统投入使用之前识别出任何潜在的风险或错误，这对于金融服务尤为重要，因为错误可能对用户、银行的声誉和遵守规定产生严重后果。结果还提供了模型功能的客观和可量化的测量，增强了安全性和用户及股东的信心。
对组织采取人工智能保障机制的关键步骤
该报告也为组织采取人工智能保障机制提供了关键步骤，支持落地实施。
1. 考虑现有法规
尽管英国目前没有针对AI的特定法规，但存在适用于AI系统的现有法规，例如英国GDPR和《2010年平等法案》（Equality Act 2010）等。
2. 组织内部提升技能
在AI保障生态系统仍在发展的情况下，组织应发展对AI保障的理解，并预测未来可能的要求。艾伦·图灵研究所（The Alan Turing Institute）提供了关于AI治理实践应用的培训手册，英国AI标准中心（UK AI Standards Hub）提供了关于AI保障的在线学习模块。
3. 审查内部治理和风险管理
有效的AI保障始终以有效的内部治理过程为基础。组织应考虑如何确保风险和问题能够迅速升级，并在适当层面做出有效决策。美国国家科学技术研究所（NIST）开发的深度风险管理框架（RMF）可以支持组织风险的管理。
4. 关注新的监管指导
在未来几年，监管机构将开发特定行业的指导，说明如何在每个监管领域实施和操作提出的监管原则。例如，信息专员办公室（ICO）已经为关注合规角色的人开发了关于AI和数据保护的指导。英国政府也发布了初步指导，作为对AI监管白皮书咨询的回应。
5. 考虑参与AI标准化
私营部门与标准发展组织（SDOs）的参与对于确保开发出稳健且普遍接受的标准协议至关重要，特别是对于目前代表性不足的中小企业。考虑与标准机构如英国标准协会（BSI）合作，访问AI标准中心以获取实施AI标准的信息和支持。
小结
英国提出的人工智能保障机制是一个体系化、市场化、全生态的人工智能治理机制之一，为英国政府自上往下的监管机制以外提供了一个更利于组织自律的机制。人工智能保障机制的核心在于构建可证明的信任，解决当前阻碍人工智能技术被广泛应用和进一步发展的核心问题之一。人工智能保障机制以市场化的第三方市场主体来提供服务补充当前人工智能治理生态里缺乏专业性人才的问题，同时由多元主体包括研究机构、标准组织、监管机构等提供全方位的指南与工具，提升技能上的不足。再进一步强调国际标准的重要性，有利于人工智能保障机制的国际互操作性，促进本国企业的出海事业。
注：本文是与AI共同完成。
头图用AI生成。
英国科学、创新和技术部（以下简称“DSIT”）于2024年2月12日发布《人工智能保障机制（IntroductiontoAIAssurance）》为不太了解人工智能治理的读者提供了一个人工智能保障机制的介绍，解释关键概念和术语。AI保障是实现英国政府在《促进创新的人工智能监管路径》白皮书中提出的五项跨部门基本原则实施的重要保障。该指南进一步提出了目前实践中人工智能保障机制的落实形式以及企业在当前立法正在推进过程中如何落实人工智能治理的路径建议。英国的人工智能监管措施在全球范围内是比较独特的，并未形成全面的人工智能相关法律，更多是依靠各监管机构在贯彻统一的人工智能五项基本原则基础上形成符合各部门实践人工智能的具体规则，为了有效地控制松散式治理框架下带来的风险，英国提供了较多的实践指南供企业理解和采用，所以笔者将通过本文来总体介绍英国人工智能保障机制，以期提供给企业更多具有可操作性的实践指南。
英国人工智能保障机制的起源
人工智能保障机制最早出现于英国数据伦理与创新中心（以下简称CDEI）在2021年12月发布的《人工智能保障生态系统路线图（TheroadmaptoaneffectiveAIassuranceecoystem）》，其后又发布了路线图的扩展版本。在该机制内，人工智能保障机制应该理解为人工智能保障生态体系，强调的是以第三方的独立身份提供人工智能保障机制，如下图所示解决人工智能是否可信的信息问题以及将可信以证据形式传达给用户的沟通问题。
人工智能保障生态体系包括如下关键角色：人工智能供应链、人工智能保障提供者、独立研究者以及包括政府、监管机构、标准组织、认证机构等支撑机构。
该报告中也初步提出了人工智能保障技术的图谱，如下图所示，包括影响评估、审计等。
在2023年英国政府发布的《促进创新的人工智能监管路径》白皮书中提出了可信人工智能的工具来支持实施人工智能治理，即人工智能保障技术与标准。该白皮书中明确提出需要有一个人工智能保障技术集合以衡量、评估和沟通人工智能系统在整个开发和部署生命周期中的可信度。虽然也提到了可能需要第三方人工智能保障机构来完善整个生态系统，但是其含义更独立地说明了人工智能保障机制。
人工智能保障机制的定义
保障（Assurance）最初来自于会计，后来被应用于包括网络安全和质量管理在内的领域。保障是对系统或流程、文件、产品或组织进行衡量、评估和沟通的过程。就人工智能而言，人工智能保障（AI Assurance）就是衡量、评估和传达人工智能系统的可信度。人工智能保障的核心要素是：
1. 衡量（Measure）
收集关于AI系统功能的数据，包括性能、功能和在不同情境下的潜在影响。这可能包括系统设计和任何管理过程的文档，以确保有效评估。
2. 评估（Evaluate）
使用技术评估AI系统的风险和影响，以便为进一步的决策提供信息。这可能包括根据标准和监管指南评估AI系统的影响，以识别问题。
3. 沟通（Communicate）
应用一系列沟通技术，确保组织内外的有效沟通。这可能包括将发现整理成报告、在仪表板中呈现信息，以及向公众传达组织为确保AI系统所采取的步骤。长期来看，这可能包括认证活动。
人工智能保障在英国人工智能监管中的意义
1. 人工智能保障机制实现正当的可信
如下图所示，信任与可信任之间有个重叠区域是正当的可信，强调的是基于可靠的证据，个人或组织信任其所使用的人工智能。人工智能保障通过提供可靠、标准化和可访问的证据来衡量和评估人工智能系统的能力，确保系统按预期工作，识别局限性和潜在风险，并在整个人工智能开发生命周期中融入伦理考虑。这种基于证据的信任有助于确保人工智能系统的负责任开发和部署，从而实现人工智能系统的经济和社会利益。
2. 人工智能保障机制在英国人工智能治理中的地位
鉴于人工智能的独特价值与挑战，英国政府认为人工智能的风险取决于发生的场景，因此人工智能监管采取的是对结果进行监管，而非对技术本身监管。如下图所示，人工智能治理是解决人工智能产生的法律风险，比如《促进创新的人工智能监管路径》白皮书中提出了五项基本原则，包括安全和稳健、透明性和可解释性、公平性、可问责性、可竞争性与可救济性。
这些原则确定了这些原则确定了人工智能系统应实现的具体目标，而不论其部署在哪个行业。人工智能保障技术和标准（通常被称为“可信人工智能工具”）可通过提供流程、衡量标准和框架来支持行业和监管机构实现这些目标，从而帮助他们了解“如何”在实践中落实这些原则。
【实践案例】人工智能保障机制与前沿人工智能
1. Bletchley Declaration：
Bletchley Declaration是在2023年11月的英国AI安全峰会上签署的，它强调了在前沿AI领域实施AI保障措施的重要性。这些措施包括安全测试、评估和问责透明度机制，旨在衡量、监控和减轻前沿AI模型可能具有的有害能力。这表明了AI保障在确保前沿AI模型安全和负责任使用方面的关键作用。
2. AI Safety Institute (AISI)：
AI Safety Institute (AISI)是英国政府支持的组织，专注于先进AI安全。AISI正在开发社会技术基础设施，以识别潜在的风险，并提供工具和系统来减轻这些风险。这进一步展示了AI保障在前沿AI领域的应用，特别是在支持更广泛的治理和监管方面。
这些案例展示了AI保障在前沿AI领域的实际应用，特别是在确保这些高度先进的AI模型在开发和部署过程中的安全性和伦理性。通过这些措施，可以帮助构建公众对前沿AI技术的信任，并促进其负责任的发展。
英国人工智能保障机制的措施
（一）人工智能保障机制
该报告提供了在人工智能全生命周期中可以使用的一系列人工智能保障技术，包括定性评估（可用于存在高度不确定性、模糊性和主观性的主题，例如评估系统的潜在风险和社会影响）和定量评估（可用于客观、高度确定测量的主题，例如系统在特定指标方面的表现如何，或是否符合特定法律要求）。人工智能保障机制是没有银弹，需要结合场景，将各类保障机制结合使用。如下是常见的人工智能保障机制：
1. 风险评估（Risk Assessment）
用于考虑和识别AI产品/系统开发和部署过程中可能出现的一系列潜在风险，包括偏见、数据保护和隐私风险、技术使用风险（如用于错误信息或恶意目的）以及组织声誉风险。
2. （算法）影响评估（(Algorithmic) Impact Assessment）
用于预测系统/产品对环境、平等、人权、数据保护或其他结果的更广泛影响。
3. 偏见审计（Bias Audit）
评估算法系统的输入和输出，以确定输入数据、决策结果或分类过程中是否存在不公平的偏见。
4. 合规审计（Compliance Audit）
涉及审查对内部政策、外部法规和相关法律要求的遵守情况。
5. 符合性评估（Conformity Assessment）
证明产品或系统在上市前是否符合相关要求，通常包括性能测试。
6. 形式验证（Formal Verification）
使用形式化数学方法来证明系统满足特定要求。
7. 数据和系统安全（Data and System Security）
AI保障的一个关键基线要求是确保数据和系统的安全性。英国国家网络安全中心（NCSC）提供了资源和课程，如Cyber Essentials认证，帮助组织提升网络安全能力。
（二）人工智能保障机制与标准
AI保障机制应基于全球技术标准，这些标准由国际标准化组织（如ISO）制定。这些标准为AI保障提供了一致的基准，允许保障用户信任保障提供者所呈现的证据和结论。AI保障涉及多种类型的标准，包括基础和术语标准、接口和架构标准、测量和测试方法、过程、管理和治理标准以及产品和性能要求标准。这些标准支持AI保障技术的实施，并帮助确保AI系统满足特定的性能和安全要求。比如在偏见审计方面的标准成果如下：
【实践案例】人工智能标准中心
人工智能标准中心（AI Standards Hub）是由艾伦-图灵研究所（The Alan Turing Institute）、英国标准协会（BSI）和国家物理实验室（NPL）联合发起的一项倡议，并得到了政府的支持。该中心的使命是推进可信和负责任的人工智能，重点关注全球技术标准作为治理工具和创新机制所能发挥的作用。人工智能标准中心旨在帮助利益相关方积极参与全球人工智能标准化工作，倡导全球人工智能技术标准。
（三）人工智能保障生态体系
该报告中提到存在一个不断增长的人工智能保障服务市场，这些服务由组织提供，它们可能没有内部团队提供内部保障能力，或者需要在其现有能力之上增加额外的能力。这些保障服务提供者可能提供特定的技术工具，也可能提供全面的AI治理平台。还有一些多元化的专业服务公司提供保障“即服务”，支持客户嵌入良好的治理和保障实践。由于其与更广泛的组织风险管理的关系，人工智能保障通常被视为组织环境、社会和公司治理（ESG）过程的一部分。
在人工智能保障生态系统中，有多种角色需要检查AI系统的可信度和合规性，并向他人传达这些证据。这些角色包括监管机构、认证机构、政府、标准机构、研究机构、民间社会组织和专业机构。每个利益相关者在保障生态系统中扮演着相互依赖的角色。
1. 监管机构（Regulators）
作用：在相关领域设定法规和最佳实践，并在必要时鼓励、测试和验证AI系统的合规性。监管机构还将激励最佳实践，并为AI的可信开发和使用创造条件。
举例：ICO已经开发了关于AI如何适用于数据保护法规的监管指南和工具包。
2. 认证机构（Accreditation bodies）
作用：证明第三方保障服务提供者持续的能力和公正性，以符合国际标准。这将建立对审计员、评估者和供应商在整个AI保障生态系统中的信任。
举例：英国认证服务（UKAS）是英国唯一的国家认证机构，负责评估提供包括AI保障在内的一系列服务第三方组织的能力。
3. 政府（Government）
作用：推动一个支持法律合规的AI保障生态系统的发展，同时不阻碍经济增长。
举例：DSIT（数字、科学和创新技术部）提出AI保障计划，支持一个强大和可持续的AI保障生态系统的发展，如建立了人工智能保障技术组合。
4. 标准机构（Standards bodies）
作用：召集包括行业和学术界的参与者，共同开发用以评估的广泛可接受的标准。
举例：英国标准协会（BSI）是英国的国家标准机构，代表英国利益相关者参与特定的区域和国际标准机构。
5. 研究机构（Research bodies）
作用：通过研究潜在风险或开发领先的保障系统来贡献。
举例：艾伦图灵研究所（The Alan Turing Institute）是英国的国家数据科学和AI研究所，通过研究项目如Assuring Autonomy International Programme来推动AI保障。Assuring Autonomy International Programme包括开发开放和可复制的工具，以帮助项目团队满足健康研究和医疗保健领域针对一系列数据驱动技术的伦理和监管最佳实践。
6. 民间社会组织（Civil society organisations）
作用：通过监督和利益相关者召集，支持对AI系统的多方利益相关者反馈和审查。他们还可以通过外部倡导和开发保障思想领导力和最佳实践来保持公众/行业对新兴风险和趋势的了解。
举例：Ada Lovelace Institute的Algorithmic Impact Assessment in Healthcare项目开发了医疗保健背景下的算法影响评估（AIA）模板。其目的是确保对使用公共部门数据的算法进行评估和管理，从而为社会、政府、公共机构和个人带来益处。
7. 专业机构（Professional bodies）
作用：定义、支持和改进保障标准的专业化，并促进信息共享、培训和良好实践，这对开发者和保障服务提供者都很重要。
举例：目前没有特定的专业机构以人工智能保障为主重点。但是，英国网络安全委员会（UK Cyber Security Council）负责网络安全专业人员的标准实践，这可能是未来AI保障的模式。国际算法审计师协会（IAAA）希望通过创建AI审计师的行为准则、培训课程和最终的认证计划来实现AI审计的专业化。
人工智能保障机制的实践
（一）人工智能保障机制的全景图
正如前面所述，人工智能保障技术并没有所谓的银弹，需要根据不同的场景来进行设定和组合选择适用具体的措施，下图是高层次地展示了人工智能保障机制的全景图。DSIT将于近期提供适用于不同行业的人工智能保障机制。
以人工智能生命周期来说，如下图所示，横向开发流程适用于内部构建人工智能系统的情况，纵向部署流程适用于部署采购或内部人工智能系统的情况，在这两种情况下人工智能保障机制在实践中应当覆盖数据、模型、系统以及治理。
1. 针对数据（Data）的保障机制
数据是AI的基础。组织应建立清晰和标准化的数据处理流程，包括：有效的组织数据战略；清晰的员工数据责任；清晰、标准化和透明的数据收集、处理和共享流程。同时所有处理数据的组织必须遵守现有的法律要求，特别是英国的GDPR（General Data Protection Regulation）和《2018年数据保护法》（Data Protection Act 2018）。使用个人数据的系统必须进行数据保护影响评估（DPIA），考虑对个人、群体和社会的风险和影响，并规划数据处理活动。
2. 针对模型和系统（Models and Systems）的保障机制
AI模型是机器学习的产物，通过识别训练数据中的模式来学习解决特定任务。AI系统是利用AI模型解决问题的产品、工具、应用程序或设备。为了提高对AI模型和系统的信任，应确保它们按预期工作并产生有益的结果。这包括确保输出的准确性，并最小化潜在的有害结果，如非预期的偏见。使用一系列保障工具和技术来评估AI模型和系统，包括影响评估、偏见审计和性能测试。在设定指标时，应采用严格的软件测试和性能评估方法，并与明确的性能基准进行比较。
3. 针对治理（Governance）的保障机制
所有组织应整合有效的AI系统治理框架。治理过程应包括：清晰的内部透明度和报告流程，以及明确的职责分配；为所有层级的员工提供上报问题的明确途径；识别、管理和缓解风险的明确流程；整个AI生命周期内的质量保证流程；确保具备适当的技能和能力，以及AI保障能力和基础设施得到充分资助。
同时，对于已识别的风险和问题，可以采取内部缓解措施，如设计指标来识别和纠正表现不佳或不公平的算法，以及改进内部治理流程以提高风险管理。对于外部（公众）的救济，应通过清晰传达的上诉流程提供，这些机制应简单且有效。
上述这些要求强调了在AI系统的整个生命周期中，从数据收集到模型训练，再到系统部署和治理，都需要采取一系列措施来确保AI技术的负责任和安全使用。
（二）人工智能保障机制的实践案例
该报告同时对人工智能保障机制提供了若干实际案例，供读者理解和参考。
1. 风险评估（Risk assessment）
背景：一个在线教育平台探索使用AI制作个性化视频内容，公司正在进行风险评估，考虑潜在的成本和收益，包括对声誉、安全、收入和用户的影响。
过程：通过研讨会和详细问卷，鼓励员工分享他们对潜在风险的想法和担忧。内部审计团队随后评估这些风险，量化并将其与基准进行比较，并将发现整理成内部报告，以指导未来的决策。
结果：风险评估使对潜在风险有更清晰和共享的理解，这被用来创建缓解策略，增强组织对未来变化的韧性。
2. 影响评估（Impact assessment）
背景：一家废物收集公司在部署新的AI系统以更高效地管理废物分类之前进行影响评估。
过程：公司使用工具评估新AI系统的潜在结果的不同方面。在规划阶段，组织从公开资源中采用了一个工具包，包括详细问卷，涵盖环境影响、公平性、透明度和包容性，并指导评估人员规划新系统的部署理由以及潜在后果。
结果：影响评估使公司能够更清晰地理解部署新AI系统的潜在机会和成本。最终报告还提供了可以帮助缓解有害后果的行动。
3. 偏见审计（Bias audit）
背景：一家正在扩张中的公司使用AI系统筛选招聘候选人，对AI系统进行审计以确保其方法不会引入非预期的偏见。
过程：第三方审计员与内部员工合作定义审计的范围和目标。然后，审计员请求公司提供数据并访问其系统，进行技术审计，以测量筛选算法的结果，识别潜在的偏见。
结果：审计揭示了模型更有可能通过居住在特定区域的候选人。这可能引入偏见，因为家庭地址可能与种族/年龄/残疾等其他受保护特征相关。审计员与系统开发人员合作分析发现并提出建议，支持开发人员实施缓解措施，确保系统设计最小化非公平的偏见。
4. 合规审计（Compliance audit）
背景：一家英国公司在其制造过程中使用AI，正在努力确保其产品符合海外的监管要求，并计划在国际市场上销售新产品。
过程：公司首先进行合规审计。他们与第三方服务提供商合作，审查其产品和流程在多大程度上遵守内部政策、外部法规和相关法律要求。
结果：通过应用这些保障技术，公司对其在不同市场和地区遵守要求和标准的程度有了更清晰的理解。
5. 符合性评估（Conformity assessment）
背景：一家大型技术公司使用英国认可的服务提供商进行产品认证，以证明其产品符合适用的产品标准。
过程：认证机构制定了一个适用于技术公司产品的方案，包括（但不限于）执行符合性评估活动的所需方法。产品方案还包括与产品特定要求之外的要求，这些要求与管理系统的一致运行有关，以确保生产过程的持续符合性。
结果：产品证书显示，技术公司生产的产品继续符合认证方案的要求（只要证书有效）。
6. 形式验证（Formal verification）
背景：一家银行使用形式验证来测试其更新的AI模型，以支持抵押贷款申请的评估，确保模型的稳健性并验证与其使用相关的任何风险。
过程：银行与咨询公司合作，在部署前对其软件进行严格的评估。第三方保障提供商的评估有助于确保评估的公正性，并允许银行利用专家知识彻底评估其算法。
结果：形式验证过程使用正式的数学方法来评估系统更新是否满足关键要求。评估结果在详细报告中呈现，突出显示任何错误或风险因素。这个过程确保在系统投入使用之前识别出任何潜在的风险或错误，这对于金融服务尤为重要，因为错误可能对用户、银行的声誉和遵守规定产生严重后果。结果还提供了模型功能的客观和可量化的测量，增强了安全性和用户及股东的信心。
对组织采取人工智能保障机制的关键步骤
该报告也为组织采取人工智能保障机制提供了关键步骤，支持落地实施。
1. 考虑现有法规
尽管英国目前没有针对AI的特定法规，但存在适用于AI系统的现有法规，例如英国GDPR和《2010年平等法案》（Equality Act 2010）等。
2. 组织内部提升技能
在AI保障生态系统仍在发展的情况下，组织应发展对AI保障的理解，并预测未来可能的要求。艾伦·图灵研究所（The Alan Turing Institute）提供了关于AI治理实践应用的培训手册，英国AI标准中心（UK AI Standards Hub）提供了关于AI保障的在线学习模块。
3. 审查内部治理和风险管理
有效的AI保障始终以有效的内部治理过程为基础。组织应考虑如何确保风险和问题能够迅速升级，并在适当层面做出有效决策。美国国家科学技术研究所（NIST）开发的深度风险管理框架（RMF）可以支持组织风险的管理。
4. 关注新的监管指导
在未来几年，监管机构将开发特定行业的指导，说明如何在每个监管领域实施和操作提出的监管原则。例如，信息专员办公室（ICO）已经为关注合规角色的人开发了关于AI和数据保护的指导。英国政府也发布了初步指导，作为对AI监管白皮书咨询的回应。
5. 考虑参与AI标准化
私营部门与标准发展组织（SDOs）的参与对于确保开发出稳健且普遍接受的标准协议至关重要，特别是对于目前代表性不足的中小企业。考虑与标准机构如英国标准协会（BSI）合作，访问AI标准中心以获取实施AI标准的信息和支持。
小结
英国提出的人工智能保障机制是一个体系化、市场化、全生态的人工智能治理机制之一，为英国政府自上往下的监管机制以外提供了一个更利于组织自律的机制。人工智能保障机制的核心在于构建可证明的信任，解决当前阻碍人工智能技术被广泛应用和进一步发展的核心问题之一。人工智能保障机制以市场化的第三方市场主体来提供服务补充当前人工智能治理生态里缺乏专业性人才的问题，同时由多元主体包括研究机构、标准组织、监管机构等提供全方位的指南与工具，提升技能上的不足。再进一步强调国际标准的重要性，有利于人工智能保障机制的国际互操作性，促进本国企业的出海事业。
注：本文是与AI共同完成。
头图用AI生成。