译者序
最近译者在学习加拿大关于人工智能的立法，认为《人工智能和数据法》虽然法律规定简单，但是充分考虑了多个方面，首先是安全与发展的关系，保证了对加拿大人在损害和有偏见的输出上的保护，同时也提供给了人工智能产业人员对法律的可预测性，更是考虑了国际立法框架的互操作性，实现了与欧盟人工智能法草案的风险分级思路，也参考了美国人工智能风险管理框架的风险治理逻辑。因此，译者翻译了《人工智能与数据法》的配套文件，供大家参考，该配套文件充分地阐释加拿大政府的立法背景、监管逻辑。
导言
人工智能（AI）系统将对加拿大人的生活和加拿大企业的运营产生重大影响。2022 年 6 月，加拿大政府提出了《人工智能与数据法案》（AIDA），作为《2022年数字宪章实施法案》（C-27 法案）的一部分。人工智能和数据法》是实施《数字宪章》和确保加拿大人可以信任他们每天使用的数字技术的一个重要里程碑。人工智能系统的设计、开发和使用必须安全，必须尊重加拿大人的价值观。
AIDA 中提出的框架是建立新监管体系的第一步，旨在引导人工智能创新朝着积极的方向发展，并鼓励加拿大人和加拿大企业负责任地采用人工智能技术。政府将基于该框架通过公开透明的监管发展进程。政法将征求意见，收集加拿大各利益相关方的意见，以确保法规取得符合加拿大价值观的成果。
数字经济的全球互联性要求对市场中的人工智能系统进行国际协调监管。加拿大已经与欧洲联盟（欧盟）、英国和美国等国际伙伴合作，以协同统一的路径，以确保加拿大人在全球范围内受到保护，并确保加拿大公司能够在国际上被认可为符合严格的标准。
人工智能是一个强大的推动力，加拿大在这一重要技术领域发挥着领导作用。因此，政府在这一领域提出的方法引起了广泛关注。本文件旨在从两个关键方面让加拿大人放心。首先，政府认识到加拿大人对这一新兴技术的相关风险感到担忧，他们需要知道政府有计划确保影响他们生活的人工智能系统是安全的。最近发布的《人工智能咨询委员会公众意识工作组报告》显示，加拿大人对人工智能带来的机遇非常感兴趣，但也对其潜在损害表示担忧近三分之二的受访者认为，人工智能有可能对社会造成损害，而 71% 的受访者认为，如果受到公共当局的监管，人工智能是值得信赖的。因此，我们旨在向加拿大人保证，我们已经制定了周密的计划来管理这一新兴技术，并维护人们对这一日益增长的经济领域的信任。
与此同时，人工智能研究人员和创新者也对未来监管的不确定性感到担忧。认识到对这一强大技术的监管现已成为一种新兴的国际规范，该领域的许多人担心监管会缺乏灵活性，或者会不公平地给他们的工作领域蒙上污名。这种结果将对加拿大人的机会和加拿大经济产生重大影响。本文件旨在向加拿大人工智能生态系统中的行为主体保证，本法案的目的不是要诱捕善意的行为主体或扼杀创新，而是要监管这项技术最强大的用途，因为这些用途会带来损害风险。具体而言，本文件旨在解决这两方面的问题，并向加拿大人保证，人工智能系统带来的风险不会被消费者保护和人权立法所忽视，同时也明确表示，政府打算采取灵活的方法，不会扼杀负责任的创新，也不会不必要地单独挑出人工智能开发者、研究人员、投资者或企业家。以下是 AIDA 的路线图，解释了其意图以及政府通过未来法规将其付诸实施的主要考虑因素。其目的是让利益相关者和加拿大人了解拟议的立法，并支持议会对该法案的审议。
（一）加拿大与全球人工智能（AI）格局
加拿大在人工智能领域处于世界领先地位。加拿大有 20 个公共人工智能研究实验室、75 个人工智能孵化器和加速器、60 个来自全国各地的人工智能投资者团体，以及 850 多家与人工智能相关的初创企业。2 自 20 世纪 70 年代以来，加拿大人在人工智能的发展中发挥了关键作用。加拿大是世界上第一个制定人工智能国家战略的国家，于 2017 年发布了该战略，并且是人工智能全球合作伙伴关系（GPAI）的共同创始成员。联邦政府已拨出总计 5.68 亿加元的资金，用于推进人工智能领域的研究和创新，培养技术人才库，以及制定和采用人工智能系统的行业标准，以此作为 "国家人工智能战略"的一部分。这些投资在制定泛加拿大人工智能战略发挥了重要作用，使加拿大在人工智能研究和商业化方面处于全球领先地位。
近年来，全球人工智能市场的收入不断增长，预计到 2023 年将超过 6800 亿美元。7 市场研究预测，到 2026 年，全球人工智能市场规模将达到 1.2 万亿加元，并预计到 2030 年，市场规模将增长到 2 万亿加元以上。
人工智能通过识别和复制数据中识别出的模式，让计算机学会完成复杂的任务，如生成内容或做出决策和建议。在过去的 10 年中，人工智能系统的能力有了长足的进步，能够完成以前需要人类智能才能完成的任务，如识别和修改图像、进行翻译和生成有创意的内容。人工智能系统正越来越多地被用于对人类做出重要的预测或决定，例如在信贷、招聘和数字服务方面。
如今，加拿大正在开发人工智能系统，并将其用于各种应用，为加拿大经济增值，改善加拿大人的生活。就在不久前还似乎不可想象的技术，如今已成为日常生活的一部分。人工智能为加拿大人带来了诸多好处，其中包括：
- 促进医疗保健的进步，如癌症筛查和癌症治疗，以及改善家庭保健服务；
- 改进农业精确收获和改进能源供应效率；
- 推出新的智能产品和个性化服务；
- 提高语言处理技术的能力，包括翻译和文本到语音；以及
- 提高公民查找和处理信息的能力。
（二）为什么现在是加拿大建立负责任的人工智能框架的时候了？
在数字经济时代，人工智能的应用正迅速变得无处不在。随着其能力和部署规模的扩大，必须制定标准，让企业和公众对如何管理该技术有明确的预期。如果没有明确的标准，消费者就很难信任这项技术，企业也很难证明他们在负责任地使用这项技术。
虽然许多人工智能系统都有可能改善人们的生活，但一些备受瞩目的有害或歧视性事件也导致了信任度的下降：
- 一家大型跨国公司用来筛选面试候选人的人工智能简历筛选系统被发现歧视女性。
- 对知名面部识别系统的分析表明，有证据表明该系统对女性和有色人种存在偏见。
- 人工智能系统已被用于创建 "深度伪造 "图像、音频和视频，从而对个人造成损害。
如今，人工智能技术在各行各业日益重要和普及，公众对其对个人的影响和潜在的系统性影响也日益关注，这导致国际社会围绕指导和管理人工智能的必要性迅速启动。自 2021 年以来，欧盟提出了《人工智能法》草案，英国发布了人工智能监管提案，美国发布了《人工智能权利法案蓝图》。加拿大的先进数据经济希望蓬勃发展，就需要一个相应的框架来实现公民信任，鼓励负责任的创新，并保持与国际市场的互操作性。
《人工智能和数据法案》将如何运作
AIDA 旨在保护加拿大人，确保在加拿大发展负责任的人工智能，并在全球人工智能发展中突出加拿大企业和价值观的地位。AIDA 中基于风险的方法，包括关键定义和概念，旨在反映并符合人工智能领域不断发展的国际规范--包括欧盟《人工智能法》、经济合作与发展组织（OECD）人工智能基本原则和美国国家标准与技术研究院（NIST）《人工智能风险管理框架》--同时与加拿大现有的法律框架无缝整合。例如，AIDA 中对人工智能系统的定义与经合组织（OECD）制定的概念一致，这些概念也体现在欧盟的《人工智能法》中。在制定法规时，与其他司法管辖区的法律框架之间的可操作性也是一个重要的考虑因素，以方便加拿大公司进入国际市场。
AIDA 提出了以下路径：
1. 在现有加拿大消费者保护法和人权法的基础上，AIDA 将确保高影响人工智能系统在安全和人权方面达到加拿大人所习惯的相同期望。将与广泛的利益相关者协商制定法规，确定哪些系统被视为高影响系统，以及具体要求，以确保这些法规能有效保护加拿大公众的利益，同时避免给加拿大人工智能生态系统带来不必要的负担。
2. 创新、科学和工业部部长将被授权管理和执行该法案，以确保政策和执行随着技术的发展而同步进行。将设立一个由新的人工智能和数据专员领导的办公室作为支持该法的监管发展和行政管理的专家中心。一旦《法案》生效并对生态系统进行调整，专员的职能将逐步从单纯的教育和支持发展到包括遵守和执行。
3. 通过制定新的刑法条款，禁止严重疏忽和恶意使用人工智能，以免对加拿大人及其利益造成严重损害。
AIDA 将确保对国际和省际贸易和商业过程中使用的高影响人工智能系统的相关风险进行问责。它确定了高影响人工智能系统生命周期中涉及的活动，并规定了开展这些活动的企业的义务，以确保在可能引入风险的每一个环节上的问责制。
（一）高影响人工智能系统（High-Impact AI）：考虑因素和相关系统
在 AIDA 框架下，高影响系统的标准将在法规中定义，以便准确识别需要通过该框架进行监管的系统，实现与欧盟《人工智能法》等国际框架的互操作性，并随着技术的进步进行更新。这将使政府能够避免对人工智能生态系统造成不必要的影响。
政府认为，在确定哪些人工智能系统可被视为具有重大影响时，应研究以下关键因素：
根据预期目的和非预期的意外后果，有证据表明存在损害健康和安全的风险，或对人权产生不利影响的风险；
- 潜在损害的严重程度；
- 使用规模；
- 已经造成的损害或不利影响的性质；
- 由于实际或法律原因，无法合理退出该系统的程度；
- 经济或社会环境的不平衡，或受影响者的年龄；以及
- 其他法律对风险的充分监管程度。
AIDA 是否会影响开源软件或开放式人工智能系统的使用？
人工智能系统通常需要一个模型，以及使用数据集来训练模型执行某些任务。研究人员通常会将模型或其他工具作为开源软件发布，然后任何人都可以根据自己的数据和目标来开发人工智能系统。由于这些模型本身并不构成一个完整的人工智能系统，因此开放源码软件的发布不受 "提供使用 "义务的约束。
然而，这些义务将适用于提供使用功能完备的高影响人工智能系统的主体，包括通过开放存取提供该系统的主体。
政府认识到，人工智能系统的影响取决于其能力和使用环境。以下是政府对其潜在影响感兴趣的系统实例：
（1）影响获得服务或就业的筛查系统
这些人工智能系统旨在做出决策、提出建议、或预测与获得信贷或就业等服务有关的目的。它们有可能产生歧视性结果和经济损害，特别是对妇女和其他历史上被边缘化的群体。
（2）用于识别和推理的生物识别系统
某些人工智能系统利用生物识别数据对人进行预测：例如，远程识别一个人，或对个人的特征、心理或行为进行预测。这类系统有可能对心理健康和自主权的重大影响。
（3）可大规模影响人类行为的系统
人工智能驱动的在线内容推荐系统等应用已被证明能够大规模影响人类的行为、表达和情感。这些系统的潜在影响包括对心理和生理健康。
（4）对健康和安全至关重要的系统
某些人工智能应用被集成到健康和安全功能中，例如根据传感器收集的数据做出关键决策或提出建议。这些应用包括自动驾驶系统和卫生部门的分流决策系统。这些人工智能系统有可能造成直接的人身损害。如果风险没有得到充分缓解，也可能产生偏见。
（二）个人损害、集体损害和有偏差的产出
AIDA 解决了与高影响人工智能系统相关的两类不利影响。首先，它涉及对个人的一系列损害（Harm）。其次，这是加拿大第一个在商业背景下解决人工智能系统中系统性偏见所造成的不利影响的法律框架。
损害包括身体损害、心理损害、财产损失或个人经济损失。其目的是对各个经济部门可能造成的广泛不利影响的高度概括。损害可能由个人独立承受，也可能在个人群体中广泛承受，从而增加影响的严重性。例如，儿童等弱势群体可能更容易受到高影响人工智能系统的损害，因此有必要采取特定的风险缓解措施。
根据 AIDA，当基于《加拿大人权法》禁止的任何歧视理由而产生不合理的、不利的差别影响时，就会出现有偏见的输出。这包括直接或间接产生的差异，例如通过作为禁止理由替代物的变量产生的差异。如果不利的区别对待在影响决定或建议的现实因素背景下不可避免，则可被视为合理的区别对待。例如，个人收入往往与种族和性别等被禁止的理由相关，但收入也与与信贷有关的决定或建议相关。在这种情况下，所面临的挑战是确保系统不会使用种族或性别的替代品作为信用度的指标。例如，如果系统基于被禁止的理由放大了潜在的相关性或对特定个人产生了不公平的结果，这将被认为是不合理的。
AIDA 如何保护加拿大人免受集体损害？
目前，个人可根据《加拿大人权法》（CHRA）或省级人权立法对歧视行为提出申诉。
然而，如果不对偏见进行适当评估，人工智能系统的某些用途可能会对历史上被边缘化的群体造成大规模损害的风险。AIDA 将通过要求开展受监管行为的企业主动评估和降低因《人权法》禁止的理由而产生偏见的风险来应对这一风险。
（三）法律要求
AIDA 将要求在高影响人工智能系统投入使用之前，采取适当的措施来识别、评估和降低损害或偏见的输出的风险。这样做是通过对生命周期每个阶段的要求设定明确的预期，促进合规性。
高影响人工智能系统的义务将以下列原则为指导，这些原则旨在与人工智能系统治理的国际规范保持一致。
（1）人类监督和监测
人类监督是指，高影响人工智能系统的设计和开发方式必须能够让管理该系统运行的人类进行有意义的监督。这包括与环境相适应的可解释性。
通过衡量和评估高影响人工智能系统及其输出来进行监测，对于支持人类有效监督至关重要。
（2）透明度
透明度意味着向公众提供有关如何使用高影响人工智能系统的适当信息。所提供的信息应足以让公众了解系统的能力、局限性和潜在影响。
（3）公平与公正
公平与公正意味着在建立高效的人工智能系统时要意识到可能会产生歧视性结果。
必须采取适当行动，减少对个人和群体的歧视性结果。
（4）安全
安全意味着必须对高影响人工智能系统进行主动评估，以确定使用该系统可能造成的损害，包括可合理预见的误用。
必须采取措施降低损害风险。
（5）问责制
问责制意味着各组织必须建立必要的管理机制，以确保高影响人工智能系统遵守在其所使用的环境中应遵守的所有法律义务。
这包括主动记录已实施的制度、流程和措施。‘
（6）有效性和稳健性
有效性意味着高影响人工智能系统能够始终如一地实现预期目标。
鲁棒性意味着高影响人工智能系统在各种情况下都能保持稳定并具有弹性。
企业应建立适当的问责机制，以确保遵守该法规定的义务。它们将负责制定和执行适当的内部管理流程和制度，以实现对AIDA的遵守。
措施将通过法规来制定，并将根据高影响人工智能系统生命周期中特定受监管行为的背景和相关风险量身定制。然后，AIDA 中规定的受监管行为将与与风险相称的独特义务相关联。值得注意的是，研究或开发等活动本身并不是 AIDA 下的受监管行为。根据具体情况和产业联配置，可能会有多个企业参与为一个人工智能系统开展受监管行为。
法规所要求的具体措施将通过广泛征求意见来制定，并将以国际标准和最佳做法为基础，以避免对创新造成不当影响。根据 AIDA，实施此类措施的企业必须监督措施的遵守情况及其有效性。基于获得皇室批准的AIDA的法规将确保监督义务与行为主体的系统相关风险的影响程度相称。
我如何知道公司的义务？
目前，加拿大还没有明确规定企业应如何确保高影响人工智能系统的安全性和非歧视性。
根据 AIDA，开展受监管行为的企业有责任确保员工采取措施，应对与高影响人工智能系统相关的风险。
（1）设计或开发高影响人工智能系统的企业应采取措施，识别和应对损害和偏见方面的风险，记录适当的使用和限制，并根据需要调整措施。
（2）提供高影响人工智能系统的企业应在部署时，应考虑其潜在用途，并采取措施确保用户了解系统的使用限制，并理解其局限性。
（3）管理人工智能系统运行的企业应按规定使用人工智能系统，评估和降低风险，并确保对系统进行持续监控。
例如，某些人工智能系统执行普遍可用的功能--如文本、音频或视频生成--并可用于各种不同的背景。由于通用系统的最终用户对此类系统如何运行的影响有限，通用系统的开发者需要确保记录并解决与偏见或有害内容相关的风险。
例如，只参与设计或开发高影响人工智能系统，但在开发后没有实际能力监测该系统的企业，其义务与管理其运营的企业不同。个别员工不需要承担与整个企业相关的义务。除了与风险评估和缓解相关的义务外，负责与高影响系统相关的受监管行为的企业还必须在系统造成或可能造成重大损害时通知部长。
下表说明了在人工智能系统生命周期的每个阶段可采取的措施类型。在高影响系统投入使用之前，必须满足设计和开发要求。
（四）监督和执行
在新框架生效后的最初几年，AIDA 的工作重点将放在教育、制定准则和帮助企业通过自愿方式遵守新框架。政府打算在采取执法行动之前，让生态系统有充足的时间适应新框架。
创新、科学和工业部部长将负责管理和执行该法案中不涉及可起诉罪行的所有部分。此外，《创新、科学和产业法》还将设立一个新的法定角色——人工智能和数据专员将协助部长履行这些职责。将专员的职责编纂成法将使其职能与 ISED 内部的其他活动分开，并使专员能够建立一个人工智能监管的专家中心。除了管理和执行该法案，专员的工作还将包括支持和协调其他监管机构，以确保在不同情况下具有一致的监管能力，以及跟踪和研究人工智能系统的潜在系统性影响，以便为管理和政策决定提供信息。
鉴于人工智能监管的独特背景和监管计划的目标，在选择这一模式时仔细考虑了许多因素。人工智能的治理和监管是一个新兴领域，在未来几年将迅速发展。因此，行政和执法决定对政策具有重要影响，在框架建立的最初几年，这两项职能需要在部长的指导下密切合作。
部长将有权确保加拿大人的安全。如果某个系统可能导致损害或有偏见的输出，或者可能发生了违规行为，他们可以采取以下行动：
- 命令出示记录以证明遵守了规定；或
- 命令进行独立审计。
在存在迫在眉睫的损害的情况下，部长可采取以下行动：
- 命令停止使用系统；或
- 公开披露与违反本法有关的信息，或出于预防损害的目的。
如何使用三种不同的执行机制？
AIDA 规定了对不遵守法规行为的两类处罚--行政罚款 (AMPs) 和对违反法规行为的起诉--以及针对真正刑事犯罪的单独机制。
AMPs 是一种灵活的合规工具，监管机构可针对任何违规行为直接使用，以鼓励遵守该法规定的义务。虽然AIDA允许建立一个 AMPs 制度，但需要制定法规和进行征求意见才能生效。
对于较严重的不遵守义务的情况，可对违法行为提起诉讼。由于程序的严重性，必须在排除合理怀疑的情况下证明有罪，公司可以通过证明自己在履行义务时尽到应有的合理注意来为自己辩护。部长不会对是否起诉某项罪行施加任何影响，加拿大检察院需要确定起诉符合公众利益，才能进行起诉。例如，如果一家公司拒绝履行义务，即使在收到部长根据AIDA下达的命令之后，也可能因违反规定而被起诉。
真正的刑事犯罪与 AIDA 中的监管义务是分开的，只涉及禁止明知或故意造成严重损害的行为。例如，如果某人提供的人工智能系统造成了严重损害，而他又知道该系统可能会造成这种损害，却没有采取合理措施加以防止，那么他就可能被起诉。
重要的是，部长不能决定根据该法起诉谁。部长只能够将案件移交加拿大检察机关，加拿大检察机关可自行决定是否进行调查。部长的监管权力不能用于调查下一节讨论的刑事犯罪，这些犯罪是 "真正的犯罪"，需要有犯罪意图并可处以监禁。
AIDA 还将引入私营部门、学术界和民间社会的外部专家，确保在快速发展的环境中开展执法活动。具体做法如下：
- 指定外部专家担任分析员，以支持该法的管理和执行；
- 由合格的独立审计师进行人工智能审计；
- 任命一个咨询委员会，为部长提供建议。
案例：多方参与开发的系统
假设一个人工智能系统有多个开发步骤，涉及研究和商业活动。
步骤 1：大学研究人员发布一个可用于开发人工智能系统的新模型--根据 AIDA，这不是一项商业活动，模型本身也不是一个完整的人工智能系统，因此没有义务。
步骤2：企业 A 利用这种模式，使用对其控制下的数据进行训练，开发出高影响人工智能系统，然后将其投放市场供使用--企业 A 将需要遵守开发和提供使用的要求，这些要求将在法规中规定（例如，测试、确保安全和公平操作所需的所有措施到位、向购买系统的企业提供文件）。如果企业 A 没有履行这些义务，他们可能会受到处罚，包括一旦通过监管引入该计划后的 AMP。如果企业 A 在明知可能造成严重损害的情况下仍提供使用，他们可能会因刑事犯罪而被起诉。
步骤 3：企业 B 为自己的商业目的将系统投入运行并管理运行--企业 B 将需要遵守管理运行的要求（例如，根据企业 A 记录的风险和限制，确保这种使用是适当的，监测系统，公布系统说明）。如果操作系统造成损害，事务所 B 只有在没有履行与管理业务有关的义务时才承担责任。如果公司 B 在操作该系统时表现出罔顾他人安全的行为，根据《刑法典》，他们可能会因刑事犯罪而被起诉。
此外，随着生态系统的不断发展，自愿认证可以发挥重要作用。人工智能和数据专员将持续评估生态系统的进展，并确保管理和执法活动考虑到受监管组织的能力和影响规模。例如，小公司的治理结构、制度和流程将无法与员工人数更多和活动范围更广的大公司相提并论。中小型企业在采用满足要求所需的做法方面也将得到特别帮助。
一旦生态系统和监管框架足够成熟，AIDA 确实规定通过监管建立行政罚款计划 (AMPs)。处罚的设计将与鼓励合规的目标相称，包括与公司的规模相称。例如，在其他鼓励合规的尝试失败的情况下，可以对明显违规的企业实施行政罚款。除了可能的行政处罚外，不遵守要求还将构成可起诉的罪行，这与旨在保护公众免受损害的其他法律框架是一致的。加拿大检察院（PPSC）可酌情起诉最严重的违规案件。这些罪行只针对那些有义务确保要求得到满足的人。例如，如果一家公司阻挠核查其是否履行了义务，或提供虚假或误导性信息，则可能受到起诉。
（五）刑事禁令
《刑法典》规定了加拿大的大部分刑事犯罪。这些行为既对加拿大社会有足够的损害性，又表现出行为人在道德上应受谴责。
因此，这些罪行会受到严厉的惩罚，包括监禁，并在定罪后导致严重的社会耻辱。这些罪行有别于不遵守法律规定的罪行，后者主要涉及不合理地不履行法律义务。由于判定刑事犯罪的后果严重，对这些罪行的起诉要求在排除合理怀疑的情况下，不仅要证明实施了特定行为，还要证明该行为是故意的。
虽然《刑法》中的许多罪行都可适用于恶意（甚至是严重疏忽）使用人工智能系统的行为，但这些罪行并不针对这种行为，而且将其适用于该技术的潜在用途具有一定的不确定性和新颖性。AIDA 规定了三项新的刑事犯罪，以直接禁止和处理令人担忧的特定行为。
这些刑事犯罪与上一节讨论的监管义务和相关罪行完全不同。这些刑事犯罪旨在禁止和惩罚与人工智能相关的明知或意识到自己正在造成或有可能造成损害的人所从事的活动。这三种罪行如下：
1.故意所有或使用非法获取的个人信息来设计、开发、使用或提供人工智能系统。这可能包括故意使用从数据泄露中获取的个人信息来训练人工智能系统。
2.明知或罔顾人工智能系统是否可能对财产造成严重损害或重大损害，但仍将其提供给他人使用，且其使用实际造成了此类损害或损害。
3.提供人工智能系统供使用，意图欺骗公众并给个人造成重大经济损失，而使用该系统实际上造成了这种损失。
这些罪行可由执法部门调查，并由加拿大检察院酌情起诉。
未来之路
AIDA 是最早提出的国家人工智能监管框架之一。它旨在保护个人和社区免受与高影响人工智能系统相关的不利影响，并支持加拿大经济负责任地发展和采用人工智能。它采用基于风险的方法，与欧盟的《人工智能法》草案保持一致，并将得到未来几年制定的行业标准的支持。
在 C-27 法案获得皇室批准后，政府打算对产业界、学术界、民间社会和加拿大各社区进行广泛而包容的征求意见，为 AIDA 及其法规的实施提供信息。预计这将包括：
（1）应被视为高影响人工智能系统的类型；
（2）在确保人工智能系统满足加拿大人的期望时应考虑的标准和认证类型；
（3）制定和执行法规方面的优先事项，包括有关 AMPs 计划的优先事项；
（4）工智能和数据专员的职责；以及
（5）咨询委员会的设立。
在此过程之后，政府将在《加拿大公报》第1 部分预先公布法规草案，并再次进行为期 60 天的征求意见。然后，最初的一套法规将在《加拿大公报》第2 部分公布。ISED 将在管理和执行该法的过程中继续评估法规的有效性。它还将与在人工智能领域开展业务的其他监管机构合作并提供支持，以确保加拿大人在各种监管背景下都能得到一致有效的保护。
最近译者在学习加拿大关于人工智能的立法，认为《人工智能和数据法》虽然法律规定简单，但是充分考虑了多个方面，首先是安全与发展的关系，保证了对加拿大人在损害和有偏见的输出上的保护，同时也提供给了人工智能产业人员对法律的可预测性，更是考虑了国际立法框架的互操作性，实现了与欧盟人工智能法草案的风险分级思路，也参考了美国人工智能风险管理框架的风险治理逻辑。因此，译者翻译了《人工智能与数据法》的配套文件，供大家参考，该配套文件充分地阐释加拿大政府的立法背景、监管逻辑。
导言
人工智能（AI）系统将对加拿大人的生活和加拿大企业的运营产生重大影响。2022 年 6 月，加拿大政府提出了《人工智能与数据法案》（AIDA），作为《2022年数字宪章实施法案》（C-27 法案）的一部分。人工智能和数据法》是实施《数字宪章》和确保加拿大人可以信任他们每天使用的数字技术的一个重要里程碑。人工智能系统的设计、开发和使用必须安全，必须尊重加拿大人的价值观。
AIDA 中提出的框架是建立新监管体系的第一步，旨在引导人工智能创新朝着积极的方向发展，并鼓励加拿大人和加拿大企业负责任地采用人工智能技术。政府将基于该框架通过公开透明的监管发展进程。政法将征求意见，收集加拿大各利益相关方的意见，以确保法规取得符合加拿大价值观的成果。
数字经济的全球互联性要求对市场中的人工智能系统进行国际协调监管。加拿大已经与欧洲联盟（欧盟）、英国和美国等国际伙伴合作，以协同统一的路径，以确保加拿大人在全球范围内受到保护，并确保加拿大公司能够在国际上被认可为符合严格的标准。
人工智能是一个强大的推动力，加拿大在这一重要技术领域发挥着领导作用。因此，政府在这一领域提出的方法引起了广泛关注。本文件旨在从两个关键方面让加拿大人放心。首先，政府认识到加拿大人对这一新兴技术的相关风险感到担忧，他们需要知道政府有计划确保影响他们生活的人工智能系统是安全的。最近发布的《人工智能咨询委员会公众意识工作组报告》显示，加拿大人对人工智能带来的机遇非常感兴趣，但也对其潜在损害表示担忧近三分之二的受访者认为，人工智能有可能对社会造成损害，而 71% 的受访者认为，如果受到公共当局的监管，人工智能是值得信赖的。因此，我们旨在向加拿大人保证，我们已经制定了周密的计划来管理这一新兴技术，并维护人们对这一日益增长的经济领域的信任。
与此同时，人工智能研究人员和创新者也对未来监管的不确定性感到担忧。认识到对这一强大技术的监管现已成为一种新兴的国际规范，该领域的许多人担心监管会缺乏灵活性，或者会不公平地给他们的工作领域蒙上污名。这种结果将对加拿大人的机会和加拿大经济产生重大影响。本文件旨在向加拿大人工智能生态系统中的行为主体保证，本法案的目的不是要诱捕善意的行为主体或扼杀创新，而是要监管这项技术最强大的用途，因为这些用途会带来损害风险。具体而言，本文件旨在解决这两方面的问题，并向加拿大人保证，人工智能系统带来的风险不会被消费者保护和人权立法所忽视，同时也明确表示，政府打算采取灵活的方法，不会扼杀负责任的创新，也不会不必要地单独挑出人工智能开发者、研究人员、投资者或企业家。以下是 AIDA 的路线图，解释了其意图以及政府通过未来法规将其付诸实施的主要考虑因素。其目的是让利益相关者和加拿大人了解拟议的立法，并支持议会对该法案的审议。
（一）加拿大与全球人工智能（AI）格局
加拿大在人工智能领域处于世界领先地位。加拿大有 20 个公共人工智能研究实验室、75 个人工智能孵化器和加速器、60 个来自全国各地的人工智能投资者团体，以及 850 多家与人工智能相关的初创企业。2 自 20 世纪 70 年代以来，加拿大人在人工智能的发展中发挥了关键作用。加拿大是世界上第一个制定人工智能国家战略的国家，于 2017 年发布了该战略，并且是人工智能全球合作伙伴关系（GPAI）的共同创始成员。联邦政府已拨出总计 5.68 亿加元的资金，用于推进人工智能领域的研究和创新，培养技术人才库，以及制定和采用人工智能系统的行业标准，以此作为 "国家人工智能战略"的一部分。这些投资在制定泛加拿大人工智能战略发挥了重要作用，使加拿大在人工智能研究和商业化方面处于全球领先地位。
近年来，全球人工智能市场的收入不断增长，预计到 2023 年将超过 6800 亿美元。7 市场研究预测，到 2026 年，全球人工智能市场规模将达到 1.2 万亿加元，并预计到 2030 年，市场规模将增长到 2 万亿加元以上。
人工智能通过识别和复制数据中识别出的模式，让计算机学会完成复杂的任务，如生成内容或做出决策和建议。在过去的 10 年中，人工智能系统的能力有了长足的进步，能够完成以前需要人类智能才能完成的任务，如识别和修改图像、进行翻译和生成有创意的内容。人工智能系统正越来越多地被用于对人类做出重要的预测或决定，例如在信贷、招聘和数字服务方面。
如今，加拿大正在开发人工智能系统，并将其用于各种应用，为加拿大经济增值，改善加拿大人的生活。就在不久前还似乎不可想象的技术，如今已成为日常生活的一部分。人工智能为加拿大人带来了诸多好处，其中包括：
- 促进医疗保健的进步，如癌症筛查和癌症治疗，以及改善家庭保健服务；
- 改进农业精确收获和改进能源供应效率；
- 推出新的智能产品和个性化服务；
- 提高语言处理技术的能力，包括翻译和文本到语音；以及
- 提高公民查找和处理信息的能力。
（二）为什么现在是加拿大建立负责任的人工智能框架的时候了？
在数字经济时代，人工智能的应用正迅速变得无处不在。随着其能力和部署规模的扩大，必须制定标准，让企业和公众对如何管理该技术有明确的预期。如果没有明确的标准，消费者就很难信任这项技术，企业也很难证明他们在负责任地使用这项技术。
虽然许多人工智能系统都有可能改善人们的生活，但一些备受瞩目的有害或歧视性事件也导致了信任度的下降：
- 一家大型跨国公司用来筛选面试候选人的人工智能简历筛选系统被发现歧视女性。
- 对知名面部识别系统的分析表明，有证据表明该系统对女性和有色人种存在偏见。
- 人工智能系统已被用于创建 "深度伪造 "图像、音频和视频，从而对个人造成损害。
如今，人工智能技术在各行各业日益重要和普及，公众对其对个人的影响和潜在的系统性影响也日益关注，这导致国际社会围绕指导和管理人工智能的必要性迅速启动。自 2021 年以来，欧盟提出了《人工智能法》草案，英国发布了人工智能监管提案，美国发布了《人工智能权利法案蓝图》。加拿大的先进数据经济希望蓬勃发展，就需要一个相应的框架来实现公民信任，鼓励负责任的创新，并保持与国际市场的互操作性。
《人工智能和数据法案》将如何运作
AIDA 旨在保护加拿大人，确保在加拿大发展负责任的人工智能，并在全球人工智能发展中突出加拿大企业和价值观的地位。AIDA 中基于风险的方法，包括关键定义和概念，旨在反映并符合人工智能领域不断发展的国际规范--包括欧盟《人工智能法》、经济合作与发展组织（OECD）人工智能基本原则和美国国家标准与技术研究院（NIST）《人工智能风险管理框架》--同时与加拿大现有的法律框架无缝整合。例如，AIDA 中对人工智能系统的定义与经合组织（OECD）制定的概念一致，这些概念也体现在欧盟的《人工智能法》中。在制定法规时，与其他司法管辖区的法律框架之间的可操作性也是一个重要的考虑因素，以方便加拿大公司进入国际市场。
AIDA 提出了以下路径：
1. 在现有加拿大消费者保护法和人权法的基础上，AIDA 将确保高影响人工智能系统在安全和人权方面达到加拿大人所习惯的相同期望。将与广泛的利益相关者协商制定法规，确定哪些系统被视为高影响系统，以及具体要求，以确保这些法规能有效保护加拿大公众的利益，同时避免给加拿大人工智能生态系统带来不必要的负担。
2. 创新、科学和工业部部长将被授权管理和执行该法案，以确保政策和执行随着技术的发展而同步进行。将设立一个由新的人工智能和数据专员领导的办公室作为支持该法的监管发展和行政管理的专家中心。一旦《法案》生效并对生态系统进行调整，专员的职能将逐步从单纯的教育和支持发展到包括遵守和执行。
3. 通过制定新的刑法条款，禁止严重疏忽和恶意使用人工智能，以免对加拿大人及其利益造成严重损害。
AIDA 将确保对国际和省际贸易和商业过程中使用的高影响人工智能系统的相关风险进行问责。它确定了高影响人工智能系统生命周期中涉及的活动，并规定了开展这些活动的企业的义务，以确保在可能引入风险的每一个环节上的问责制。
（一）高影响人工智能系统（High-Impact AI）：考虑因素和相关系统
在 AIDA 框架下，高影响系统的标准将在法规中定义，以便准确识别需要通过该框架进行监管的系统，实现与欧盟《人工智能法》等国际框架的互操作性，并随着技术的进步进行更新。这将使政府能够避免对人工智能生态系统造成不必要的影响。
政府认为，在确定哪些人工智能系统可被视为具有重大影响时，应研究以下关键因素：
根据预期目的和非预期的意外后果，有证据表明存在损害健康和安全的风险，或对人权产生不利影响的风险；
- 潜在损害的严重程度；
- 使用规模；
- 已经造成的损害或不利影响的性质；
- 由于实际或法律原因，无法合理退出该系统的程度；
- 经济或社会环境的不平衡，或受影响者的年龄；以及
- 其他法律对风险的充分监管程度。
AIDA 是否会影响开源软件或开放式人工智能系统的使用？
人工智能系统通常需要一个模型，以及使用数据集来训练模型执行某些任务。研究人员通常会将模型或其他工具作为开源软件发布，然后任何人都可以根据自己的数据和目标来开发人工智能系统。由于这些模型本身并不构成一个完整的人工智能系统，因此开放源码软件的发布不受 "提供使用 "义务的约束。
然而，这些义务将适用于提供使用功能完备的高影响人工智能系统的主体，包括通过开放存取提供该系统的主体。
政府认识到，人工智能系统的影响取决于其能力和使用环境。以下是政府对其潜在影响感兴趣的系统实例：
（1）影响获得服务或就业的筛查系统
这些人工智能系统旨在做出决策、提出建议、或预测与获得信贷或就业等服务有关的目的。它们有可能产生歧视性结果和经济损害，特别是对妇女和其他历史上被边缘化的群体。
（2）用于识别和推理的生物识别系统
某些人工智能系统利用生物识别数据对人进行预测：例如，远程识别一个人，或对个人的特征、心理或行为进行预测。这类系统有可能对心理健康和自主权的重大影响。
（3）可大规模影响人类行为的系统
人工智能驱动的在线内容推荐系统等应用已被证明能够大规模影响人类的行为、表达和情感。这些系统的潜在影响包括对心理和生理健康。
（4）对健康和安全至关重要的系统
某些人工智能应用被集成到健康和安全功能中，例如根据传感器收集的数据做出关键决策或提出建议。这些应用包括自动驾驶系统和卫生部门的分流决策系统。这些人工智能系统有可能造成直接的人身损害。如果风险没有得到充分缓解，也可能产生偏见。
（二）个人损害、集体损害和有偏差的产出
AIDA 解决了与高影响人工智能系统相关的两类不利影响。首先，它涉及对个人的一系列损害（Harm）。其次，这是加拿大第一个在商业背景下解决人工智能系统中系统性偏见所造成的不利影响的法律框架。
损害包括身体损害、心理损害、财产损失或个人经济损失。其目的是对各个经济部门可能造成的广泛不利影响的高度概括。损害可能由个人独立承受，也可能在个人群体中广泛承受，从而增加影响的严重性。例如，儿童等弱势群体可能更容易受到高影响人工智能系统的损害，因此有必要采取特定的风险缓解措施。
根据 AIDA，当基于《加拿大人权法》禁止的任何歧视理由而产生不合理的、不利的差别影响时，就会出现有偏见的输出。这包括直接或间接产生的差异，例如通过作为禁止理由替代物的变量产生的差异。如果不利的区别对待在影响决定或建议的现实因素背景下不可避免，则可被视为合理的区别对待。例如，个人收入往往与种族和性别等被禁止的理由相关，但收入也与与信贷有关的决定或建议相关。在这种情况下，所面临的挑战是确保系统不会使用种族或性别的替代品作为信用度的指标。例如，如果系统基于被禁止的理由放大了潜在的相关性或对特定个人产生了不公平的结果，这将被认为是不合理的。
AIDA 如何保护加拿大人免受集体损害？
目前，个人可根据《加拿大人权法》（CHRA）或省级人权立法对歧视行为提出申诉。
然而，如果不对偏见进行适当评估，人工智能系统的某些用途可能会对历史上被边缘化的群体造成大规模损害的风险。AIDA 将通过要求开展受监管行为的企业主动评估和降低因《人权法》禁止的理由而产生偏见的风险来应对这一风险。
（三）法律要求
AIDA 将要求在高影响人工智能系统投入使用之前，采取适当的措施来识别、评估和降低损害或偏见的输出的风险。这样做是通过对生命周期每个阶段的要求设定明确的预期，促进合规性。
高影响人工智能系统的义务将以下列原则为指导，这些原则旨在与人工智能系统治理的国际规范保持一致。
（1）人类监督和监测
人类监督是指，高影响人工智能系统的设计和开发方式必须能够让管理该系统运行的人类进行有意义的监督。这包括与环境相适应的可解释性。
通过衡量和评估高影响人工智能系统及其输出来进行监测，对于支持人类有效监督至关重要。
（2）透明度
透明度意味着向公众提供有关如何使用高影响人工智能系统的适当信息。所提供的信息应足以让公众了解系统的能力、局限性和潜在影响。
（3）公平与公正
公平与公正意味着在建立高效的人工智能系统时要意识到可能会产生歧视性结果。
必须采取适当行动，减少对个人和群体的歧视性结果。
（4）安全
安全意味着必须对高影响人工智能系统进行主动评估，以确定使用该系统可能造成的损害，包括可合理预见的误用。
必须采取措施降低损害风险。
（5）问责制
问责制意味着各组织必须建立必要的管理机制，以确保高影响人工智能系统遵守在其所使用的环境中应遵守的所有法律义务。
这包括主动记录已实施的制度、流程和措施。‘
（6）有效性和稳健性
有效性意味着高影响人工智能系统能够始终如一地实现预期目标。
鲁棒性意味着高影响人工智能系统在各种情况下都能保持稳定并具有弹性。
企业应建立适当的问责机制，以确保遵守该法规定的义务。它们将负责制定和执行适当的内部管理流程和制度，以实现对AIDA的遵守。
措施将通过法规来制定，并将根据高影响人工智能系统生命周期中特定受监管行为的背景和相关风险量身定制。然后，AIDA 中规定的受监管行为将与与风险相称的独特义务相关联。值得注意的是，研究或开发等活动本身并不是 AIDA 下的受监管行为。根据具体情况和产业联配置，可能会有多个企业参与为一个人工智能系统开展受监管行为。
法规所要求的具体措施将通过广泛征求意见来制定，并将以国际标准和最佳做法为基础，以避免对创新造成不当影响。根据 AIDA，实施此类措施的企业必须监督措施的遵守情况及其有效性。基于获得皇室批准的AIDA的法规将确保监督义务与行为主体的系统相关风险的影响程度相称。
我如何知道公司的义务？
目前，加拿大还没有明确规定企业应如何确保高影响人工智能系统的安全性和非歧视性。
根据 AIDA，开展受监管行为的企业有责任确保员工采取措施，应对与高影响人工智能系统相关的风险。
（1）设计或开发高影响人工智能系统的企业应采取措施，识别和应对损害和偏见方面的风险，记录适当的使用和限制，并根据需要调整措施。
（2）提供高影响人工智能系统的企业应在部署时，应考虑其潜在用途，并采取措施确保用户了解系统的使用限制，并理解其局限性。
（3）管理人工智能系统运行的企业应按规定使用人工智能系统，评估和降低风险，并确保对系统进行持续监控。
例如，某些人工智能系统执行普遍可用的功能--如文本、音频或视频生成--并可用于各种不同的背景。由于通用系统的最终用户对此类系统如何运行的影响有限，通用系统的开发者需要确保记录并解决与偏见或有害内容相关的风险。
例如，只参与设计或开发高影响人工智能系统，但在开发后没有实际能力监测该系统的企业，其义务与管理其运营的企业不同。个别员工不需要承担与整个企业相关的义务。除了与风险评估和缓解相关的义务外，负责与高影响系统相关的受监管行为的企业还必须在系统造成或可能造成重大损害时通知部长。
下表说明了在人工智能系统生命周期的每个阶段可采取的措施类型。在高影响系统投入使用之前，必须满足设计和开发要求。
（四）监督和执行
在新框架生效后的最初几年，AIDA 的工作重点将放在教育、制定准则和帮助企业通过自愿方式遵守新框架。政府打算在采取执法行动之前，让生态系统有充足的时间适应新框架。
创新、科学和工业部部长将负责管理和执行该法案中不涉及可起诉罪行的所有部分。此外，《创新、科学和产业法》还将设立一个新的法定角色——人工智能和数据专员将协助部长履行这些职责。将专员的职责编纂成法将使其职能与 ISED 内部的其他活动分开，并使专员能够建立一个人工智能监管的专家中心。除了管理和执行该法案，专员的工作还将包括支持和协调其他监管机构，以确保在不同情况下具有一致的监管能力，以及跟踪和研究人工智能系统的潜在系统性影响，以便为管理和政策决定提供信息。
鉴于人工智能监管的独特背景和监管计划的目标，在选择这一模式时仔细考虑了许多因素。人工智能的治理和监管是一个新兴领域，在未来几年将迅速发展。因此，行政和执法决定对政策具有重要影响，在框架建立的最初几年，这两项职能需要在部长的指导下密切合作。
部长将有权确保加拿大人的安全。如果某个系统可能导致损害或有偏见的输出，或者可能发生了违规行为，他们可以采取以下行动：
- 命令出示记录以证明遵守了规定；或
- 命令进行独立审计。
在存在迫在眉睫的损害的情况下，部长可采取以下行动：
- 命令停止使用系统；或
- 公开披露与违反本法有关的信息，或出于预防损害的目的。
如何使用三种不同的执行机制？
AIDA 规定了对不遵守法规行为的两类处罚--行政罚款 (AMPs) 和对违反法规行为的起诉--以及针对真正刑事犯罪的单独机制。
AMPs 是一种灵活的合规工具，监管机构可针对任何违规行为直接使用，以鼓励遵守该法规定的义务。虽然AIDA允许建立一个 AMPs 制度，但需要制定法规和进行征求意见才能生效。
对于较严重的不遵守义务的情况，可对违法行为提起诉讼。由于程序的严重性，必须在排除合理怀疑的情况下证明有罪，公司可以通过证明自己在履行义务时尽到应有的合理注意来为自己辩护。部长不会对是否起诉某项罪行施加任何影响，加拿大检察院需要确定起诉符合公众利益，才能进行起诉。例如，如果一家公司拒绝履行义务，即使在收到部长根据AIDA下达的命令之后，也可能因违反规定而被起诉。
真正的刑事犯罪与 AIDA 中的监管义务是分开的，只涉及禁止明知或故意造成严重损害的行为。例如，如果某人提供的人工智能系统造成了严重损害，而他又知道该系统可能会造成这种损害，却没有采取合理措施加以防止，那么他就可能被起诉。
重要的是，部长不能决定根据该法起诉谁。部长只能够将案件移交加拿大检察机关，加拿大检察机关可自行决定是否进行调查。部长的监管权力不能用于调查下一节讨论的刑事犯罪，这些犯罪是 "真正的犯罪"，需要有犯罪意图并可处以监禁。
AIDA 还将引入私营部门、学术界和民间社会的外部专家，确保在快速发展的环境中开展执法活动。具体做法如下：
- 指定外部专家担任分析员，以支持该法的管理和执行；
- 由合格的独立审计师进行人工智能审计；
- 任命一个咨询委员会，为部长提供建议。
案例：多方参与开发的系统
假设一个人工智能系统有多个开发步骤，涉及研究和商业活动。
步骤 1：大学研究人员发布一个可用于开发人工智能系统的新模型--根据 AIDA，这不是一项商业活动，模型本身也不是一个完整的人工智能系统，因此没有义务。
步骤2：企业 A 利用这种模式，使用对其控制下的数据进行训练，开发出高影响人工智能系统，然后将其投放市场供使用--企业 A 将需要遵守开发和提供使用的要求，这些要求将在法规中规定（例如，测试、确保安全和公平操作所需的所有措施到位、向购买系统的企业提供文件）。如果企业 A 没有履行这些义务，他们可能会受到处罚，包括一旦通过监管引入该计划后的 AMP。如果企业 A 在明知可能造成严重损害的情况下仍提供使用，他们可能会因刑事犯罪而被起诉。
步骤 3：企业 B 为自己的商业目的将系统投入运行并管理运行--企业 B 将需要遵守管理运行的要求（例如，根据企业 A 记录的风险和限制，确保这种使用是适当的，监测系统，公布系统说明）。如果操作系统造成损害，事务所 B 只有在没有履行与管理业务有关的义务时才承担责任。如果公司 B 在操作该系统时表现出罔顾他人安全的行为，根据《刑法典》，他们可能会因刑事犯罪而被起诉。
此外，随着生态系统的不断发展，自愿认证可以发挥重要作用。人工智能和数据专员将持续评估生态系统的进展，并确保管理和执法活动考虑到受监管组织的能力和影响规模。例如，小公司的治理结构、制度和流程将无法与员工人数更多和活动范围更广的大公司相提并论。中小型企业在采用满足要求所需的做法方面也将得到特别帮助。
一旦生态系统和监管框架足够成熟，AIDA 确实规定通过监管建立行政罚款计划 (AMPs)。处罚的设计将与鼓励合规的目标相称，包括与公司的规模相称。例如，在其他鼓励合规的尝试失败的情况下，可以对明显违规的企业实施行政罚款。除了可能的行政处罚外，不遵守要求还将构成可起诉的罪行，这与旨在保护公众免受损害的其他法律框架是一致的。加拿大检察院（PPSC）可酌情起诉最严重的违规案件。这些罪行只针对那些有义务确保要求得到满足的人。例如，如果一家公司阻挠核查其是否履行了义务，或提供虚假或误导性信息，则可能受到起诉。
（五）刑事禁令
《刑法典》规定了加拿大的大部分刑事犯罪。这些行为既对加拿大社会有足够的损害性，又表现出行为人在道德上应受谴责。
因此，这些罪行会受到严厉的惩罚，包括监禁，并在定罪后导致严重的社会耻辱。这些罪行有别于不遵守法律规定的罪行，后者主要涉及不合理地不履行法律义务。由于判定刑事犯罪的后果严重，对这些罪行的起诉要求在排除合理怀疑的情况下，不仅要证明实施了特定行为，还要证明该行为是故意的。
虽然《刑法》中的许多罪行都可适用于恶意（甚至是严重疏忽）使用人工智能系统的行为，但这些罪行并不针对这种行为，而且将其适用于该技术的潜在用途具有一定的不确定性和新颖性。AIDA 规定了三项新的刑事犯罪，以直接禁止和处理令人担忧的特定行为。
这些刑事犯罪与上一节讨论的监管义务和相关罪行完全不同。这些刑事犯罪旨在禁止和惩罚与人工智能相关的明知或意识到自己正在造成或有可能造成损害的人所从事的活动。这三种罪行如下：
1.故意所有或使用非法获取的个人信息来设计、开发、使用或提供人工智能系统。这可能包括故意使用从数据泄露中获取的个人信息来训练人工智能系统。
2.明知或罔顾人工智能系统是否可能对财产造成严重损害或重大损害，但仍将其提供给他人使用，且其使用实际造成了此类损害或损害。
3.提供人工智能系统供使用，意图欺骗公众并给个人造成重大经济损失，而使用该系统实际上造成了这种损失。
这些罪行可由执法部门调查，并由加拿大检察院酌情起诉。
未来之路
AIDA 是最早提出的国家人工智能监管框架之一。它旨在保护个人和社区免受与高影响人工智能系统相关的不利影响，并支持加拿大经济负责任地发展和采用人工智能。它采用基于风险的方法，与欧盟的《人工智能法》草案保持一致，并将得到未来几年制定的行业标准的支持。
在 C-27 法案获得皇室批准后，政府打算对产业界、学术界、民间社会和加拿大各社区进行广泛而包容的征求意见，为 AIDA 及其法规的实施提供信息。预计这将包括：
（1）应被视为高影响人工智能系统的类型；
（2）在确保人工智能系统满足加拿大人的期望时应考虑的标准和认证类型；
（3）制定和执行法规方面的优先事项，包括有关 AMPs 计划的优先事项；
（4）工智能和数据专员的职责；以及
（5）咨询委员会的设立。
在此过程之后，政府将在《加拿大公报》第1 部分预先公布法规草案，并再次进行为期 60 天的征求意见。然后，最初的一套法规将在《加拿大公报》第2 部分公布。ISED 将在管理和执行该法的过程中继续评估法规的有效性。它还将与在人工智能领域开展业务的其他监管机构合作并提供支持，以确保加拿大人在各种监管背景下都能得到一致有效的保护。