指南发布背景Background
2024年1月，日本人工智能战略委员会于2024年1月发布了《人工智能运营商指南（草案）》。
2019 年 3 月，日本制定了《以人为本的人工智能社会原则》，旨在确保在促进人工智能利用的过程中不被滥用。与此同时，随着人工智能技术使用范围的扩大和这些领域用户的增多，风险也在增加。特别是在生成式人工智能方面，出现了过去人工智能不曾出现的侵犯知识产权、生成和传播虚假信息和错误信息等新的社会风险，人工智能带来的社会风险日趋多样化和增长化。
在此背景下，日本人工智能战略委员会发布的《人工智能运营商指南（草案）》，为日本的人工智能治理提供了统一的指导方针，以促进安全可靠地使用人工智能。这将鼓励那些在各种商业活动中利用人工智能的主体（包括人工智能研发者、提供者和使用者），根据国际趋势和利益相关者的关切，正确认识人工智能的风险，并与其他各方和利益相关者合作，在人工智能的整个生命周期中自愿实施必要的措施，从而实现创新并积极共同创建一个框架，通过与其他各方和利益相关方合作实施，既促进创新，又降低整个生命周期的风险。
指南的结构Structure
该指南提供一种从为什么、是什么和怎么做的解决方案。首先明确想要通过人工智能创建一个什么样的社会（基本原则=为什么），然后应当明确采取哪些与人工智能相关的措施（即指南或准则=是什么），以及为实现指南应采取哪些具体方法（即实践做法=怎么做）。考虑到文件的可读性，该指南在正文中阐述基本原则和指南，在附录中介绍实践做法，具体如下图所示：
指南的结构
该指南面向在各种商业活动中使用人工智能的所有人（包括政府和市政当局等公共机构）。另一方面，那些在其业务活动之外使用人工智能的人，或者那些享受人工智能系统和服务的好处但不在其业务中直接使用人工智能的人，在某些情况下会遭受损失（以下统称为 "非业务用户"），不包括在本指南范围内。
•人工智能研发者
研发人工智能系统的运营商（包括研究和研发人工智能的运营商）
通过研发人工智能模型和算法、数据收集（包括采购）、预处理、人工智能模型训练和验证实现人工智能。
•人工智能提供者
将人工智能系统作为嵌入到应用程序、产品或现有系统和业务流程中的服务提供给人工智能用户（人工智能企业用户），有时也提供给非企业用户的企业。
负责人工智能系统验证、实施人工智能系统与其他系统的集成、提供人工智能系统和服务、为人工智能系统正常运行的人工智能用户（人工智能业务用户）提供操作支持以及人工智能服务本身的运行。在提供人工智能服务的过程中，可能需要与利益相关者进行沟通。
•人工智能的使用（人工智能企业用户）
在商业活动中使用人工智能系统或人工智能服务的实体。
原则与准则Principle and Guideline
该指南的第2部分是通过人工智能实现的社会目标以及各行为主体应遵守的准则。在第2 部分中，“A. 基本原则”首先被描述为人工智能要实现的社会。还介绍了各行为主体为实现这些原则而应遵循的“B.原则”，以及由此衍生的“C.共同准则”。它还介绍了“D. 高级人工智能系统运营商的共同准则”，这是高级人工智能系统运营商应该遵循的。此外，还介绍了“E. 建立人工智能治理”，这对实践 “C. 共同准则”和安全可靠地利用人工智能非常重要。具体如下图所示：
指南的层级
A. 基本原则
在日本于 2019 年 3 月制定的《以人为本的人工智能社会原则》中，人工智能有望为实现社会 5.0 做出贡献。该原则还指出，必须将人工智能作为人类的公共产品加以利用，通过真正的创新，实现社会状态的质变和全球的可持续发展。它还出，应将以下三种价值观作为 “基本原则”加以尊重，并“建立一个追求实现这些价值观的社会”。
(i) 尊重人的尊严：社会（尊严）
与其建设一个人类过度依赖人工智能或利用人工智能来控制人类行为，以追求效率和便利的社会，不如建设一个人类通过掌握人工智能这一工具，进一步发展自身各种能力的社会，一个更大的有必要建立一个尊重人的尊严的社会，让人们能够通过发挥创造力和从事有意义的工作，过上物质和精神丰富的生活。
(ii) 多样性与包容性
一个拥有不同背景、价值观和思维方式的人可以追求不同幸福，并在灵活包容的基础上创造新价值的社会，是我们这个时代的理想和挑战之一，而人工智能这一强大的技术，可以成为让我们更接近这一理想的有力工具。我们需要通过人工智能的适当发展和部署，以这种方式改变社会的性质。
(iii) 可持续性
我们需要利用人工智能创造一个又一个业务和解决方案，消除社会差距，并朝着建设能够应对全球环境问题和气候变化等的可持续社会的方向发展。作为科技大国，日本有责任利用人工智能加强科技积累，为创造这样的社会做出贡献。
B. 原则
为了实现这些“基本原则”，每个行为主体都必须根据这些原则采取行动，为此，每个行为者心目中的“原则”被组织成每个行为主体应处理的准则和应与社会合作处理的事项。这些原则以“以人为本的人工智能社会原则”为基础，并根据“经合组织人工智能原则”和其他外部原则进行了重组。
对于每个行为主体来说，重要的是要根据基本原则衍生出的以人为本的方法，促进人工智能系统和服务的研发、提供和使用，并实现人工智能的目标，如创造商业价值和解决社会问题，同时尊重人的尊严。因此，各行为主体必须确保安全和公平等价值观，以降低与使用人工智能相关的社会风险。此外，还必须确保隐私保护（包括防止个人信息的不当使用）和安全性，以应对因系统漏洞和外部攻击而导致的可用性降低等风险。为了实现上述目标，每个主体都必须提高透明度和履行问责制，向利益相关方提供适当信息，同时确保系统的可验证性。此外，考虑到随着人工智能架构的多样化，产业链可能会发生变化，每个参与主体的角色在未来都有可能发生变化，因此各参与主体必须共同努力，提高整个产业链中人工智能的质量。
重要的是，这些措施是在自愿的基础上采取的，考虑到每个行为主体将要研发、提供和使用的人工智能系统和服务的特点、用途、目标和社会背景，并考虑到每个行为的资源系统。通过采取这些措施，预计每个行为主体都将通过研发、提供和使用人工智能系统和服务获得最大利益，同时最大限度地降低人工智能的风险。
为了增加人工智能给社会带来的惠益，实现我们应该追求的理想，除了每个行为者的个人努力之外，还希望他们与社会（包括政府、地方当局和社区）积极合作。为此，每个行动者都应与社会合作，提供教育和提升公众素养的机会，避免社会隔阂，确保所有 人都能享受到人工智能带来的好处。此外，他们还应为确保公平竞争和促进创新做出贡献，从而创建新的企业和服务，保持可持续的经济增长，并为社会问题提供解决方案。
C. 共同准则
人工智能产业链中的各参与主体应遵守如下共同的准则：
1）以人类为中心
每个行为主体都应确保人工智能系统和服务的研发、提供和使用至少不违反宪法保障或国际公认的人权，并以此为基础处理所有事项，包括下文讨论的每个事项。同样重要的是，要以人工智能扩展人们能力的方式行事，使不同的人能够追求不同的福祉。
(i) 人的尊严和个人自主。
尊重人的尊严和个人自主权，同时考虑到使用人工智能的社会环境，特别是当人工智能与人类大脑/身体相联系时，同时考虑到周围技术的信息，参考外国和研究机构等关于生物伦理的讨论。在可能对个人权利和利益产生重大影响的领域使用人工智能进行特征分析时，要尊重个人的尊严，仔细考虑可能产生的任何不利因素，不要将特征分析用于不适当的目的。
(ii) 关注人工智能的决策和情感操控等。
人工智能系统和服务的研发、提供或使用不得以无理操纵人类决策、认知或其他情感为目的或基础。采取必要措施，防止在研发、提供和使用人工智能系统和服务时过度依赖人工智能的风险，如自动化偏差。
谨防人工智能的使用助长信息和价值倾斜（如过滤泡沫），限制人类（包括人工智能用户）本应拥有的选择权。
仔细考虑人工智能的输出，特别是在它们可能与具有重大社会影响的流程相关时， 包括选举和社区决策
(iii) 防范虚假信息等的措施
采取必要措施，认识到人工智能生成的虚假信息、错误信息和有偏见的信息正在增加破坏社会稳定和扰乱社会的风险，因为任何人都可以创造假装真实和内容公正的信息。
(iv) 确保多样性和包容性
除了确保公平外，还必须确保更多的人能够使用人工智能，而不会造成所谓的 "信息或技术贫困"。注意为社会弱势群体使用人工智能提供便利，使他们能够从人工智能中受益。如确保通用设计和无障碍环境，对相关利益相关方教育并采取后续行动等。
(v) 用户支持
在合理的范围内，应提供有关人工智能系统和服务的功能及其外围技术的信息，并及时提供适当的选择机会。例如设置默认值、提供易于理解的选项、提供反馈、紧急警报、处理错误等。
(vi) 确保可持续性。
在研发、提供和使用人工智能系统和服务的整个生命周期中，也要考虑 对全球环境的影响。在此基础上，每个行为主体都应尽可能提高人工智能的性能（实用性），为人们带来益处和财富，实现他们的福祉。
2）安全保障
每个行为主体都应确保人工智能系统和服务的研发、提供和使用不会对人工智能所涉人员的生命、精神、身体或财产造成伤害。此外，还必须确保不对环境造成危害。
(i) 关爱人的生命、身心、财产和环境。
人工智能的运行符合要求，包括其输出的准确性（可靠性）
在各种情况下保持性能水平，并确保不会对无关事件做出明显错误的判断（稳健性）。
以下是需要考虑的一些问题：
（a）根据人工智能的性质和用途，确认人工智能的可控性，包括必要时的客观监控和处理，包括可能侵权的严重性，以及使用人工智能或人工智能非预期行为等造成侵权的可能性。
（b）进行适当的风险分析并采取措施应对风险
（c）如果存在对人的生命、精神、身体或财产以及环境造成危害的风险，应事先组织采取措 施，并向所有参与人工智能的人员提供相关信息。例如明确相关利益相关方应采取的措施和使用规则
（d）考虑如何处理可能危及人工智能系统和服务安全的情况，并为在发生此类情况时迅速实施做好准备。
(ii) 适当使用
研发、提供和使用人工智能系统和服务，以避免在主体控制范围内因提供和使用偏离初衷而造成伤害。
(iii) 适当的学习
根据人工智能系统/服务的特点和用途，考虑用于学习等的数据的准确性，并在必要时考虑数据的最新性（即数据是适当的）。
支持用于学习等的数据和法律框架的透明度，在合理范围内酌情更新人工智能模型等。
3）公平性
重要的是，每个行为主体在研发、提供和使用人工智能系统和服务时，应尽量减少因种族、性别、国籍、年龄、政治信仰、宗教或其他不同背景而对特定个人或群体产生的不合理和有害的偏见和歧视。此外，每个行为主体都应注意尽量减少潜在的偏见，同时认识到仍然存在无法避免的偏见，并应从尊重人权和不同文化的角度考虑这些无法避免的偏见。
重要的是，要在评估人工智能系统和服务是否可接受之后再研发、提供和使用它们。
(i) 分配给人工智能模型的每个技术要素所包含的偏差
由于可能产生不适当偏差的因素范围很广，包括每个技术要素（如训练数据、 模型的训练过程、人工智能用户输入的提示、人工智能模型推理过程中参考的信息以及与之相连的外部服务等）和用户行为，这可能是一个公平性问 题。根据人工智能系统和服务的特点和用途，考虑可能出现的偏差
(ii) 人类的判断
人工智能的输出结果不仅要由人工智能单独判断，还要由人类进行判断，以确保结果不会有失偏颇。
实施流程，以清晰透明的方式分析和处理人工智能系统和服务的目标、控制、要求和决定，以确保不引入偏见。
注意无意识的和潜在的偏见，在与来自不同背景、文化和学科的利益相关者互动后做出政策决定。
4）隐私保护
在研发、提供和使用人工智能系统和服务时，每个行为主体都必须根据其重要性尊重和保护隐私。在此过程中，他们应遵守相关法律法规。
(i) 保护人工智能系统、服务中的隐私
⯎ 采取与包括各行为主体在内的利益相关者隐私的重要性相适应的措施，确保他们的隐私得到尊重和保护，同时考虑到社会环境和人们的合理期望，为此制定并公布各行为主体的隐私政策，满足其他相关法律法规，包括《个人信息保护法》、参考国际个人数据保护原则和标准。
5）安全
每个行为主体都必须确保研发、提供和使用人工智能系统和服务的安全性，从而使人工智能的行为不会因外部操纵而被无意改变或停止。
(i) 影响人工智能系统和服务的安全措施
根据当前技术水平采取合理措施，维护人工智能系统和服务的保密性、完整性和可用性，并确保始终安全使用人工智能。
了解人工智能系统和服务的特点，并考虑系统之间的连接是否足以保证正常运行。
认识到人工智能系统和服务中的漏洞不可能完全消除，因为在推断数据时可能会引入细微信息，从而导致相关利益相关方做出非预期判断。
(ii) 关注最新动态。
针对人工智能系统和服务的外部攻击每天都在创造新的方法，我们将回顾应对这些风险的注意事项。
6）透明性
(i) 确认可核查性
为了确保人工智能判断的可验证性，应根据数据量和内容，包括人工智能系统和服务的研发过程以及使用过程中的输入/输出等，合理记录和保存人工智能的学习过程、推理过程和判断依据等。
(ii) 向相关利益相关方提供信息
根据自己的知识和能力，结合与人工智能的关系、人工智能的性质和目的等，提供以下方面的信息和解释。如一般人工智能系统和服务，包括：数据收集和注释方法，学习和评估方法，有关基础人工智能模型的信息，提供者使用人工智能系统/服务的能力、局限性和恰当/不恰当使用，在提供人工智能系统/服务或人工智能用户所在国家/地区适用的相关法律法规。
鼓励通过与不同利益相关方对话积极参与，并收集有关社会影响和安全的各种意见，
此外，根据实际情况向相关利益相关方展示提供和使用人工智能系统和服务的优势
(iii) 合理与诚实
上述 "向相关利益方提供信息 "并不假定要披露算法或源代码，而是要根据所使用技术的特点和用途，在尊重隐私和商业秘密的前提下，在社会合理的范围内进行。
在使用公开可用的技术时，遵守相关规定。
在开源已研发的人工智能系统时也要考虑社会影响。
（v） 加强对相关利益相关方的问责和可解释性
分析和了解需要做出哪些解释，并采取必要行动，目的是让相关利益相关方感到信任和放心，并为此提出人工智能运作的证据。如人工智能提供者：与人工智能研发者分享如何向他们介绍情况；人工智能用户：与人工智能研发者和人工智能提供者分享他们需要哪些解释。
7）问责性
在研发、提供和使用人工智能系统和服务的过程中，考虑到每个行为主体的作用及其研发、提供和使用的人工智能系统和服务所带来的风险程度，每个行为主体必须在确认可追溯性和遵守共同准则的状况方面，在合理的范围内履行对利益相关方的责任。
(i) 提高可追溯性。
确保在研发、提供和使用人工智能系统和服务期间所做的数据和决策的来源在技术上可能和合理的范围内是可追溯的。
(ii) 解释遵守共同准则的情况。
根据利益相关方（包括供应商）各自的知识和能力，定期向其提供并简要介 绍遵守共同准则的情况，例如，汇编以下资料：
a.通用
评估是否以及在多大程度上存在妨碍实施共同准则的风险。
在实施共同准则方面取得进展。
b.与“以人为本”相关。
确保关注虚假信息、多样性和包容性、用户支持和可持续性的措施情况。
c.与“安全 ”相关。
人工智能系统和服务的已知风险和应对措施，以及安全保障机制。
d.与“公正”相关。
人工智能模型的每个技术组件（如训练数据、模型的训练过程、人工智能用户输入的提示信息、人工智能模型推理过程中参考的信息以及与其关联的外部服务等）都可能包含偏差。
e.与“隐私保护”相关
人工智能系统/服务侵犯自身和利益相关者隐私的风险和应对措施，以及在隐私受到侵犯时预计采取的措施。
f.与 "公平竞争 "相关。
人工智能系统/服务的互操作性以及与其他系统的联系，例如为促进这种联系而需要遵守的标准。人工智能系统/服务通过互联网与其他人工智能系统/服务等连接时可能产生的潜在风险，以及应对措施。
(iii) 明确指出责任方。
在每个实体设立一名负责问责的人员
(iv)有关各方之间的责任分配。
明确相关参与主体（包括非工作用户）的责任和社会承诺（自愿承诺）。
(v) 对利益相关方的具体回应。
必要时，为各行为主体制定和发布人工智能治理政策和隐私政策等政策，以管理与使用人工智能系统和服务相关的风险，并确保安全（包括社会责任，如分享愿景以及向社会和公众传播和提供信息）。
必要时，为利益相关者提供机会，指出人工智能输出中的错误等，并进行客观监督。
就如何应对损害利益相关者利益的情况制定政策，并稳步实施，必要时定期向利益相关者报告进展情况。
(vi) 记录。
记录和保存有关上述内容的信息，并在需要时以可获取和适合使用的形式提供参考。
每个行动者与社会合作解决的问题具体安排如下：
7）教育和公众素养
每个行为主体都应提供必要的教育，以确保每个参与人工智能的人具备 正确理解和在社会上正确使用人工智能的知识、素养和道德。每个行为主体也应教育其利益相关方，同时考虑到人工智能的特点，如其复杂性和信息错误，以及故意滥用的可能性。
(i)提升公众的人工智能素养。
采取必要措施，确保每个实体内参与人工智能的人员在参与过程中具备足够的人工智能知识水平。
(ii) 教育和风险
随着人工智能使用的增加，预计将改变人工智能和人类工作的分离，因此应考虑通过教育、再训练等来实现新的工作方式。
(iii) 与利益相关方开展后续行动。
必要时，与利益相关者一起开展后续教育和提高公众意识的活动，以提高人工智能服务的整体安全性。
9）确保公平竞争
每个行为主体都应努力围绕人工智能维持公平的竞争环境，从而创建利用人工智能的新企业和服务，保持可持续的经济增长，并提出社会问题的解决方案。
10）创新
每个行动者都应努力为促进整个社会的创新做出贡献。
(i) 促进开放式创新等
促进国际化和多样化、产学政合作和开放式创新。
维护一个可以生成人工智能创新所需数据的环境。
(ii) 关注互联性和互操作性
确保自己的人工智能系统/服务与其他人工智能系统/服务之间的互联互通。
(iii) 适当的信息
在不影响自身创新的前提下提供必要的信息。
D）高级人工智能开发和提供的行为准则
具体参见本公众号翻译的《AI专题｜G7发布人工智能的国际指导原则和行为守则》
E）人工智能治理
为了与其他参与行为主体合作，在整个产业链中实施 "共同准则"，并安全可靠地利用人工智能，必须建立人工智能治理，以便在利益相关者可接受的水平上管理与人工智能相关的风险，同时最大限度地从中获益。为了实现 "社会 5.0"，还必须构建适当的人工智能治理，同时促进社会实施网络空间和物理空间（CPS）高度融合的系统、随着社会的变化，人工智能治理所要实现的目标也会不断变化。因此，在企业、法律法规、基础设施、市场和社会规范等各种治理体系中，不需要事先制定固定规则和流程的人工智能治理，而是需要 "环境和风险分析"、"目标设定"、"体系设计"、"运行 "和 "评估 "等多方利益相关者的循环。在 "敏捷治理 "的实践中，"环境与风险分析"、"目标设定"、"体系设计"、"运行 "和 "评估 "等周期由多个利益相关者持续、快速地轮换进行，这一点非常重要。
在考虑具体情况时，必须考虑到有待研发、提供和使用的人工智能所带来的风险程度和概率，以及每个行为主体的资源系统。
(i) 首先，应根据人工智能系统/服务在整个生命周期内可能带来的效益/风险、社会对其研发和运行的接受程度、外部环境的变化和人工智能的熟练程度等，进行与目标人工智能系统/服务相关的“环境和风险分析”。
(ii) 在此基础上，确定是否研发、提供或使用人工智能系统和服务，如果要研发、提供或使用，则考虑通过制定人工智能治理政策等“确定人工智能治理目标”。目标的设定应符合各行为主体存在的意义、理念和愿景。
(iii) 此外，人工智能治理体系应为实现这些目标而设计，然后投入运行。在此过程中，各行为主体应确保在人工智能治理目标及其运行状况方面 "对外部利益相关方的透明度和问责制（如公平性）"。
(iv)在此基础上，对人工智能治理体系进行持续监控，以确保其有效运作，包括通过风险评估等，并进行“评估”和持续改进。
(v)即使在人工智能系统/服务投入使用后，也要根据“外部环境的变化”，如法规和其他社会制度的变化，再次进行“环境和风险分析”，并在必要时修订目标。
敏捷治理的模式
在考虑人工智能治理时，还必须牢记产业链，并牢记以下几点
a.从价值/风险角度确保机构间合作
跨越多个行为主体的问题：了解人工智能风险、提高质量、通过将每个人工智能系统/服务（系统之系统）相互连接来创造新价值、提高人工智能用户素养等。
参与主体之间可能需要解决的问题：与训练数据/生成的人工智能模型有关的权利关系
b. 明确风险链，包括数据分配，以及适合研发、提供和使用各阶段的风险管理、
c. 建立人工智能治理结构
国际人工智能治理，以确保数据的自由跨境传输（数据自由流动与信任，以下简称 "DFFT"），因为从人工智能研发到服务实施的价值/风险链预计将跨越多个国家。社会考虑因素的现状以及基于这些因素的互操作性(“标准”和“框架之间的互操作性”两个方面）。
为了使这些举措行之有效，经济部门必须发挥领导作用。在此过程中，重要的是不要把它们仅仅视为追求短期利润的成本，而应视为面向各实体可持续增长和中长期发展的前期投资。在这样的领导下，预计人工智能治理将作为一种文化在每个组织扎根，具体做法是将人工智能治理纳入每个组织的战略和公司结构，同时重复上述循环。
各行为主体的准则
人工智能的研发者、提供者、使用者在遵守上述通用准则以外，应当结合其在产业链里的角色规定特定的行为准则：
2024年1月，日本人工智能战略委员会于2024年1月发布了《人工智能运营商指南（草案）》。
2019 年 3 月，日本制定了《以人为本的人工智能社会原则》，旨在确保在促进人工智能利用的过程中不被滥用。与此同时，随着人工智能技术使用范围的扩大和这些领域用户的增多，风险也在增加。特别是在生成式人工智能方面，出现了过去人工智能不曾出现的侵犯知识产权、生成和传播虚假信息和错误信息等新的社会风险，人工智能带来的社会风险日趋多样化和增长化。
在此背景下，日本人工智能战略委员会发布的《人工智能运营商指南（草案）》，为日本的人工智能治理提供了统一的指导方针，以促进安全可靠地使用人工智能。这将鼓励那些在各种商业活动中利用人工智能的主体（包括人工智能研发者、提供者和使用者），根据国际趋势和利益相关者的关切，正确认识人工智能的风险，并与其他各方和利益相关者合作，在人工智能的整个生命周期中自愿实施必要的措施，从而实现创新并积极共同创建一个框架，通过与其他各方和利益相关方合作实施，既促进创新，又降低整个生命周期的风险。
指南的结构Structure
该指南提供一种从为什么、是什么和怎么做的解决方案。首先明确想要通过人工智能创建一个什么样的社会（基本原则=为什么），然后应当明确采取哪些与人工智能相关的措施（即指南或准则=是什么），以及为实现指南应采取哪些具体方法（即实践做法=怎么做）。考虑到文件的可读性，该指南在正文中阐述基本原则和指南，在附录中介绍实践做法，具体如下图所示：
指南的结构
该指南面向在各种商业活动中使用人工智能的所有人（包括政府和市政当局等公共机构）。另一方面，那些在其业务活动之外使用人工智能的人，或者那些享受人工智能系统和服务的好处但不在其业务中直接使用人工智能的人，在某些情况下会遭受损失（以下统称为 "非业务用户"），不包括在本指南范围内。
•人工智能研发者
研发人工智能系统的运营商（包括研究和研发人工智能的运营商）
通过研发人工智能模型和算法、数据收集（包括采购）、预处理、人工智能模型训练和验证实现人工智能。
•人工智能提供者
将人工智能系统作为嵌入到应用程序、产品或现有系统和业务流程中的服务提供给人工智能用户（人工智能企业用户），有时也提供给非企业用户的企业。
负责人工智能系统验证、实施人工智能系统与其他系统的集成、提供人工智能系统和服务、为人工智能系统正常运行的人工智能用户（人工智能业务用户）提供操作支持以及人工智能服务本身的运行。在提供人工智能服务的过程中，可能需要与利益相关者进行沟通。
•人工智能的使用（人工智能企业用户）
在商业活动中使用人工智能系统或人工智能服务的实体。
原则与准则Principle and Guideline
该指南的第2部分是通过人工智能实现的社会目标以及各行为主体应遵守的准则。在第2 部分中，“A. 基本原则”首先被描述为人工智能要实现的社会。还介绍了各行为主体为实现这些原则而应遵循的“B.原则”，以及由此衍生的“C.共同准则”。它还介绍了“D. 高级人工智能系统运营商的共同准则”，这是高级人工智能系统运营商应该遵循的。此外，还介绍了“E. 建立人工智能治理”，这对实践 “C. 共同准则”和安全可靠地利用人工智能非常重要。具体如下图所示：
指南的层级
A. 基本原则
在日本于 2019 年 3 月制定的《以人为本的人工智能社会原则》中，人工智能有望为实现社会 5.0 做出贡献。该原则还指出，必须将人工智能作为人类的公共产品加以利用，通过真正的创新，实现社会状态的质变和全球的可持续发展。它还出，应将以下三种价值观作为 “基本原则”加以尊重，并“建立一个追求实现这些价值观的社会”。
(i) 尊重人的尊严：社会（尊严）
与其建设一个人类过度依赖人工智能或利用人工智能来控制人类行为，以追求效率和便利的社会，不如建设一个人类通过掌握人工智能这一工具，进一步发展自身各种能力的社会，一个更大的有必要建立一个尊重人的尊严的社会，让人们能够通过发挥创造力和从事有意义的工作，过上物质和精神丰富的生活。
(ii) 多样性与包容性
一个拥有不同背景、价值观和思维方式的人可以追求不同幸福，并在灵活包容的基础上创造新价值的社会，是我们这个时代的理想和挑战之一，而人工智能这一强大的技术，可以成为让我们更接近这一理想的有力工具。我们需要通过人工智能的适当发展和部署，以这种方式改变社会的性质。
(iii) 可持续性
我们需要利用人工智能创造一个又一个业务和解决方案，消除社会差距，并朝着建设能够应对全球环境问题和气候变化等的可持续社会的方向发展。作为科技大国，日本有责任利用人工智能加强科技积累，为创造这样的社会做出贡献。
B. 原则
为了实现这些“基本原则”，每个行为主体都必须根据这些原则采取行动，为此，每个行为者心目中的“原则”被组织成每个行为主体应处理的准则和应与社会合作处理的事项。这些原则以“以人为本的人工智能社会原则”为基础，并根据“经合组织人工智能原则”和其他外部原则进行了重组。
对于每个行为主体来说，重要的是要根据基本原则衍生出的以人为本的方法，促进人工智能系统和服务的研发、提供和使用，并实现人工智能的目标，如创造商业价值和解决社会问题，同时尊重人的尊严。因此，各行为主体必须确保安全和公平等价值观，以降低与使用人工智能相关的社会风险。此外，还必须确保隐私保护（包括防止个人信息的不当使用）和安全性，以应对因系统漏洞和外部攻击而导致的可用性降低等风险。为了实现上述目标，每个主体都必须提高透明度和履行问责制，向利益相关方提供适当信息，同时确保系统的可验证性。此外，考虑到随着人工智能架构的多样化，产业链可能会发生变化，每个参与主体的角色在未来都有可能发生变化，因此各参与主体必须共同努力，提高整个产业链中人工智能的质量。
重要的是，这些措施是在自愿的基础上采取的，考虑到每个行为主体将要研发、提供和使用的人工智能系统和服务的特点、用途、目标和社会背景，并考虑到每个行为的资源系统。通过采取这些措施，预计每个行为主体都将通过研发、提供和使用人工智能系统和服务获得最大利益，同时最大限度地降低人工智能的风险。
为了增加人工智能给社会带来的惠益，实现我们应该追求的理想，除了每个行为者的个人努力之外，还希望他们与社会（包括政府、地方当局和社区）积极合作。为此，每个行动者都应与社会合作，提供教育和提升公众素养的机会，避免社会隔阂，确保所有 人都能享受到人工智能带来的好处。此外，他们还应为确保公平竞争和促进创新做出贡献，从而创建新的企业和服务，保持可持续的经济增长，并为社会问题提供解决方案。
C. 共同准则
人工智能产业链中的各参与主体应遵守如下共同的准则：
1）以人类为中心
每个行为主体都应确保人工智能系统和服务的研发、提供和使用至少不违反宪法保障或国际公认的人权，并以此为基础处理所有事项，包括下文讨论的每个事项。同样重要的是，要以人工智能扩展人们能力的方式行事，使不同的人能够追求不同的福祉。
(i) 人的尊严和个人自主。
尊重人的尊严和个人自主权，同时考虑到使用人工智能的社会环境，特别是当人工智能与人类大脑/身体相联系时，同时考虑到周围技术的信息，参考外国和研究机构等关于生物伦理的讨论。在可能对个人权利和利益产生重大影响的领域使用人工智能进行特征分析时，要尊重个人的尊严，仔细考虑可能产生的任何不利因素，不要将特征分析用于不适当的目的。
(ii) 关注人工智能的决策和情感操控等。
人工智能系统和服务的研发、提供或使用不得以无理操纵人类决策、认知或其他情感为目的或基础。采取必要措施，防止在研发、提供和使用人工智能系统和服务时过度依赖人工智能的风险，如自动化偏差。
谨防人工智能的使用助长信息和价值倾斜（如过滤泡沫），限制人类（包括人工智能用户）本应拥有的选择权。
仔细考虑人工智能的输出，特别是在它们可能与具有重大社会影响的流程相关时， 包括选举和社区决策
(iii) 防范虚假信息等的措施
采取必要措施，认识到人工智能生成的虚假信息、错误信息和有偏见的信息正在增加破坏社会稳定和扰乱社会的风险，因为任何人都可以创造假装真实和内容公正的信息。
(iv) 确保多样性和包容性
除了确保公平外，还必须确保更多的人能够使用人工智能，而不会造成所谓的 "信息或技术贫困"。注意为社会弱势群体使用人工智能提供便利，使他们能够从人工智能中受益。如确保通用设计和无障碍环境，对相关利益相关方教育并采取后续行动等。
(v) 用户支持
在合理的范围内，应提供有关人工智能系统和服务的功能及其外围技术的信息，并及时提供适当的选择机会。例如设置默认值、提供易于理解的选项、提供反馈、紧急警报、处理错误等。
(vi) 确保可持续性。
在研发、提供和使用人工智能系统和服务的整个生命周期中，也要考虑 对全球环境的影响。在此基础上，每个行为主体都应尽可能提高人工智能的性能（实用性），为人们带来益处和财富，实现他们的福祉。
2）安全保障
每个行为主体都应确保人工智能系统和服务的研发、提供和使用不会对人工智能所涉人员的生命、精神、身体或财产造成伤害。此外，还必须确保不对环境造成危害。
(i) 关爱人的生命、身心、财产和环境。
人工智能的运行符合要求，包括其输出的准确性（可靠性）
在各种情况下保持性能水平，并确保不会对无关事件做出明显错误的判断（稳健性）。
以下是需要考虑的一些问题：
（a）根据人工智能的性质和用途，确认人工智能的可控性，包括必要时的客观监控和处理，包括可能侵权的严重性，以及使用人工智能或人工智能非预期行为等造成侵权的可能性。
（b）进行适当的风险分析并采取措施应对风险
（c）如果存在对人的生命、精神、身体或财产以及环境造成危害的风险，应事先组织采取措 施，并向所有参与人工智能的人员提供相关信息。例如明确相关利益相关方应采取的措施和使用规则
（d）考虑如何处理可能危及人工智能系统和服务安全的情况，并为在发生此类情况时迅速实施做好准备。
(ii) 适当使用
研发、提供和使用人工智能系统和服务，以避免在主体控制范围内因提供和使用偏离初衷而造成伤害。
(iii) 适当的学习
根据人工智能系统/服务的特点和用途，考虑用于学习等的数据的准确性，并在必要时考虑数据的最新性（即数据是适当的）。
支持用于学习等的数据和法律框架的透明度，在合理范围内酌情更新人工智能模型等。
3）公平性
重要的是，每个行为主体在研发、提供和使用人工智能系统和服务时，应尽量减少因种族、性别、国籍、年龄、政治信仰、宗教或其他不同背景而对特定个人或群体产生的不合理和有害的偏见和歧视。此外，每个行为主体都应注意尽量减少潜在的偏见，同时认识到仍然存在无法避免的偏见，并应从尊重人权和不同文化的角度考虑这些无法避免的偏见。
重要的是，要在评估人工智能系统和服务是否可接受之后再研发、提供和使用它们。
(i) 分配给人工智能模型的每个技术要素所包含的偏差
由于可能产生不适当偏差的因素范围很广，包括每个技术要素（如训练数据、 模型的训练过程、人工智能用户输入的提示、人工智能模型推理过程中参考的信息以及与之相连的外部服务等）和用户行为，这可能是一个公平性问 题。根据人工智能系统和服务的特点和用途，考虑可能出现的偏差
(ii) 人类的判断
人工智能的输出结果不仅要由人工智能单独判断，还要由人类进行判断，以确保结果不会有失偏颇。
实施流程，以清晰透明的方式分析和处理人工智能系统和服务的目标、控制、要求和决定，以确保不引入偏见。
注意无意识的和潜在的偏见，在与来自不同背景、文化和学科的利益相关者互动后做出政策决定。
4）隐私保护
在研发、提供和使用人工智能系统和服务时，每个行为主体都必须根据其重要性尊重和保护隐私。在此过程中，他们应遵守相关法律法规。
(i) 保护人工智能系统、服务中的隐私
⯎ 采取与包括各行为主体在内的利益相关者隐私的重要性相适应的措施，确保他们的隐私得到尊重和保护，同时考虑到社会环境和人们的合理期望，为此制定并公布各行为主体的隐私政策，满足其他相关法律法规，包括《个人信息保护法》、参考国际个人数据保护原则和标准。
5）安全
每个行为主体都必须确保研发、提供和使用人工智能系统和服务的安全性，从而使人工智能的行为不会因外部操纵而被无意改变或停止。
(i) 影响人工智能系统和服务的安全措施
根据当前技术水平采取合理措施，维护人工智能系统和服务的保密性、完整性和可用性，并确保始终安全使用人工智能。
了解人工智能系统和服务的特点，并考虑系统之间的连接是否足以保证正常运行。
认识到人工智能系统和服务中的漏洞不可能完全消除，因为在推断数据时可能会引入细微信息，从而导致相关利益相关方做出非预期判断。
(ii) 关注最新动态。
针对人工智能系统和服务的外部攻击每天都在创造新的方法，我们将回顾应对这些风险的注意事项。
6）透明性
(i) 确认可核查性
为了确保人工智能判断的可验证性，应根据数据量和内容，包括人工智能系统和服务的研发过程以及使用过程中的输入/输出等，合理记录和保存人工智能的学习过程、推理过程和判断依据等。
(ii) 向相关利益相关方提供信息
根据自己的知识和能力，结合与人工智能的关系、人工智能的性质和目的等，提供以下方面的信息和解释。如一般人工智能系统和服务，包括：数据收集和注释方法，学习和评估方法，有关基础人工智能模型的信息，提供者使用人工智能系统/服务的能力、局限性和恰当/不恰当使用，在提供人工智能系统/服务或人工智能用户所在国家/地区适用的相关法律法规。
鼓励通过与不同利益相关方对话积极参与，并收集有关社会影响和安全的各种意见，
此外，根据实际情况向相关利益相关方展示提供和使用人工智能系统和服务的优势
(iii) 合理与诚实
上述 "向相关利益方提供信息 "并不假定要披露算法或源代码，而是要根据所使用技术的特点和用途，在尊重隐私和商业秘密的前提下，在社会合理的范围内进行。
在使用公开可用的技术时，遵守相关规定。
在开源已研发的人工智能系统时也要考虑社会影响。
（v） 加强对相关利益相关方的问责和可解释性
分析和了解需要做出哪些解释，并采取必要行动，目的是让相关利益相关方感到信任和放心，并为此提出人工智能运作的证据。如人工智能提供者：与人工智能研发者分享如何向他们介绍情况；人工智能用户：与人工智能研发者和人工智能提供者分享他们需要哪些解释。
7）问责性
在研发、提供和使用人工智能系统和服务的过程中，考虑到每个行为主体的作用及其研发、提供和使用的人工智能系统和服务所带来的风险程度，每个行为主体必须在确认可追溯性和遵守共同准则的状况方面，在合理的范围内履行对利益相关方的责任。
(i) 提高可追溯性。
确保在研发、提供和使用人工智能系统和服务期间所做的数据和决策的来源在技术上可能和合理的范围内是可追溯的。
(ii) 解释遵守共同准则的情况。
根据利益相关方（包括供应商）各自的知识和能力，定期向其提供并简要介 绍遵守共同准则的情况，例如，汇编以下资料：
a.通用
评估是否以及在多大程度上存在妨碍实施共同准则的风险。
在实施共同准则方面取得进展。
b.与“以人为本”相关。
确保关注虚假信息、多样性和包容性、用户支持和可持续性的措施情况。
c.与“安全 ”相关。
人工智能系统和服务的已知风险和应对措施，以及安全保障机制。
d.与“公正”相关。
人工智能模型的每个技术组件（如训练数据、模型的训练过程、人工智能用户输入的提示信息、人工智能模型推理过程中参考的信息以及与其关联的外部服务等）都可能包含偏差。
e.与“隐私保护”相关
人工智能系统/服务侵犯自身和利益相关者隐私的风险和应对措施，以及在隐私受到侵犯时预计采取的措施。
f.与 "公平竞争 "相关。
人工智能系统/服务的互操作性以及与其他系统的联系，例如为促进这种联系而需要遵守的标准。人工智能系统/服务通过互联网与其他人工智能系统/服务等连接时可能产生的潜在风险，以及应对措施。
(iii) 明确指出责任方。
在每个实体设立一名负责问责的人员
(iv)有关各方之间的责任分配。
明确相关参与主体（包括非工作用户）的责任和社会承诺（自愿承诺）。
(v) 对利益相关方的具体回应。
必要时，为各行为主体制定和发布人工智能治理政策和隐私政策等政策，以管理与使用人工智能系统和服务相关的风险，并确保安全（包括社会责任，如分享愿景以及向社会和公众传播和提供信息）。
必要时，为利益相关者提供机会，指出人工智能输出中的错误等，并进行客观监督。
就如何应对损害利益相关者利益的情况制定政策，并稳步实施，必要时定期向利益相关者报告进展情况。
(vi) 记录。
记录和保存有关上述内容的信息，并在需要时以可获取和适合使用的形式提供参考。
每个行动者与社会合作解决的问题具体安排如下：
7）教育和公众素养
每个行为主体都应提供必要的教育，以确保每个参与人工智能的人具备 正确理解和在社会上正确使用人工智能的知识、素养和道德。每个行为主体也应教育其利益相关方，同时考虑到人工智能的特点，如其复杂性和信息错误，以及故意滥用的可能性。
(i)提升公众的人工智能素养。
采取必要措施，确保每个实体内参与人工智能的人员在参与过程中具备足够的人工智能知识水平。
(ii) 教育和风险
随着人工智能使用的增加，预计将改变人工智能和人类工作的分离，因此应考虑通过教育、再训练等来实现新的工作方式。
(iii) 与利益相关方开展后续行动。
必要时，与利益相关者一起开展后续教育和提高公众意识的活动，以提高人工智能服务的整体安全性。
9）确保公平竞争
每个行为主体都应努力围绕人工智能维持公平的竞争环境，从而创建利用人工智能的新企业和服务，保持可持续的经济增长，并提出社会问题的解决方案。
10）创新
每个行动者都应努力为促进整个社会的创新做出贡献。
(i) 促进开放式创新等
促进国际化和多样化、产学政合作和开放式创新。
维护一个可以生成人工智能创新所需数据的环境。
(ii) 关注互联性和互操作性
确保自己的人工智能系统/服务与其他人工智能系统/服务之间的互联互通。
(iii) 适当的信息
在不影响自身创新的前提下提供必要的信息。
D）高级人工智能开发和提供的行为准则
具体参见本公众号翻译的《AI专题｜G7发布人工智能的国际指导原则和行为守则》
E）人工智能治理
为了与其他参与行为主体合作，在整个产业链中实施 "共同准则"，并安全可靠地利用人工智能，必须建立人工智能治理，以便在利益相关者可接受的水平上管理与人工智能相关的风险，同时最大限度地从中获益。为了实现 "社会 5.0"，还必须构建适当的人工智能治理，同时促进社会实施网络空间和物理空间（CPS）高度融合的系统、随着社会的变化，人工智能治理所要实现的目标也会不断变化。因此，在企业、法律法规、基础设施、市场和社会规范等各种治理体系中，不需要事先制定固定规则和流程的人工智能治理，而是需要 "环境和风险分析"、"目标设定"、"体系设计"、"运行 "和 "评估 "等多方利益相关者的循环。在 "敏捷治理 "的实践中，"环境与风险分析"、"目标设定"、"体系设计"、"运行 "和 "评估 "等周期由多个利益相关者持续、快速地轮换进行，这一点非常重要。
在考虑具体情况时，必须考虑到有待研发、提供和使用的人工智能所带来的风险程度和概率，以及每个行为主体的资源系统。
(i) 首先，应根据人工智能系统/服务在整个生命周期内可能带来的效益/风险、社会对其研发和运行的接受程度、外部环境的变化和人工智能的熟练程度等，进行与目标人工智能系统/服务相关的“环境和风险分析”。
(ii) 在此基础上，确定是否研发、提供或使用人工智能系统和服务，如果要研发、提供或使用，则考虑通过制定人工智能治理政策等“确定人工智能治理目标”。目标的设定应符合各行为主体存在的意义、理念和愿景。
(iii) 此外，人工智能治理体系应为实现这些目标而设计，然后投入运行。在此过程中，各行为主体应确保在人工智能治理目标及其运行状况方面 "对外部利益相关方的透明度和问责制（如公平性）"。
(iv)在此基础上，对人工智能治理体系进行持续监控，以确保其有效运作，包括通过风险评估等，并进行“评估”和持续改进。
(v)即使在人工智能系统/服务投入使用后，也要根据“外部环境的变化”，如法规和其他社会制度的变化，再次进行“环境和风险分析”，并在必要时修订目标。
敏捷治理的模式
在考虑人工智能治理时，还必须牢记产业链，并牢记以下几点
a.从价值/风险角度确保机构间合作
跨越多个行为主体的问题：了解人工智能风险、提高质量、通过将每个人工智能系统/服务（系统之系统）相互连接来创造新价值、提高人工智能用户素养等。
参与主体之间可能需要解决的问题：与训练数据/生成的人工智能模型有关的权利关系
b. 明确风险链，包括数据分配，以及适合研发、提供和使用各阶段的风险管理、
c. 建立人工智能治理结构
国际人工智能治理，以确保数据的自由跨境传输（数据自由流动与信任，以下简称 "DFFT"），因为从人工智能研发到服务实施的价值/风险链预计将跨越多个国家。社会考虑因素的现状以及基于这些因素的互操作性(“标准”和“框架之间的互操作性”两个方面）。
为了使这些举措行之有效，经济部门必须发挥领导作用。在此过程中，重要的是不要把它们仅仅视为追求短期利润的成本，而应视为面向各实体可持续增长和中长期发展的前期投资。在这样的领导下，预计人工智能治理将作为一种文化在每个组织扎根，具体做法是将人工智能治理纳入每个组织的战略和公司结构，同时重复上述循环。
各行为主体的准则
人工智能的研发者、提供者、使用者在遵守上述通用准则以外，应当结合其在产业链里的角色规定特定的行为准则：