关于AI安全、创新和包容性的首尔宣言（全文翻译）

5月21日-22日，在韩国举办了人工智能首尔峰会，将在英国首届人工智能安全峰会基础上，推进关于人工智能的全球讨论。该会上发布了《关于AI安全、创新和包容性的部长级声明》。如下是全文翻译，供各位阅读参考。
序言
P1. 我们，澳大利亚、加拿大、智利、法国、德国、印度、印度尼西亚、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、尼日利亚、新西兰、菲律宾、大韩民国、卢旺达、沙特阿拉伯、新加坡、西班牙、瑞士、土耳其、乌克兰、阿拉伯联合酋长国、英国、美国和欧盟的部长们，基于2024年5月22日在人工智能首尔峰会部长会议上关于人工智能治理方法的讨论，以促进安全(safe)、安全(secure)和可信的人工智能和可持续的人工智能发展，特此确认需要协作的国际方法来应对人工智能技术的快速发展及其对我们的社会和经济的影响。
P2. 我们充分认可在布莱切利公园举行的首届人工智能安全峰会上发起的成就。在人工智能首尔峰会第一天讨论的三个相互关联的优先事项——安全、创新和包容性的基础上，我们现在专注于实施它们的行动。承认我们不同的国内能力，我们确认我们共同期待采取有意义的步骤来为所有人释放人工智能的好处，同时解决其所带来的风险。
安全
1.1 必须防范人工智能风险的全部范围，包括现有、前沿人工智能模型或系统的部署和使用所带来的风险，以及未来可能被设计、开发、部署和使用的风险。人工智能安全原则（safety and security）包括透明度、可解释性（interpretability）和可理解性（explainability）；隐私和问责制；有意义的人类监督和有效的数据管理和保护。我们鼓励所有相关行为主体，包括开发和部署当前、前沿人工智能的组织，通过评估、预防、减轻和补救可能出现的不利影响，在整个人工智能生命周期中促进问责制和透明度。我们进一步鼓励所有相关行为主体营造一个有利的环境，以一种安全（safe and secure）和可信的方法设计、开发、部署和使用人工智能，造福所有人，并符合所适用的国内和国际框架。
1.2 我们认识到，我们有责任建立框架，管理在我们各自管辖范围内以商业或公共目的使用前沿人工智能模型或系统所带来的风险。我们认识到，在促进对在我们管辖范围内开发的前沿人工智能模型或系统进行可信的外部评估方面，我们发挥着越来越大的作用，因为这些模型或系统可能会带来严重风险。我们进一步认识到，我们与私营部门、民间社会、学术界和国际社会合作，在确定前沿人工智能模型或系统的设计、开发、部署和使用所构成的风险如果不采取适当缓解措施的情况下将构成严重风险的阈值方面发挥的作用。评估前沿 AI 模型或系统带来的风险的标准可能包括考虑能力、局限性和倾向、实施的保障措施，包括对恶意对抗性攻击和操纵的鲁棒性、可预见的使用和滥用、部署环境，包括可能集成 AI 模型的更广泛系统、范围和其他相关风险因素。
1.3 评估前沿人工智能模型或系统设计、开发、部署和使用所带来的风险可能涉及定义和衡量可能构成严重风险的模型或系统能力，在没有适当缓解措施的情况下。我们认识到，通过潜在的模型或系统能力，可能构成严重风险，从而有效地协助非国家行为者推进化学或生物武器及其运载工具的开发、生产、获取或使用。我们重申按照相关国际法采取一致行动的重要性，如《化学武器公约》（the Chemical Weapons Convention）和《生物和毒素武器公约》（Biological and Toxin Weapons Convention），联合国安理会第1540号决议（UN Security Council Resolution 1540），以及国际人权法，按照每个国家根据义务行事。我们强调多边讨论的重要性，以促进人工智能的安全。
1.4 我们进一步认识到，潜在的模型或系统能力可能构成严重风险，或逃避人类监督的风险，包括通过绕过保护措施、操纵和欺骗，或在没有明确的人类批准或许可的情况下进行自主复制和自适应。我们注意到收集有关具有高度代理能力的前沿人工智能模型或系统的进一步实证数据的重要性，同时我们也承认防止这种模型或系统的滥用或不一致的必要性，包括通过与开发和部署前沿人工智能的组织合作，实施适当的保护措施，如有意义的人类监督能力。
1.5 我们承认与开发者进行具有建设性的对话，以解决前沿人工智能模型或系统的风险的重要性，重申开发者对这些系统的安全性的特殊责任。我们还认识到迫切需要在整个人工智能生命周期中考虑安全性（safety and security）。
1.6 我们确认人工智能安全研究机构和其他相关机构在加强人工智能风险管理方面的国际合作和增加全球对人工智能安全领域的理解方面的独特作用。通过我们的人工智能安全研究机构或其他相关机构，我们计划分享最佳实践和评估数据集，并在适当时合作建立安全测试指南。我们的目标是实现人工智能安全活动的互操作性，包括通过建立人工智能安全研究机构和其他相关机构之间的伙伴关系，同时认识到需要考虑全球文化和语言多样性的测试方法。
创新
2.1 我们认识到促进人工智能产业生态系统创新和发展的治理方法的重要性，目的是最大限度地发挥人工智能为我们的经济和社会带来的潜在利益。我们进一步认识到政府的作用不仅是优先考虑金融投资、研发和劳动力发展以促进人工智能创新发展，还要考虑包括法律和制度框架在内的治理框架，包括个人数据、版权和其他知识产权保护，以安全、可靠和可信的方式发展和部署人工智能。
2.2 我们认识到人工智能对公共部门转型的价值，包括在行政、福利、教育和医疗保健等领域。这些价值包括通过可访问的数字服务和自动化程序有效地使用人工智能，从而增强公民在获得公共服务方面的体验。此外，我们打算支持在制造业、物流和金融等关键工业部门采用人工智能，以彻底改变生产力，减轻员工的负担，同时保护权利和安全，并为创造价值开辟新的途径。
2.3 我们特别致力于支持一个有利于人工智能驱动的创新的环境，通过促进人工智能相关资源的获取，特别是对中小企业、初创企业、学术界、大学甚至个人，同时尊重和保护知识产权。我们还致力于增加人工智能相关资源的可用性，以增强研究人员在其各自研究领域利用人工智能的能力，并促进负责任地将人工智能作为丰富个人创意的工具使用。
2.4 我们认识到生态系统中可持续性和弹性对人工智能创新的重要性。在这方面，我们鼓励人工智能开发者和部署者考虑其潜在的环境足迹，如能源和资源消耗。我们欢迎合作努力探索如何使我们的劳动力能够提升技能和再技能，成为自信的人工智能用户和开发人员，以增强创新和生产力。此外，我们鼓励公司努力促进资源高效人工智能模型或系统的开发和使用，如在整个人工智能开发和服务过程中应用低功耗人工智能芯片和运营环保数据中心。
包容
3.1 在我们促进包容性数字化转型的努力中，我们认识到应该公平分享人工智能的利益。我们寻求促进我们的共同愿景，利用人工智能造福所有人，包括弱势群体。我们打算共同努力，促进人工智能系统的包容性发展，并利用安全、可靠和可信的人工智能技术，以促进我们的共同价值观和相互信任。我们认识到人工智能造福所有人的价值，特别是在保护人权和基本自由、加强社会安全网以及确保免受各种风险，包括灾害和事故的安全方面的潜力。
3.2 为了实现我们对包容性的共同目标，我们致力于促进人工智能教育，包括通过与人工智能系统相关的能力建设，并通过提高数字素养，有助于弥合国家间和国家内部的人工智能和数字鸿沟。我们认识到需要加强国际合作，在联合研究和人才发展方面，包括与发展中国家合作，增强他们在人工智能设计、开发和利用方面的能力。我们旨在确保社会文化和语言多样性在设计、开发、部署和使用的人工智能生命周期中得到反映和促进。
3.3 我们致力于支持和促进人工智能技术的进步，认识到为解决气候变化、全球健康、粮食和能源安全以及教育等世界最大挑战提供重大进展的潜力。我们进一步寻求通过鼓励发展中国家参与旨在加快实现可持续发展目标和促进全球共同利益和发展的共同努力和讨论，促进包容性治理方法。
未来方向
W1. 我们赞扬韩国和英国作为人工智能首尔峰会的两个联合主席在安全、可持续性和复原力上所做的努力。
W2. 我们注意到发布《前沿人工智能安全性的临时国际科学报告》，以及其促进对前沿人工智能相关风险的共同基于证据的理解的工作。我们决心共同努力推进未来基于证据的人工智能风险报告，并期待在法国人工智能峰会之前最终发布《前沿人工智能安全的国际报告》。
W3. 我们承认有必要推进人工智能安全科学，并收集更多有关某些风险的经验数据，同时我们认识到需要将我们的集体理解转化为基于经验的、针对可能导致严重风险的能力的积极措施。我们计划与私营部门、民间社会和学术界合作，确定设计、开发、部署和使用前沿人工智能模型或系统所带来的风险在没有适当缓解措施的情况下将是严重的阈值，并定义可能构成严重风险的前沿人工智能模型或系统的能力，以期在法国人工智能峰会之前制定提案供审议。
W4. 我们重申我们共同的愿景，以一种能够充分利用人工智能价值的方式指导人工智能的设计、开发、部署和使用。认识到安全、创新和包容性是相互关联的目标，我们期待继续合作，推进关于人工智能治理的讨论，并促进安全、可靠和可信的人工智能，造福所有人。