摘要
全球领先的人工智能公司和国家支持在英国建立一个新的全球中心，负责测试新兴类型人工智能的安全性。
- 自主要人工智能国家的高级政府代表和主要人工智能组织首次就前沿人工智能模型的安全测试计划达成一致。
-该计划包括对模型进行部署前和部署后的测试，以及政府在测试中的作用，特别是对关键的国家安全、安全保障和社会危害的测试。
-各国同意由 "人工智能教父 "（Yoshua Bengio）牵头提交一份 "科学现状 "报告，该报告将有助于就前沿人工智能的能力和风险达成共识。
下面是新闻的全文翻译，供大家参考：
新闻报道的翻译
AI Safety Summit
11 月 2 日，在里希-苏纳克（Rishi Sunak）总理宣布全球首届人工智能安全峰会闭幕之际，开发前沿人工智能的国家和公司就人工智能安全测试达成了一项突破性计划。
在一份关于测试的声明中，政府和人工智能公司都认识到，双方在测试下一代人工智能模型方面都起着至关重要的作用，以确保人工智能的安全性--无论是在模型部署之前还是之后。
这包括合作测试下一代人工智能模型的一系列潜在有害能力，包括关键的国家安全、安全保障和社会危害。
同意政府在确保对前沿人工智能模型进行外部安全测试方面发挥作用，这标志着确定前沿人工智能模型安全性的责任不再完全由公司承担。
各国政府还达成了一个共同的目标，即投资于公共部门的测试和其他安全研究能力；在相关情况下与其他国家分享评估结果，并努力在适当的时候制定该领域的共同标准--为未来几年在人工智能安全方面取得国际进展奠定基础。
该声明以所有与会国在人工智能安全峰会第一天商定的《布莱切利宣言》为基础。该声明是峰会在建立全球方法以确保安全、负责任的人工智能方面迈出的几个重要步骤之一，例如英国开创性地启动了新的人工智能安全研究所。
参加布莱切利峰会的各国代表还同意支持图灵奖获得者、联合国科学顾问委员会成员 Yoshua Bengio 教授牵头编写首份前沿人工智能 "科学现状 "报告。该报告将对有关前沿人工智能的风险和能力的现有研究进行科学评估，并确定进一步研究的优先领域，为今后的人工智能安全工作提供依据。
该报告的结论将为未来的人工智能安全峰会提供支持，相关计划已经启动。韩国已同意在未来 6 个月内共同主办一次小型人工智能线上峰会。然后，法国将在一年后主办下一次现场峰会。
Prime Minister Rishi Sunak说：
-到目前为止，只有开发人工智能模型的公司在测试其安全性。我们不应该依赖他们自己来完成这项任务，他们中的许多人都同意这一点。
-今天，我们达成了一项历史性协议，由政府和人工智能公司共同合作，在模型发布前后对其安全性进行测试。
-英国人工智能安全研究所将与世界各国合作，在领导这项工作中发挥重要作用。
Secretary of State for Science, Innovation and Technology Michelle Donelan说：
-我们在过去两天里商定采取的措施将帮助人类抓住机遇，改善医疗保健，提高工作效率，并创造全新的产业，而安全、负责任的人工智能必将开启这些机遇。
-确保人工智能造福于我们所有人是一项全球性的工作，但我为英国所发挥的独特作用感到自豪，它将政府、企业和思想家聚集在一起，共同商定向前迈进的具体步骤，从而创造一个更加安全的未来。
Yoshua Bengio 说：
-安全、负责任地发展人工智能是我们每个人都关心的问题。我们看到在提高人工智能能力方面投入了大量资金，但在保护公众方面的投入却远远不够，无论是在人工智能安全研究方面，还是在确保人工智能的发展造福于所有人的治理方面。
-我很高兴能与来自世界各地的同事合作，就这一极其重要的问题提供最新证据，从而为治理人工智能安全方面亟需的国际协调提供支持。
英国已经在这些工作中发挥了领导作用，启动了人工智能安全研究所，以建设公共部门进行安全测试和开展人工智能安全研究的能力。
“科学现状 "报告将由图灵奖获得者Yoshua Bengio教授牵头，与来自世界各地的顶尖学者一起，帮助英国和国际人工智能政策制定者跟上人工智能的快速变化步伐。
作为世界上被引用次数最多的计算机科学家、国际知名的米拉-魁北克人工智能研究所的创始人，以及英国政府和联合国的顾问，Yoshua Bengio教授在领导这项工作方面具有得天独厚的优势。
过去两天在布莱切利公园打下的基础对确保安全、负责任地利用人工智能的巨大潜力至关重要，它将开启经济生产力、医疗保健、教育等方面的变革。
对人工智能安全峰会的国家支持
Deputy Prime Minister of Australia Richard Marles说：
澳大利亚支持研发者承担Security by Design的方法。自愿承诺是好的，但如果没有更多的问责制，自愿承诺就没有意义。澳大利亚很高兴与英国合作开展这项重要工作。
Canadian Minister of Innovation, Science and Industry the Honourable François-Philippe Champagne 说：
加拿大支持英国启动人工智能安全研究所。我们的政府期待与英国合作，利用加拿大卓越的人工智能知识和专长，包括我们的人工智能研究所开发的知识，支持人工智能安全和负责任的发展。
President of the European Commission Ursula von der Leyen说：
在智能机器时代来临之际，只有同时防范人工智能的风险，我们才能收获人工智能的巨大利益。人工智能能力越强，责任就越大。可信的国际治理应建立在四大支柱之上：资源充足、独立的科学界；广为接受的测试流程和标准；对因错误或滥用人工智能造成的每一起重大事件进行调查；以及由可信赖的提供信息的警报系统。应当开始采取措施。
法国政府表示：
法国政府将通过调动在人工智能安全方面已经活跃的利益相关者和资源，特别是数字欧洲的人工智能合作伙伴测试和实验设施以及法国的Confiance.ai计划，参与这一倡议。
德国政府表示：
德国非常关注人工智能安全研究所的成立，并期待探索合作的可能性。
Prime Minister of Italy Georgia Meloni 说
人工智能正在进入我们生活的每一个领域。今天，我们有责任引导其符合道德地发展，确保其与人类的自由、控制和繁荣完全一致。我们需要发展'Algor-ethics'概念的实际应用，即算法的伦理。
日本政府表示：
日本政府支持英国在举办人工智能安全峰会方面发挥的领导作用，和支持英国成立英国人工智能安全研究所的倡议。我们期待与英国及其他合作伙伴就人工智能安全问题开展合作，以实现安全、可靠和值得信赖的人工智能。
Singaporean Minister for Communications and Information Josephine Teo说：
人工智能投资、部署和能力的快速发展将为生产力和公共利益带来巨大机遇。我们认为，政府有义务确保人工智能的安全部署。我们同意政府应开发能力以测试前沿人工智能系统安全性的原则。
继新加坡和英国今年早些时候签署新兴技术和数据合作谅解备忘录之后，我们已同意与英国直接合作，建立评估前沿人工智能模型的能力和工具。这将涉及新加坡资讯通信媒体发展管理局与英国新成立的人工智能安全研究所之间的合作。目标是建立对前沿人工智能所带来风险的共同理解。我们期待着与英国合作，建立共同的技术和研究专长，以实现这一目标。
U.S. Secretary of Commerce Gina Raimondo 说：
我支持英国宣布成立人工智能安全研究所，该研究所将与美国人工智能安全研究所携手合作，确保安全、可靠、可信地开发和使用先进的人工智能。人工智能是我们这一代人的决定性技术，既有巨大的潜力，也有深远的风险。我们通过这些机构所做的协调努力仅仅是一个开端，我们将采取行动，促进安全标准的制定，建立先进人工智能模型的测试能力，并在全球范围内扩大人工智能安全方面的信息共享、研究合作、互操作性和政策协调。
公司的支持
Demis Hassabis, Co-founder & CEO of Google DeepMind说：
从治疗疾病到应对气候危机，人工智能可以帮助解决我们这个时代面临的一些最严峻的挑战。但它也将给世界带来新的挑战，我们必须确保安全地开发和部署这项技术。要想做到这一点，需要政府、行业和民间社会的共同努力，为安全测试和评估提供信息，并制定强有力的安全测试和评估方案。我很高兴看到英国成立人工智能安全研究所，以加快这项重要工作的进展。
Dario Amodei, co-founder and CEO of Anthropic 说：
人工智能在带来巨大社会效益的同时，也带来了一系列潜在的危害。管理这些风险的关键是政府要有能力衡量和监控人工智能模型的能力和安全特性。人工智能安全研究所将在促进对各种风险进行独立评估和推动基础安全研究方面发挥重要作用。我们支持它的成立，并期待着与它密切合作，共同推进安全、负责任的人工智能。
此类流程所需的数据量，因为此类数据不存在所需的数量，或者因为此类数据必须描述现实世界中尚未发生的情况。这些数据描述的是异常情况、极端情况、低概率或未记录的情况，或者甚至是用被操纵的数据来测试攻击类型，这类数据通常用于专门的测试场景。
全球领先的人工智能公司和国家支持在英国建立一个新的全球中心，负责测试新兴类型人工智能的安全性。
- 自主要人工智能国家的高级政府代表和主要人工智能组织首次就前沿人工智能模型的安全测试计划达成一致。
-该计划包括对模型进行部署前和部署后的测试，以及政府在测试中的作用，特别是对关键的国家安全、安全保障和社会危害的测试。
-各国同意由 "人工智能教父 "（Yoshua Bengio）牵头提交一份 "科学现状 "报告，该报告将有助于就前沿人工智能的能力和风险达成共识。
下面是新闻的全文翻译，供大家参考：
新闻报道的翻译
AI Safety Summit
11 月 2 日，在里希-苏纳克（Rishi Sunak）总理宣布全球首届人工智能安全峰会闭幕之际，开发前沿人工智能的国家和公司就人工智能安全测试达成了一项突破性计划。
在一份关于测试的声明中，政府和人工智能公司都认识到，双方在测试下一代人工智能模型方面都起着至关重要的作用，以确保人工智能的安全性--无论是在模型部署之前还是之后。
这包括合作测试下一代人工智能模型的一系列潜在有害能力，包括关键的国家安全、安全保障和社会危害。
同意政府在确保对前沿人工智能模型进行外部安全测试方面发挥作用，这标志着确定前沿人工智能模型安全性的责任不再完全由公司承担。
各国政府还达成了一个共同的目标，即投资于公共部门的测试和其他安全研究能力；在相关情况下与其他国家分享评估结果，并努力在适当的时候制定该领域的共同标准--为未来几年在人工智能安全方面取得国际进展奠定基础。
该声明以所有与会国在人工智能安全峰会第一天商定的《布莱切利宣言》为基础。该声明是峰会在建立全球方法以确保安全、负责任的人工智能方面迈出的几个重要步骤之一，例如英国开创性地启动了新的人工智能安全研究所。
参加布莱切利峰会的各国代表还同意支持图灵奖获得者、联合国科学顾问委员会成员 Yoshua Bengio 教授牵头编写首份前沿人工智能 "科学现状 "报告。该报告将对有关前沿人工智能的风险和能力的现有研究进行科学评估，并确定进一步研究的优先领域，为今后的人工智能安全工作提供依据。
该报告的结论将为未来的人工智能安全峰会提供支持，相关计划已经启动。韩国已同意在未来 6 个月内共同主办一次小型人工智能线上峰会。然后，法国将在一年后主办下一次现场峰会。
Prime Minister Rishi Sunak说：
-到目前为止，只有开发人工智能模型的公司在测试其安全性。我们不应该依赖他们自己来完成这项任务，他们中的许多人都同意这一点。
-今天，我们达成了一项历史性协议，由政府和人工智能公司共同合作，在模型发布前后对其安全性进行测试。
-英国人工智能安全研究所将与世界各国合作，在领导这项工作中发挥重要作用。
Secretary of State for Science, Innovation and Technology Michelle Donelan说：
-我们在过去两天里商定采取的措施将帮助人类抓住机遇，改善医疗保健，提高工作效率，并创造全新的产业，而安全、负责任的人工智能必将开启这些机遇。
-确保人工智能造福于我们所有人是一项全球性的工作，但我为英国所发挥的独特作用感到自豪，它将政府、企业和思想家聚集在一起，共同商定向前迈进的具体步骤，从而创造一个更加安全的未来。
Yoshua Bengio 说：
-安全、负责任地发展人工智能是我们每个人都关心的问题。我们看到在提高人工智能能力方面投入了大量资金，但在保护公众方面的投入却远远不够，无论是在人工智能安全研究方面，还是在确保人工智能的发展造福于所有人的治理方面。
-我很高兴能与来自世界各地的同事合作，就这一极其重要的问题提供最新证据，从而为治理人工智能安全方面亟需的国际协调提供支持。
英国已经在这些工作中发挥了领导作用，启动了人工智能安全研究所，以建设公共部门进行安全测试和开展人工智能安全研究的能力。
“科学现状 "报告将由图灵奖获得者Yoshua Bengio教授牵头，与来自世界各地的顶尖学者一起，帮助英国和国际人工智能政策制定者跟上人工智能的快速变化步伐。
作为世界上被引用次数最多的计算机科学家、国际知名的米拉-魁北克人工智能研究所的创始人，以及英国政府和联合国的顾问，Yoshua Bengio教授在领导这项工作方面具有得天独厚的优势。
过去两天在布莱切利公园打下的基础对确保安全、负责任地利用人工智能的巨大潜力至关重要，它将开启经济生产力、医疗保健、教育等方面的变革。
对人工智能安全峰会的国家支持
Deputy Prime Minister of Australia Richard Marles说：
澳大利亚支持研发者承担Security by Design的方法。自愿承诺是好的，但如果没有更多的问责制，自愿承诺就没有意义。澳大利亚很高兴与英国合作开展这项重要工作。
Canadian Minister of Innovation, Science and Industry the Honourable François-Philippe Champagne 说：
加拿大支持英国启动人工智能安全研究所。我们的政府期待与英国合作，利用加拿大卓越的人工智能知识和专长，包括我们的人工智能研究所开发的知识，支持人工智能安全和负责任的发展。
President of the European Commission Ursula von der Leyen说：
在智能机器时代来临之际，只有同时防范人工智能的风险，我们才能收获人工智能的巨大利益。人工智能能力越强，责任就越大。可信的国际治理应建立在四大支柱之上：资源充足、独立的科学界；广为接受的测试流程和标准；对因错误或滥用人工智能造成的每一起重大事件进行调查；以及由可信赖的提供信息的警报系统。应当开始采取措施。
法国政府表示：
法国政府将通过调动在人工智能安全方面已经活跃的利益相关者和资源，特别是数字欧洲的人工智能合作伙伴测试和实验设施以及法国的Confiance.ai计划，参与这一倡议。
德国政府表示：
德国非常关注人工智能安全研究所的成立，并期待探索合作的可能性。
Prime Minister of Italy Georgia Meloni 说
人工智能正在进入我们生活的每一个领域。今天，我们有责任引导其符合道德地发展，确保其与人类的自由、控制和繁荣完全一致。我们需要发展'Algor-ethics'概念的实际应用，即算法的伦理。
日本政府表示：
日本政府支持英国在举办人工智能安全峰会方面发挥的领导作用，和支持英国成立英国人工智能安全研究所的倡议。我们期待与英国及其他合作伙伴就人工智能安全问题开展合作，以实现安全、可靠和值得信赖的人工智能。
Singaporean Minister for Communications and Information Josephine Teo说：
人工智能投资、部署和能力的快速发展将为生产力和公共利益带来巨大机遇。我们认为，政府有义务确保人工智能的安全部署。我们同意政府应开发能力以测试前沿人工智能系统安全性的原则。
继新加坡和英国今年早些时候签署新兴技术和数据合作谅解备忘录之后，我们已同意与英国直接合作，建立评估前沿人工智能模型的能力和工具。这将涉及新加坡资讯通信媒体发展管理局与英国新成立的人工智能安全研究所之间的合作。目标是建立对前沿人工智能所带来风险的共同理解。我们期待着与英国合作，建立共同的技术和研究专长，以实现这一目标。
U.S. Secretary of Commerce Gina Raimondo 说：
我支持英国宣布成立人工智能安全研究所，该研究所将与美国人工智能安全研究所携手合作，确保安全、可靠、可信地开发和使用先进的人工智能。人工智能是我们这一代人的决定性技术，既有巨大的潜力，也有深远的风险。我们通过这些机构所做的协调努力仅仅是一个开端，我们将采取行动，促进安全标准的制定，建立先进人工智能模型的测试能力，并在全球范围内扩大人工智能安全方面的信息共享、研究合作、互操作性和政策协调。
公司的支持
Demis Hassabis, Co-founder & CEO of Google DeepMind说：
从治疗疾病到应对气候危机，人工智能可以帮助解决我们这个时代面临的一些最严峻的挑战。但它也将给世界带来新的挑战，我们必须确保安全地开发和部署这项技术。要想做到这一点，需要政府、行业和民间社会的共同努力，为安全测试和评估提供信息，并制定强有力的安全测试和评估方案。我很高兴看到英国成立人工智能安全研究所，以加快这项重要工作的进展。
Dario Amodei, co-founder and CEO of Anthropic 说：
人工智能在带来巨大社会效益的同时，也带来了一系列潜在的危害。管理这些风险的关键是政府要有能力衡量和监控人工智能模型的能力和安全特性。人工智能安全研究所将在促进对各种风险进行独立评估和推动基础安全研究方面发挥重要作用。我们支持它的成立，并期待着与它密切合作，共同推进安全、负责任的人工智能。
此类流程所需的数据量，因为此类数据不存在所需的数量，或者因为此类数据必须描述现实世界中尚未发生的情况。这些数据描述的是异常情况、极端情况、低概率或未记录的情况，或者甚至是用被操纵的数据来测试攻击类型，这类数据通常用于专门的测试场景。