03—英国：司法官员的人工智能（AI）指南

前言
在英国司法实践中，人工智能（以下简称"AI"）工具在案件管理、法律研究、合同和监管、语音识别技术等方面的使用已十分普遍，尽管AI在司法领域的应用带来了许多潜在的好处，但也引发了一些关于隐私、公平性和透明度等方面的关切。因此，在推动AI技术的应用时，需要平衡创新和法律、伦理原则之间的考量，以确保司法体系的公正和透明。
本期是境外“生成式人工智能使用指引”系列文章的第三篇，我们将介绍英国法院和法庭司法系统于2023年12月发布的《司法官员的人工智能（AI）指南》。该指南旨在帮助司法官员在日常工作中规范使用人工智能——它涵盖了司法官员在使用时可能遇到的关键风险和问题的例子，以及一些尽量减少这些风险和问题的建议。除此之外，超越了单纯的指导方针，该指南也包含了司法系统内部关于人工智能的持续教育和参与的计划，反映了AI安全峰会后英国司法机关对于人工智能不断发展的性质以其在法律系统内部的使用的不断调整、适应的必要性的深刻理解。
注：英国的“法院和法庭司法系统”（Courts and Tribunals Judiciary）指在英格兰和威尔士的法院和特别法庭中（除传统法院外，英国还设有各种处理特定类型案件的法庭“tribunals”,如雇佣法庭employment tribunals,移民法庭immigration tribunals等）主持法律案件的法官和地方治安官(magistrate)的集体组织。它代表负责在各种法律诉讼中解释和适用法律的司法机关。英国的司法历史悠久，其法院系统经过1000多年的演变和发展，最终呈现出了现在一个相当复杂的法院系统结构，详情可见：Courts and Tribunals Judiciary, Structure of the Courts & Tribunals system。
该指南旨在协助司法官员使用人工智能（AI），其阐明了使用AI相关的主要风险和问题，并提供了一些如何将这些风险降至最低的建议。本指南同时也包括了潜在用途的示例。
任何司法部门或代表司法部门对AI的使用必须符合司法系统的总体义务，即保护司法行政的完整性。
指南适用于女首席大法官和法庭高级院长管辖下的所有司法官员、书记员和其他支持人员。
指南的主要内容包括以下方面:
1）了解AI及其应用
在使用任何AI工具之前，确保您对它们的能力和潜在局限性有基本了解。
2）维护保密性和隐私
不向面向公众的AI聊天机器人输入任何未进入公开领域的信息，不输入私人或保密信息。任何输入到面向公众的AI聊天机器人中的信息都应被视为向全世界公开。
3）确保责任和准确性
在使用或依赖AI工具提供的任何信息之前，必须检查其准确性。
AI工具提供的信息可能是不准确、不完整、有误导性或过时的。即使它声称代表英国法，也可能并非如此。
AI工具可能会：
1.编造虚构的案例、引用或引文，或引用不存在的法律、文章或司法文本。
2.提供有关法律或法律适用的错误或误导性的信息。
3.出现事实错误。
4）谨防偏见
基于大语言模型的AI工具根据其训练的数据集生成响应，AI生成的信息将不可避免地反映其训练数据中的错误和偏见。
5）保持安全性
遵循维护自身和法院安全的最佳实践；使用工作设备（而非个人设备）访问AI工具。如果订阅了AI平台的付费服务，则尽量使用付费服务，因付费订阅通常被认为比非付费订阅更安全。
6）承担责任
司法官员对以其名义制作的材料负有个人责任。如果书记员、司法助理或其他工作人员在为您工作中使用AI工具，法院或法庭应该与他们讨论，以确保他们恰当地使用这些工具并采取措施减轻任何风险。
7）注意法院当事方可能已使用AI工具
一些AI工具已被法律专业人士长时间无障碍使用。例如，技术辅助审查（TAR）现已成为电子证据开示方法的一部分。所有法律代理人对于他们提交给法院的材料负有责任，并负有职业义务确保其准确性和适当性。
示例：法院使用生成式AI的潜在用途和风险
有潜在使用价值的任务
1.AI工具能够概括大量文本。与任何总结一样，需要注意确保概括的准确性。
2.AI工具可用于撰写演讲，例如为需要涵盖的主题提供建议。
3.AI可执行撰写电子邮件和备忘录等行政任务。
不推荐使用AI工具完成的任务
1.法律研究：AI工具是寻找您无法独立验证的新信息来开展研究的糟糕方式。使用它们作为一种提示您可以识别正确性的材料的方式可能是有用的
2.法律分析：当前面向公众的AI聊天机器人不会产生令人信服的分析或推理。
表明工作可能是由AI生成的迹象：
1.引用不常见的案例（有时来自美国）；
2.当事方就同一法律问题引用不同的案例法；
3.提交的内容与您对该领域法律的一般理解不符；
4.提交的内容使用美式拼写或提及海外案例，以及
5.内容（至少表面上）看起来极具说服力和写作精良，但仔细检查后包含明显的实质性错误。