欢迎光临 法官论坛 栏目
立足司法实践，从资深法官视角，剖析审判热点前沿问题，阐述司法管理焦点问题。
大型语言模型引入智能化审判的论证规则与实现路径
——以建设人民法院信息化4.0版为背景
作者简介：
李 琴，上海市金山区人民法院副院长，三级高级法官
姚依哲，上海市奉贤区人民法院审判监督庭副庭长、二级法官
刘 栩，
上海市奉贤区人民法院商事审判庭法官助理
内容摘要：目前，我国法院系统中已有各种方式探索智能化审判的路径，但该智能化还处于从计算智能进阶到感知智能的阶段，在案件审理过程中仅起到类案推送、证据校验、简易化文书生成等辅助性作用，以及人脸识别、语音识别等特定审判数据处理，距离实现人工智能审判还存在比较大的差距。而实现人工智能审判中最大的阻碍就是人工智能要如何实现法律论证的问题。在此背景下，本文着眼于分析及构建一套智能化审判的论证规则，并基于大型语言模型构建算法模型，独立完成案件的审理并输出裁判结果以供法官参考，同时探索其实现路径并将其运用到审判实务中。
关键词：人民法院信息化4.0版 智能化审判 法律论证规则 ChatGPT 大型语言模型
一、推进人民法院信息化4.0版建设与智能化审判发展的探索与实践
（一）我国法院信息化建设的发展进程
2010年，最高人民法院向国家申报的人民法院电子政务项目国家司法审判信息系统工程成功通过了专家评审，标志着我国的人民法院信息化1.0版建设的启动。国家司法审判信息系统工程，简称“天平工程”，包括制定业务应用支撑等相关标准规范，建设和完善人民法院业务网络、司法审判应用系统、司法审判信息资源库、数据中心以及相应配套环境等。2016年3月，中国社会科学院编制的《中国法院信息化第三方评估报告（国家智库报告）》显示，中国法院已基本建成以互联互通为主要特征的人民法院信息化2.0版，形成了以办公内网、法院专网、外部专网、互联网和涉密内网为纽带的信息基础设施和支持司法服务、审判执行和司法管理的十类应用系统，实现了对审判执行、司法人事和司法政务三类数据的集中管理，实现了网上立案、网上办案、网上办公以及数据的实时统计、实时更新和互联互通。2017年，在最高法党组统一部署、大力推动下,各级法院积极响应、创新实践,加快推进人民法院信息化3.0版和智慧法院建设,促进人民法院全业务网上办理网络化、全流程依法公开阳光化、全方位服务智能化，人民法院信息化建设取得显著成效,全业务网上办理、全流程依法公开、全方位智能服务的网络化、阳光化、智能化智慧法院初步建成,人民法院信息化3.0版的主体框架已然确立。
《人民法院信息化建设五年发展规划（2021-2025）》首次提出了建设人民法院信息化4.0版，在“十四五”期间，人民法院将综合运用互联网、大数据、云计算、人工智能、区块链、5G等先进信息技术，构建以知识为中心、以智慧法院大脑为核心、以司法数据中台为驱动的人民法院信息化4.0版。
（二）智能化审判的司法实践
随着人民法院信息化建设的稳步推进，人民群众享受到更加便利的诉讼服务，智能应用辅助下的审判执行工作更加高效，基于海量数据和智能分析的司法管理活动更加精准，司法大数据全面提升了社会治理能力和水平，围绕立案、审判、送达、执行等诉讼流程，各地都在积极开发网上立案系统、电子送达系统、语音识别系统、在线诉讼平台、智慧辅助办案系统、网络查控系统等，切实解决立案难、送达难、执行难等问题，同时亦构建了与互联网时代相适应、保障司法有序在线运行的程序规则体系，中国法院信息化建设已经处于世界领先地位。
表1：全国各地法院智能化审判的实践探索
近年来，我国各地法院与高新技术企业进行合作，开发出了各具特色的智能化辅助审判系统，为我国的智能化审判进行了有益的探索。比如，北京高院开发的“睿法官”智能研判系统，是利用互联网大数据以及人工智能技术构建的智能辅助审判系统，可以自动生成审理提纲、类案推送，甚至可以一键生成裁判文书；杭州互联网法院探索诉讼服务新机制，不断提升司法审判质效，构建了“六平台三模式一体系”的互联网法院审判服务体系，在智慧司法供给方面取得了重大标志性成果；南昌市中级人民法院率先将5G和VR技术与法院诉讼服务工作相结合，构建了3D虚拟诉讼服务中心，当事人可通过VR设备可全面、精准、真实地获知庭审等相关信息；重庆市人民法院利用5G、人工智能技术，把智慧法院一站式诉讼服务“装上车”，全域立案、全域送达、智能庭审，以流动的车辆便捷实现全方位、立体化诉讼服务。司法为民、便民、利民，这一新型家门口法院，打通了服务群众的“最后一公里”；青岛市中级人民法院通过数据清洗、文本解析等方式对历史沉淀下来的大量多源异构数据集合进行结构化梳理，基于自然语言处理技术，通过该数据中台对法律文书中的案件要素进行解析及信息提取，实现数据资源的规范化、可信化，以司法大数据提升管理、辅助决策、支撑创新。
（三）司法人工智能的前瞻
2022年12月，最高人民法院发布《最高人民法院关于规范和加强人工智能司法应用的意见》，要求到2025年，基本建成较为完备的司法人工智能技术应用体系。人工智能在司法领域的深度融合应用已经被作为法治社会和法治中国建设的重要助推力量，深入研究司法人工智能在裁判中的应用及其限度具有重要的意义。
2023年7月10日，为促进生成式人工智能健康发展和规范应用，国家互联网信息办公室、中华人民共和国国家发展和改革委员会、中华人民共和国教育部、中华人民共和国科学技术部、中华人民共和国工业和信息化部、中华人民共和国公安部、国家广播电视总局联合公布《生成式人工智能服务管理暂行办法》（以下简称“《办法”），自2023年8月15日起施行。《办法》提出国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管，明确了提供和使用生成式人工智能服务总体要求。提出了促进生成式人工智能技术发展的具体措施，明确了训练数据处理活动和数据标注等要求。《办法》的出台表明了我国对生成式人工智能发展的高度重视，其中也提到我国鼓励推动生成式人工智能基础设施和公共训练数据资源平台建设，与我国法院推动建设司法人工智能技术应用体系可以说是相辅相成，类ChatGPT技术的生成式人工智能也对审判智能化有着积极的导向作用。
生成式人工智能，是指以ChatGPT为代表的大语言文本的智能对话模型，能够进行互动式问答及图片生成、变成、文本创作等的一系列复杂任务，该人工智能能够通过人类反馈不断强化学习，在文本创作方面能够用自然的人类语言生成短篇或中长篇的思想、纲要甚至是专业论文。审判智能化是指将生成式人工智能技术引入案件的审理过程中，在机器深度学习的基础上，借助于智能机器特有的自然语言理解、图文识别等功能认定案件事实，寻找法律适用，拟定裁判结果，向法官推荐案件争点、法条，为法官裁判提供辅助性支持的一种全新审判模式。审判智能化既不是人工智能与审判的简单相加，也不是人工智能与审判的过度融合，而是两者之间有机的、动态的、适当的结合。随着人工智能的不断发展与进步，人工智能与审判的有机结合程度会逐渐向纵深方向发展，不再只是技术性的智能化辅助，而是深入到审判基础构建智能化的完整体系。
二、司法人工智能在民事审判领域应用的多重困境
（一）程序性难题：法律论证的非单调性
法律论证是指通过提出一定的根据和理由来证明某种立法意见、法律表述、法律陈述、法律学说和法律决定的正确性与正当性。在审判中，法律论证的规则就是通过分析证据来认定案件事实，从而在现行法律体系的框架中获得一个规范性共识的裁判意见。在此过程中，证据的采信与否以及法律规则的适用是最重要的裁判依据。但司法案件既有案件事实清楚，法律适用不存在争议的简单案件，也存在案件事实复杂，法律适用存在争议的疑难案件。也就是说，即便案件事实符合相关法律规则的构成要件，但如果符合特定情况，并不一定就应当得出该法律规则所要求的后果。比如在无法律规则可以适用的情况下，需要适用法律原则作为裁判的法律依据。因此，法律推理并不是一个从规则到结论的简单线性的推论过程，而要随时面临相反理由的挑战，从而存在改变固有结论的可能。从逻辑学的角度看，这体现了法律推理的非单调性（nonmonotonic）。这也导致了传统的审判智能化陷入了法律推理的瓶颈中，难以构建有效的法律推理算法模型。
（二）技术性难题：法律论证算法模型的高度复杂性
2017年5月3日，上海高院与科大讯飞公司共同研发的“上海刑事案件智能辅助办案系统”（以下简称“206系统”）正式开始试运行。该系统包含24个功能模块，其中与审判智能决策相关的功能包括证据标准引导、单一证据核查、证据链和全案证据审查判断、类案推送以及案件评议等，但“206系统”只能在统一类案证据标准、识别案件证据缺陷、提供类案索引等方面提供帮助，离实现审判智能决策还相对较远。国内其他法院开发的智能辅助办案系统，几乎也都遇到了类似的问题。例如，2020年6月，贵州的智能辅助办案系统主要用于规范侦查阶段的证据收集、智能发现证据缺陷、提高办案效率等；苏州中院建立的法官办案辅助系统，仅初步实现了类案智能推送、知识管理、简易裁判文书生成等功能；而河北高院的智慧审判支持系统，主要辅助法官对电子卷宗进行文档化编辑和结构化管理，包括自动引用、编排、归纳及分析全要素案件数据。可以说中国目前大部分法院在审判智能决策的探索和实践方面仍处于初级阶段，与真正的“AI法官”相差很大。原因在于司法机关的智能辅助办案系统未能构建一个有效的法律推理模型。对于那些法律规则模糊、冲突或者缺失，证据复杂且事实争议较大的案件而言，简单的三段论演绎逻辑将无法继续推进，人工智能的准确性将大大降低，机器裁判因此面临困境。因此，要实现人工智能自主审判，自动生成裁判文书，减轻法官负担，就需要直面证据分析和法律推理的挑战，构建一套完整的法律推理模型。
（三）数据库桎梏：司法数据的地域性和不确定性
人工智能时代最宝贵的资源就是数据，任何的人工智能模型都需要大量的数据进行深度学习。要实现司法人工智能进行审判，就需要建立一个体量庞大且权威的司法数据库。在人工智能背景下，通过对案例数据蕴含的信息的分析与解构，借助于智能辅助机器实现海量案例数据在标准化、要素化基础上的深度学习，挖掘案例数据潜在的有用价值，提炼裁判规则，可以为待审案件提供更加精准、可靠的预测、预判。
先行有效的法律法律、已公开的裁判文书、最高人民法院及各级法院发布的指导案例、公报案例等是我国AI审判系统的主要数据来源。法律法规数据库其建立就存在着高度的复杂性，不仅需要区分先行有效和已失效的法律法规，还需要对现有法律规则中可能存在矛盾的地方进行甄别和研究，并且各地区法院可能对于法律规则和法律原则存在不同的理解，因此所做出的裁判难免有一定的差异。此外，由于法律规定除特定文书以外，所有的裁判文书都需要公开，中国裁判文书网可能充斥着大量被改判或发回重审的文书，司法数据库在设立时必须要过滤冤案错案、改发案件、再审案件等，这给数据库的简历带来了高昂的筛选成本，且由于各地区法院没有公开案件纠错记录，要判断裁判文书是否有被改判或发回重审乃至申请再审，只能是依据案件案号进入法院的内网系统中逐份文书进行查询。司法数据的不确定性也成为了大体量司法数据库建设的最大障碍。
三、理论构建：大型语言模型（LLM）应用于智能化审判的论证规则
智能化审判论证规则运行的核心就在于人工智能技术。尽管目前法院的人工智能技术还不能真正替代法官进行审判，仅仅是起到辅助审判的作用，但随着最新的科学技术发展，人工智能也在不断迭代升级，通过不断学习海量的法律法规和裁判案例数据库以及发挥大型语言模型的自我纠错功能，以要件事实审判思维为基准，生成准确率高的算法模型，进而成为一名真正的AI法官。
目前，大量应用于审判实践的人工智能属于弱人工智能，即通过智能辅助机器收集审判实践中的海量案例数据，加以认知、整合、分析，找出规律，为法官提供服务，这种弱人工智能技术的核心是神经元网络与深度学习。而强人工智能指的是具有知觉、有自我意识的人工智能，能够构建自身的推理逻辑和思维，但以目前人类的技术水平暂时无法制造出强人工智能机器。ChatGPT4被认为是目前为止最为接近强人工智能的AI，但其本身也是基于海量的数据学习和大型语言模型，就目前而言，将大型语言模型、人工神经网络和深度学习技术全程融入到审判办案中，是实现审判智能化的关键。
（一）大型语言模型（LLM）与司法裁判的契合性
大型语言模型（LLM，Large Language Model）是ChatGPT4强大的理解能力和推理能力的主要来源。简而言之，大型语言模型是指将人类偏好知识注入到算法模型中，通过深度学习海量的数据，使得人工智能获得能够听得懂人类语言、自身拥有判断标准的模型。基于大型语言模型制作的ChatGTP类技术，表现出较之原有法律人工智能更加出色的法律语言语义理解、意图识别、多轮对话能力， ChatGPT 类技术不仅能够理解人类的语言、图像，甚至能够进行推理分析。
大型语言模型的训练过程简单来说，就是人工智能通过计算输出结果并给自身打分，通过循环训练逐步成为人类满意的模型。首先，需要创建人类偏好数据库，这个数据库可以是人类语言、书籍甚至是法律法规数据库和裁判文书数据库，随机挑选部分问题并由标注人员给出高质量回答，形成“人类表达——任务结果”的标注数据，反馈至模型，让其学习并形成原始模型。其次，训练一个反馈模型。随机挑选部分问题，由原始模型输出答案，再由标注人员基于“人类偏好标准”（例如，相关性、准确性或者禁止输出内容等），对原始模型的答案进行排序。最后，利用标注好的“人类偏好”数据，训练一个打分模型，这一打分模型会对原始模型的结果进行打分，让原始模型知晓答案的分数高低。通过“原始模型输出——打分模型赋分”的循环式强化学习，将反馈模型和原始模型相链接，学习过程中由人类进行监控，在出现错误时及时予以纠正。在模型不断强化学习之下，模型会逐渐迭代升级，能够比较准确地输出人类偏好的结果，此时我们就得到了一个成熟的大型语言模型，即ChatGPT类模型。
如能构建和完善证据推理和法律推理的论证规则，那么人工智能完全能够实现独立审判。最有可能完成通过算法实现人工智能独立审判的路径，就是将大型语言模型、人工神经网络和深度学习等人工智能技术融入到审判过程中，将智能化审判分为三个步骤，即由人工智能的自然语言处理系统进行证据信息的提取和转化，完成证据推理并依据原告诉请、事实和理由以及证据推理的结果，在法律推理阶段认定案件事实、适用法律并作出判决。这其中最关键的科学技术，便是法院需要利用大型语言模型构建法律推理的规则。
图1：现阶段人工智能审判建设的基本路径及核心技术
（二）构建以大型语言模型（LLM）为核心的国家司法人工智能法律论证多模态模型
在审判智能化中，法律论证建模的本质上就是将证据和法律条文表达为机器可理解的知识库，由大型语言模型进行强化学习和训练，随时调用相关的法律条文和法律推理逻辑进行裁判文书的输出，其实现途径主要分为证据信息的提取和转化、证据的分析和推理以及法律推理三个关键步骤，通过把证据材料转化为AI能够理解的信息并进行推理，完成事实认定和法律适用，并自动生成裁判文书供法官参考。
1. 选拔专业法官、律师、法学学者等组成司法人工智能模型训练组
司法人工智能模型训练的关键就在于数据。据统计，ChatGPT的模型参数达到了1750亿个，其模型训练的背后是大数据搜集及人工介入。模型训练的人工介入是指，在成立了模型数据库后由特定的人群形成定向的标注数据并向模型反馈，模型根据标注数据进行深度学习，同时在反馈模型阶段，也需要由特定的人群对模型训练阶段初步输出的结果进行筛选排序，告知模型输出结果的质量高低，如此才能够构建一个生成式人工智能的学习循环系统。由此可知，司法人工智能模型的训练需要专业法官、司法局人员、人大法工委委员、律师、法学学者等集体的反馈，因为个体的反馈数据往往存在巨大差异，而法律职业共同体的集体讨论的反馈结果往往能够综合各方立法理念、审判经验、学术研究形成集体智慧，大幅度提高模型学习的精度和认可度。
由于我国各地区存在大量的地方性法规，司法人工智能的数据库也应当因地制宜，实现司法人工智能本土化，依照各地区的司法实践和地方性法规进行适当调整。因此，司法人工智能模型的算法由最高人民法院统一确定，而模型的训练应当交由各地区的高级人民法院进行组织。模型训练组中，法官、司法局人员、人大法工委委员、本地律师协会、法学学者的比例和人数由高级人民法院自行决定，但司法局工作人员、人大法工委、本地律师协会、法学学者所占比例不应低于模型训练组总人数的三分之一。高级人民法院应当按照上述的比例从高级人民法院、中级人民法院和基层人民法院中招募业务骨干法官，由每家法院自行推荐若干名骨干法官，同时也应招募人大法工委、本地律师协会、高校等法律职业共同体单位推荐的专家，由上述业务骨干法官及其他单位推荐的法律从业人员组成两个司法人工智能模型训练组，分别负责形成标注数据和偏好数据，以最大程度地确保司法人工智能模型的公信力和准确率。
2.训练高准确率输出结果的司法大型语言模型
就实践而言，法院可以通过组建以上司法人工智能模型训练组与技术人员合作的方式，构建智能化审判的大型语言模型，具体操作方法如下：首先，法院应当依据裁判文书网、国家法律法规数据库和指导案例等建立典型的法律数据库，并随机挑选部分的证据、案件事实，由业务骨干法官及其他单位推荐的法律从业人员组成司法人工智能模型训练组给出高质量的裁判文书，形成“证据、案件事实——裁判文书”的标注数据，反馈至模型让其学习，再训练一个反馈模型，由原始模型输出裁判文书，再由另一个模型训练组对输出的裁判文书的质量进行排序，利用法官集体的偏好数据（可以认为是审判实践中法院观点的汇总数据）训练一个打分模型，这一打分模型会对原始模型输出的裁判文书进行打分，告知裁判文书的质量高低。由此为基础，整个过程通过不断循环强化学习，形成能够依据案件事实生成准确率高的裁判文书的模型。大型语言模型也被视为通往人工智能的必由之路。因为人工智能是否符合智能化审判的标准，就是要看它是否具备推理能力，而研究发现，大型语言模型在达到足够大的规模时，就会具备相应的推理能力，这也就说明，通过学习法律数据库，人工智能将会拥有一定程度的法律推理能力，这就为人工智能独立进行审判打下了坚实的基础。
图2：审判智能化大型语言模型训练过程
3.法律推理：构建人工智能的法官思维
法律推理是基于事实结论与相关法律规则正确作出裁决的过程，前提是事实与法律，结论是表述案件裁决的主张。这是公认的人工智能最关键的功能也是最难以攻克的一个环节，判决书的法律推理由三个主要部分组成，即事实认定、法院观点和判决，其中事实认定是法院观点的基础，法院观点是得出判决的理由，判决是对原告在民事案件中的诉请进行回应，三者之间有先后逻辑顺序。过去的人工智能模型尽管具有一定的学习能力，但在进行法律推理时，却基本无法适用：一方面是因为民事法律中存在“不告不理”的原则，判决是对原告诉请的回应，而如何通过逻辑推理总结出裁判观点，进而作出判决，需要人工智能像法官一样进行思考，是棘手的难题；另一方面是民事案件判决的结果存在一定的差异性，不同地区存在“同案异判”的问题，这就导致AI在进行深度学习时，容易造成混乱。为了解决人工智能进行法律推理的难题，就必须构建一个算法更加精准、案例数据更加庞大的人工智能模型，做到通过证据推理完成事实认定，进而自动生成法院观点和判决（如表所示）。
表2：民事案件的人工智能审判要素解构
（1）事实认定：人工智能的知识库和大数据分析
案件事实认定是一个法律推理的重要过程，是法律事实认定者在经验基础上理解、运用证据认定案件事实的一个经验推论活动。经验是理解证据内涵的背景知识，也是证据相关性推论的基础和证明力的评价尺度。在前文中，我们已经提出了证据信息提取和证据推理的人工智能论证规则，基于证据推理的待证事实，通过人工智能的知识库和大数据分析，同时结合原告所主张的事实和理由，总结出案件事实。
（2）法院观点和判决：以大型语言模型的输出结果作为参考
裁判文书中的法院观点是指法官在事实认定基础上将抽象的法律规范或法律规则运用于具体案件。法律适用必然涉及对法律的选择、理解和解释。人工智能在法律适用过程的难题是在于对法律解释和推理的模拟。如前面所述，对法律的解释包含着人类特有的价值和目的考虑，反映法官对法律规则的重新建构。人工智能下的法律适用过程不是将法律整齐地“码放”在计算机记忆系统中供审判时检索之用，而是应该以知识表达为目的来解释法律。为此首先需要建立有关法律领域的概念模型，这必须以人类法官对法律概念的共识为基础。
当前火爆的人工智能聊天机器人ChatGPT，原本只是通过深度学习建立算法模型，从而实现与人类交流的目的，但实践证明，当人工智能的深度学习以及数据库达到一定量级时，人工智能就会产生一定的推理能力，这在大型语言模型为技术基础的ChatGPT上也得到了体现。ChatGPT可以依据用户的指示，概括一篇文章的中心思想，并且当用户对回答进行纠正时，ChatGPT会修正其回答。这样的概括能力以及推理能力正是裁判文书中生成法院观点所必须具备的能力。我们认为，基于法院观点生成的复杂性，可以先建立一些简单民事案件的数据库及算法模型，从易到难，再进一步推广扩大适用案件类型的范围。以民间借贷案件为例，通过NLP（自然语言处理）技术，可以提取到原告的诉请及事实描述，结合证据的审查，通过深度学习建立的算法模型，能够自动输出法院观点。
在基于建立系统性的证据推理和法律推理模型后，民事案件判决的生成对人工智能而言并不是难事。简单民事案件的判决主要分为支持全部或部分原告诉请和驳回原告诉请。人工智能可以通过深度学习，提取事实描述中关于原告诉请的关键词，根据前一步输出的法院观点，来判定是否支持原告诉请。
为了发挥人工智能在审判实践中的突出优势，我们还需要更进一步深化研究人工智能的深度学习能力，将人工智能更好地与法院的论证规则结合，以应对审判实践中出现的复杂多变的情况，实现人工智能在审判领域的长远发展。
四、实践要点：智能化审判中大型语言模型应用的规范路径
（一）司法数据库的入库筛查及本土化
中国司法大型语言模型建立的基石是准确、统一和完整地整合中国法律、法学理论和裁判文书的司法数据库，但目前司法数据库的建立依然存在着适用性问题。
首先，当前我国司法数据、裁判文书的来源并不全面，以裁判文书为例，根据《最高人民法院关于人民法院在互联网公布裁判文书的规定》，凡是涉及到“国家秘密”、“未成年人犯罪”、“调解结案”、“离婚诉讼”以及“其他不宜在互联网公布的”案件可以不上网。若以裁判文书网作为司法数据库的构建基石，则上述不予公开的案件则不会被纳入数据库中，将导致大型语言模型对“国家秘密”、“未成年人犯罪”、“调解结案”、“离婚诉讼”等案件缺乏训练，无法生成有效的裁判参考。其次，大型语言模型的司法数据库极大程度依赖裁判理由充分、逻辑清晰且非改发错案的裁判文书，但目前我国的裁判文书公开系统则是可能同时存在一审和二审两份完全不同的裁判结果。另外，由于我国的各省份地区存在一定的立法自主权，因此不同地区的法律规则存在一定的差异，这使得研发人员在建立司法数据库时，要考虑到地区性差异，让模型分别完成训练，无疑加大了训练模型的难度。
只有内容详实、数据丰富、质量可靠的案例数据才能成为人工智能大量应用于审判实践中所必备的营养供给。面对当下可参考的案例数据所存在的质量低下问题，应当利用智能辅助机器，对裁判文书网的案例数据进行大量清洗工作，对案例数据作出质量筛选，剔除那些质量低、说理不充分以及错误的裁判，不具有代表性的案例数据，选择符合高质量以及优质条件的案例数据，并将其全部纳入统一的案例数据库中，经过清洗后纳入数据库中的案例数据可以具有相当的全局代表性。另一方面，应当收纳最高人民法院发布的公报案例和全国各地法院发布的指导性案例，并将这些典型案例作为数据库的核心参考，这样不仅能够解决裁判的地区化差异，还能够将司法数据库整体维持在一个高质量的水平。此外，为了有效保障案例数据的质量，还需要确定对所公布案例数据的质量负责的主体，对此，不同的地方有不同的规定，如北京法院实行的是办案法官负责制，由承办法官对所公布案例数据的质量负责。浙江法院实行的是法院负责制，由法院对所公布案例数据的质量负责。为了保证上传至案例数据库的案例数据是高质量以及优质的，更合理的做法是由法官负责公布案例数据的质量，因为案例数据公开上网实际上是法官审判权的延伸，依旧在法官的责任范围之内。如果让法院整体对上传案例数据的质量负责，那么法院通常只会对其上传的案例数据作形式审查，无法作实质审查，这样便无法将保障案例数据的质量问题落到实处，因此由法官对上传案例数据的质量负责是解决数据库案件质量问题的最佳方法。
（二）大型语言模型的“知识幻觉”问题及RLHF 技术的引入
基于现有的大型语言模型技术的架构分析，由于在数据库训练阶段，模型可能会吸收、学习一些当事人诉求、辩论意见、辩护意见等并非基于案件事实或法律的文段，导致最后模型的输出结果的生成无法保证符合人们期望的结果，甚至可能会出现凭空捏造事实、法律或数据的情况，这大大违反了司法审判的严谨性、公正性要求。
2023年4月，美国一名律师办案时用聊天机器人ChatGPT搜集了6个司法案例呈交法官，但法官发现那些案例全是子虚乌有。法庭文件显示，该名律师看到这些案例信息后追问ChatGPT信息是否属实，机器人称“千真万确”，还给出了所谓的信息出处。ChatGPT 类技术在模型训练与知识构建阶段，主要依赖Common Crawl 这一网页数据集。这些数据体量深不可测、内容参差不齐，在缺乏人工校准与监督的学习方法下，大规模语言模型往往会将其中的错误知识与价值吸收领会。基于训练语料的缺陷，ChatGPT 类技术尚无法避免出现事实错误、虚假陈述和错误数据，甚至可能无法输出一个可理解的结果。尽管针对上述问题，可以通过指令微调和基于人类反馈的强化学习等方式进行校准，但这仍无法保证生成内容的正确性。OpenAI 在发布最新一代大规模语言模型GPT-4 时，仍明确指出：尽管相对于先前模型，GPT-4 已经显著减轻了知识幻觉问题，但其仍不完全可靠，可能会产生错误答案。这些由训练语料造成的事实性错误，在大规模语言模型应用于法律领域时也同样会出现。一方面，司法数据库内容的质量参差不齐，大规模语言模型在训练时可能同时“学习”了正确与错误的法律知识。考虑到法律知识的专业性，针对具备一定复杂性的法律问题，语料中的错误知识可能远多于正确知识。另一方面，法律的修订与废止还会带来法律知识的重大更新与调整。常见的情形是法律修订前后针对同一问题的答案可能迥然差异。然而，大规模语言模型在缺乏足够新训练数据的基础上仍然只能基于已有数据进行知识生成。因此，在现有技术架构下，ChatGPT 类技术出现对法律问题的“错判”或者“虚构”在所难免。“知识幻觉”将严重影响ChatGPT 类技术在法律领域的深度运用，必须依靠现有技术将其影响降到最低。
解决大型语言模型的“知识幻觉”在现有技术条件下是一个重大难题，也是类ChatGPT技术目前亟待解决的最大阻碍。针对“知识幻觉”问题，未来需要强化法律数据库的质量供给和基于法官知识反馈的强化学习机制，克服“知识幻觉”以实现法律人工智能的进一步迭代。在训练大型语言模型时，应当增强裁判文书输出结果的验证功能，构建基于法官逻辑思维和知识积累的强化学习机制。通过基于人类反馈的强化学习机制（RLHF），ChatGPT 能够以符合人类意图、知识观与价值观的方式回答问题，这在技术界也被称之为人机“对齐”（AI Alignment）。然而，考虑到法律场景价值观的特殊性和法律知识的严谨性，仅仅基于基本的RLHF 技术尚无法有效实现与法官常识、认知、需求与价值的对齐。此时，就需要构建基于法官反馈的强化学习技术，以此实现对ChatGPT 类技术的领域优化。然而，单个法官可能会因为存在个人偏好、专业领域和实践经验等的差异，在其对大型语言模型的生成文本进行反馈时会体现上述差异，这就使得模型训练会出现一定的偏离和误差，增加训练的时间成本。因此，应当由各级法院抽调理论研究和实践办案的骨干法官组成专业法官模型反馈小组，在向模型进行反馈训练时要由小组进行讨论，尽可能剔除个人偏好等异常因素，借助模型反馈小组中法官的专业知识对ChatGPT 类技术生成的法律文本进行评价，修正生成错误答案的算法，使得语言模型更加符合法律领域的常识与认知。另一方面，在法律领域，必须考虑一些超越特定社会结构和经济结构的基本伦理和价值，具体而言就是个案的公平正义和维护公序良俗及人民群众的朴素情感。此时就更加需要借助基于法律人反馈的强化学习技术，运用法律领域知识及其背后的理论命题、价值导向对智能化技术进行伦理控制与矫正，使得其生成的内容更加符合司法审判的价值追求与伦理规范。
图3：基于专业法官模型反馈小组的RLHF技术介入LLM模型训练
（三）建立算法审查机制强化大型语言模型的算法公信力
在大型语言模型的训练和结果生成中，从数据使用、算法设计、算法目的、算法标准确定的整个过程中都有可能暗藏着算法偏见甚至是算法歧视，此外算法权利在审判中的运用和不透明性将会不可避免地带来法官、当事人和社会的信任度问题，这就有极大可能使得人工智能审判的输出结果不被信任和作为参考。究其深层原因，主要如下：
第一，案例数据存在偏见。算法操作的基础是案例数据，而这些案例数据本身就带有偏见。因此，在算法运行的过程中，这些偏见会传递到算法的输出结果中，从而导致输出结果具有偏见性。这种偏见性来源于案例数据的不同质量，有些案例数据质量高，而有些质量低。智能辅助机器无法准确判断数据质量的高低，因此在学习过程中会平等学习所有案例数据，并将其作为裁判结论的重要依据。
第二，算法作为一种决策工具，其获取裁判结果的具体过程被隐藏起来，无法为人们所知。这对整个审判运作产生了影响和控制，使得算法失去了其技术纯粹性，逐渐摆脱了“工具”的地位，而具有了权力属性。算法的使用可能导致事实认定的盲从和法官独立判断的缺失。由于算法的决策过程通常是不透明的，法官可能无法深入理解和审查算法的具体运作细节，从而降低其对案件事实的独立判断能力在实际审判智能化过程中，算法权力从不同层面嵌入审判权的运行。
为解决算法的公信力问题，应当加强对人工智能技术的立法工作。生成式人工智能的算法和数据是其核心，也是立法规制的重点领域，提高算法的透明度，保障公众的知情权是立法讨论的关键。从立法上，应当规定算法的公开路径。但算法的公开并非指企业核心技术全面向公众展示，因为算法涉及到国家机密或者企业的商业秘密，要求公开可能会损害国家或企业的利益。因此，司法机关的生成式人工智能算法应当以主动公开为原则，不公开为例外，涉及国家秘密或者合作企业商业秘密的，可以不向公众公开。除此之外，算法的解释路径也应当向公众公开，司法机关应当以简明、易懂、通俗的方式向社会或监管者进行算法解释，阐明算法的原理、目的及全生命周期应用过程等。另一方面，在算法在民事审判领域应用中，相关的立法应当规定一定的算法审查机制以加强的透明度和可解释性。算法审查机构应当由经验丰富的各层级法院法官、大型语言模型的研发人员、维护人员以及其他行政管理人员组成，公众可以向算法审查机构申请信息公开，同时该算法审查机构应当受到法院、检察院、司法部等国家机关的领导和监督。算法审查机构应当在智能辅助机器对案件进行处理之前，对将要应用到的相关算法进行严格的合法性、合理性、公正性审查，保证应用于审判工作中的算法是合法的、正当的、公正的。全国各法院的法官应积极参与算法的监督和优化，并且加强对人工智能技术的使用培训，以确保法官熟练使用人工智能审判工作，并知悉人工智能技术的优势和缺点。
五、结语
中国司法人工智能的建立对于推动审判智能化、建设人民法院信息化4.0版具有重要意义。从效果上观察，大型语言模型为基础的ChatGPT类技术似乎开启了通往通用人工智能的可能。法律领域知识检索问答、文书审查生成、数据分析预测等传统法律人工智能研发中的模块化方案将会逐渐式微，取而代之的则是基于大规模语言模型之上的“精耕细作”。大型语言模型在中国司法中的应用前景十分广阔。随着技术的不断发展和改进，大型语言模型有望成为智慧司法的核心工具之一。总体而言，大型语言模型对中国司法的影响将是革命性的。其应用将提高司法工作效率，减少人为主观因素的干扰，节约司法资源和成本，并推进司法信息化的进程。当然，大型语言模型司法运用面临的挑战和限制也需要得到有效的解决。大型语言模型的应用需要谨慎规划和监管，确保其应用为法治建设和司法公正服务。
推荐阅读