刑事司法人工智能的法律规制

摘要：人工智能作为新兴的科技力量被广泛、深入地应用于刑事司法的各个领域。在带来诸多司法增益地同时，也暴露出了司法人工智能存在数据算法不确定、弱化法官主体地位、加剧控辩力量失衡等问题，损害司法公信力和司法权威。在“智慧司法”的背景下，为保障司法人工智能的有效运行，应当对其进行规制。具体而言，应当在坚持辅助审判原则和比例原则的整体思路下，规范算法监管机制，以及算法决策后的问责和纠错机制。
关键词：刑事司法；人工智能；法律规制
一、问题的提出
信息技术的日新月异，正深刻重塑着人类社会的方方面面。随着大数据时代的全面开启，人工智能技术依托这一庞大的数据基石，正逐步渗透并深刻影响着社会的每一个角落，成为推动社会进步的重要引擎。在司法领域，这一技术的融入为司法体制改革注入了新的活力与可能。
在新时代的法治化、数字化、智能化浪潮中，探索依法治国与数字治理的深度融合，不仅是顺应时代发展的必然选择，也是加速国家治理体系和治理能力现代化的关键路径。2016年，中共中央办公厅与国务院办公厅联合颁布的《国家信息化发展战略纲要》（中办发〔2016〕48号），明确提出了“科技强检”的战略方向，旨在通过科技手段提升司法信息的透明度，进而强化司法公正与正义的实现。
进一步地，2017年国务院发布的《新一代人工智能发展规划》（国发〔2017〕35号），更是将“智慧法庭”的建设提升至战略高度，强调构建一个以审判为核心，以人为本，数据为基，公开为盾，监控为翼的智能化司法数据平台。这一平台不仅促进了证据收集、案例分析的智能化转型，还通过深度挖掘法律文献，实现了法律审判体系与审判能力的智能化升级，为司法公正与效率的提升开辟了新路径。通过这一系列举措，我们正朝着更加智慧、公正、高效的司法体系迈进。
近年来，随着“智慧法治”特别是“智慧司法”顶层设计的提出,“人工智能加法律”系列工作正在审判领域紧锣密鼓地进行着，各地方法院也开始进一步推动司法人工智能运用，大力推进全流程网上办案，研发各类智能化办案辅助平台，实现诉讼服务自动化办理、语音识别转录、案件数字画像、类案智能检索等能力。人工智能在司法领域的深度融合应用已经成为法治社会和法治中国建设的重要助推力。值得注意的是，人工智能技术的应用犹如一把双刃剑，尽管刑事司法人工智能具有提高审判效率、量刑规范化等诸多优势，但是刑事司法人工智能的应用也引发了广泛的质疑和担忧，其中最具代表性的是威斯康辛诉卢米斯案（State v. Loomis）[1]，此案发生后，各方媒体、公众以及学术界普遍表现出对算法的担忧与不信任。已有研究表明，人工智能可能导致裁判规则僵化，剥夺人们对于司法的亲历感，损害司法权威[2]。本文的研究建立在已有研究的基础上，总结刑事司法领域人工智能的应用风险，分析人工智能辅助司法应坚持的理念和原则，并对刑事司法人工智能的法律规制提出完善建议。
二、刑事司法领域人工智能的实践样态
尽管司法领域的人工智能应用受到案件种类与审理阶段的具体限制，但其广泛的应用范围和深入的影响仍不容忽视。放眼全球，司法AI的应用亮点纷呈，涵盖了多个关键领域。例如，在庭审辅助方面，欧盟多国法院已率先采用先进的语音转写智能技术，极大地提升了庭审效率与记录准确性。而在裁判决策层面，美国的COMPAS量刑辅助系统以其精准的预测与分析能力，为法官提供了重要的参考依据。此外，案件管理方面，欧洲ERP系统通过高度集成与智能化的信息处理，优化了案件处理流程，提高了司法效率。而在诉讼辅助领域，新西兰的视听链接系统（AVL）等创新应用，更是通过技术手段实现了远程诉讼的便捷与高效，为当事人提供了更加灵活与便利的司法服务体验。这些全球范围内的实践探索，不仅展现了司法AI的广泛应用潜力，也预示着未来司法体系智能化转型的广阔前景。我国司法人工智能运用重点在于案件争议焦点分析，类案推送，量刑辅助和裁判尺度偏离预警。
关于案件争议焦点分析，当前，全国法院系统已全面推行电子卷宗与案件同步生成机制，实现了案件处理流程的全面无纸化，这一变革为案件纠纷焦点的自动化分析奠定了坚实基础。河北法院在此基础上，创新研发了“智审系统”，该系统巧妙融合了光学字符识别（OCR）与自然语言处理（NLP）的前沿技术，不仅实现了电子文件的即时可视化转换，还能智能归纳争议点，自动生成案件纲要，极大地提升了案件分析的效率与精准度。与此同时，北京法院也不甘落后，其推出的“睿法官”智能系统，在案件纠纷焦点管理方面展现出了卓越的性能。该系统能够迅速调取案件审理大纲，自动梳理待决事实，为法官提供及时、深入的分析与参考建议，有效助力裁判流程的顺畅进行。通过这一系列智能化工具的应用，法院在案件处理上实现了更加高效、精准的决策支持，推动了司法工作的现代化进程。[3]
关于类案推送，最高人民法院依托先进的人工智能自主学习机制与庞大的司法大数据分析能力，匠心打造了“法信2.0智推系统”。该系统独具匠心，能在法官审理案件时，自动且精准地推送相关类案、法条及法律观点，形成三位一体的知识服务体系。更值一提的是，该系统还深度贴合法官需求，实现了类案检索报告的即时生成、关联案件的智能提示，以及民法典适用等特色功能的一键操作，极大提升了审判工作的效率与质量。浙江金华法院通过“类案大数据分析平台”深度剖析类案中各参与主体的行为特征、争议焦点及处理模式，运用司法规则进行精细化分类，构建起一个类案裁判结果规则库的完整体系。这一举措不仅深化了对类案的理解与把握，更为司法实践提供了有力的数据支撑与决策参考。据最新统计数据显示，2020年，全国范围内共有3276家法院实现了基于简单条件的类案推送功能，3250家法院支持法条推送服务，而高达3210家法院则已采纳全要素匹配技术的案件推送方式，这些数字均占到了全国法院总数的九成以上。这一系列成就不仅彰显了我国法院在类案推送技术上的卓越实力，更标志着我国在全球智慧法院建设的浪潮中已稳居领先地位，为世界司法智能化进程贡献了宝贵的中国智慧与力量。[4]
关于量刑辅助，上海高级人民法院在司法实践中，针对海量案例的复杂性与多样性，创新性地将人工智能语义解析技术融入办案流程，通过深度建模与神经网络自主学习机制，对案件事实进行精准剖析与量化评估。这一举措不仅丰富了量刑辅助的手段，还促进了“智能辅助办案系统”等应用的持续优化与升级，为法官在量刑决策时提供了科学、高效的参考依据。海南法院自主研发了“量刑规范化智能辅助系统”。该系统巧妙整合起诉书、答辩状等多源诉讼材料，运用先进的AI技术对这些信息进行精细化分割与分类，实现了案件事实的自动化整理与提炼。更为重要的是，该系统能够基于庞大的大数据资源库，智能匹配相似案例，自动提取相关法条与判例，为法官量身定制量刑建议范围，有效提升了量刑的规范性与精准度。[5]
在裁判尺度偏离预警方面，江苏法院独创“同案异判预警平台”，内置“同案同判”核心理念，依托计算机算法后台严控。一旦系统预判的判决结果偏离预设参数阈值，如因类案样本稀缺或涉案人数众多致裁判相似度不达标，平台即触发警报，启动人工复审流程。贵州法院则推出“法镜大数据比对系统”，以标准值为基准，智能筛查案例间的差异。该系统已广泛应用于全国9万余案例的分析中，精准识别出3000余起存在显著偏差的案件，有效发挥了AI在裁判公正性监督上的作用。[6]
人工智能在司法审判中的智能辅助逐步成为法学界的主流观点，其被视为辅助办案系统的一部分。在刑事司法领域，人工智能的应用通常旨在提高效率、确保正确性和一致性，有效减少人类的主观偏见。实践证明，人工智能的发展与运用，在提高司法效率、约束限制恣意裁判以及减轻司法压力等方面发挥了积极作用。
三、刑事司法人工智能的应用风险
公正与效率是司法的永恒命题，人案矛盾制约司法资源以最合理高效的分配方式实现公平正义，通过引入智能科技将人力从重复机械的事务性工作中解脱出来，投入需要更多精力到案件实质化审理中，是人工智能司法应用承载的理想功能。当前，人工智能司法应用虽然取得一定成效，但也存在诸多风险与挑战。
（一）数据算法不确定
首先，数据质量常受多因素波动，影响稳定性，而数据仓库则展现出标签化、集成化、稳定与时变的特性。算法处理中，数据可能隐含偏见，如种族、性别等敏感维度的不当关联，这些偏见可能源于设计者的主观视角或训练数据的泛化效应。例如，加拿大的CAML算法在司法监视决策中暴露出种族偏见，因错误纳入种族及原住民背景，加剧了歧视问题。同时，数据的时效性要求持续维护与更新，但往往受限于资金等实际条件。在中国智慧法院建设中，面临地方性试点局限、数据根基不稳及流通不畅等挑战。[7]
其次，算法的不确定性深植于其隐秘性与透明度缺失之中，这对司法AI的公正裁决构成了直接挑战，侵蚀了司法的透明与公正基石。以美国广泛应用的“罪犯风险评估智能系统”（如COMPAS）为例，在卢米斯诉威斯康星州案中，该系统因涉及宪法权利侵犯而引发法律争议[参见Loomis v. Wisconsin，881 NW2d 749（2016）]。此案中，COMPAS在量刑阶段被用于评估卢米斯的风险，却因其将种族、性别等敏感信息纳入考量，且因专利保密限制而无法接受公开审查，导致判决公正性受质疑。“算法黑箱”现象凸显了司法AI领域的一个核心难题：决策过程与结果的模糊性与不可知性。这不仅削弱了外界对AI决策逻辑的直观理解，也限制了对其准确性和公正性的有效评估与监督，进一步加剧了司法透明度的缺失。因此，如何提升司法AI的透明度与可解释性，成为当前亟待解决的重要议题。
（二）削弱法官主体地位
鉴于智能系统与裁判者间在知识结构、潜在能力及价值判断上的差异，法官在司法过程中的主导地位受到了一定程度的削弱。面对智能系统带来的实际挑战与潜在权力转移，司法体系尚未全面实施严格的人工智能使用规范。该系统集成了电子卷宗自动化处理、证据识别与评估、社会危险性分析、量刑预测及偏离预警等功能，全面覆盖网上办案流程需求。
在此情境下，每宗案件均经历法官与智能系统的双重审视，智能系统已深度融入司法决策核心，成为判决形成不可或缺的实质性要素，而法官的角色则更多地转变为对智能系统输出的复核与确认者。这一过程凸显了智能系统在司法实践中日益增强的影响力。[8]在传统司法体系中，裁判权素来由法官独立行使。
然而，随着人工智能技术的深入，尤其是生成式AI的融入，这一格局正悄然转变。生成式AI以其独特的逻辑——即通过数据分析学习内在规律以生成新信息，展现出比判别式AI更为显著的主动探索与创新能力。近期，这一变革在司法实践中得到了具体体现。例如，哥伦比亚的法官胡安·曼努埃尔·帕迪拉·加西亚在2023年初公开表示，他借助ChatGPT这一先进工具辅助撰写了关于自闭症儿童医疗保险赔付的裁决书，展现了AI在司法文书撰写中的潜在价值。同年3月，印度旁遮普邦与哈里亚纳邦某法院在审理一起谋杀案时，面对被告人保释申请的复杂考量，创新性地咨询了GPT-4这一ChatGPT的最新迭代版本，询问关于“基于被告人严重暴力行为背景下保释决定的法律依据”。GPT-4综合分析了罪行严重性、被告过往记录及案件证据强度等因素后，给出了专业见解。法院在审慎参考了ChatGPT的反馈后，最终决定驳回被告人的保释请求，这一案例标志着AI在司法决策辅助方面的又一实践突破。[9]这表明ChatGPT这种生成式人工智能在案件最后裁判结论做出中拥有很大话语权与决定权并已取得了一部分由人类法官割让出来的裁判权，削弱了法官作为案件裁判的主体地位，以至于消解了司法理性。
（三）加剧控辩力量失衡
在刑事诉讼架构内，控辩双方虽天然存在力量对比的不均衡，但诉讼精髓在于“基于事实，展开理性交锋”[10]，这一对话机制的有效性建立于辩护方拥有足够的对抗能力之上，旨在防止诉讼沦为单向压制。长期以来，我国刑事司法体系因公安、检察、法院职能划分不明及实践中协作过度，逐渐形成了侦查、起诉、审判三者顺次相接的“流程化”运作模式，其中审判环节往往只是对前期工作的再确认与复审。
鉴于此，当前以审判为中心的诉讼制度革新，其核心在于提升庭审的辩论强度与实质影响力，将庭审视为决定案件走向的关键舞台，力求通过强化庭审的实质功能，重塑诉讼结构的平衡与公正。这一改革导向，旨在打破传统“流水线”模式的局限，确保审判环节能够充分发挥其应有的独立性与决定性作用。尽管人工智能在司法裁判辅助领域的运用提升了效率，却也悄然削弱了庭审的对抗本质，引发了对传统控辩平衡机制的担忧，恐使庭审重归形式化窠臼。我国司法人工智能的发展路径显著带有“国家驱动”的色彩，官方力量在其中扮演了关键角色。[11]此趋势可能诱发技术应用中的公平性议题，尤其是当司法AI的研发与应用聚焦于公安、检察、法院体系时，存在技术资源向公权力倾斜的风险。
此外，信息资源的稀缺性与公众信息能力的差异，构成了司法AI效益普惠的障碍。信息弱势群体在获取、解析及应用司法AI数据上的局限性，不仅限制了他们从中受益的可能，还可能加剧控辩双方的力量不对等，使庭审的实质意义受到质疑，法庭实践面临进一步形式化的挑战。因此，在推进司法AI应用的同时，需审慎考量其对社会各阶层的公平性影响，探索构建更加均衡的信息获取与使用机制。
四、刑事司法人工智能的规制路径
（一）整体思路：坚持辅助审判原则和比例原则
1.坚持辅助性原则
辅助性原则是指人工智能在司法裁判中的定位应仅限于辅助法官对证据的判断，而不能替代法官的审查和裁决。[12]尽管人工智能已被广泛运用于裁判过程的各个环节，形成了法官与人工智能共同行使裁判权的局面，我们必须明确的是，人工智能本质上仍然是一种技术工具。法院引入人工智能的初衷在于提升审判质量和司法效率，其应用在司法领域是一种手段而非目的。智能司法系统系辅助性工具，其性质决定了它不具备独立承担裁判职责所需的伦理支撑与责任基础。[13]在最高人民法院颁布的《关于规范和加强人工智能司法应用的意见》中，辅助审判的核心理念被确立为人工智能应用于司法领域的基本原则，该原则显著地突出了人工智能在司法裁判过程中所扮演的辅助性、非主导性角色。[14]在证据判断方面，人工智能可以提供证据指引，为刑事案件的处理提供方向，但司法实务人员在使用智能系统时不能完全依赖于其结果，必须保持独立判断，避免产生惰性和路径依赖。
辅助性审判准则严格界定，裁判权力专属法官掌握，人工智能不得越俎代庖，其辅助性输出仅为参考之用，对法官的最终裁决无实质约束力，法官在决策时，仍需秉持自由裁量之精神，独立、公正地形成心证。
2.引入比例原则
比例原则在行政法中被称为“帝王原则”， 其影响力亦跨越至刑事司法范畴，尤其在规制公权力机构应用司法人工智能时展现出显著价值。传统观点将比例原则细分为三大支柱：适当性、必要性和均衡性，这些要素共同构成了评估准则的核心。[15]
适当性原则强调公权力行使方式的恰当性，旨在有效促进既定目标的达成。于刑事司法实践而言，公检法机构面临多样化策略抉择，司法人工智能仅为可选路径之一。依据适当性原则，若司法人工智能的应用未能显著助力案件处理的预期目标，则此手段不宜采纳[16]据此，在个案中引入司法人工智能前，需预先审视其效用与目标间的契合度，确保手段与目标间的紧密关联。
必要性原则在公权力行使中占据核心地位，它强调手段的必要性与损害的最小化。在人工智能的应用场景中，这一原则同样适用。首先，需审慎评估人工智能处理刑事案件的必要性，确保其使用是基于案件实际需求，而非盲目跟风。例如，《刑事诉讼法》第148条规定在进行技术侦查时要“根据侦查犯罪的需要”，为司法人工智能的启用提供了参照，即应依据案件处理的实际需要进行决策。其次，预见性是必要性的另一面，必须预先评估人工智能的使用是否会引发不必要的或过度的负面后果，力求在达成目标的同时，将潜在损害降至最低。
均衡性原则也称为狭义比例原则，其核心在于确保所采用的手段所引发的损害与所达成的利益之间维持合理的比例关系，杜绝损益之间的失衡状态。[17]在刑事司法领域内，公权力机构在行使职权时，必须秉持审慎态度，细致权衡行动带来的益处与潜在的成本，以保障权力的行使不会无端或过度地引发负面效应。对于司法人工智能的应用而言，也需要考虑其带来的收益和成本，找到平衡点，决定是否以及如何使用人工智能，特别是在决定是否使用强制性资源来保护或限制个人自由时。
（二）具体路径：优化监管与救济机制
1.强化大数据管理，规范算法监管机制
人工智能的高效运作根植于丰富且优质的数据土壤，缺乏这些数据，智慧司法的愿景便无从谈起。同时，算法设计的效率与相关性追求若失之偏颇，可能潜藏歧视与偏见的风险，危及司法公正。为规避技术漏洞带来的隐患，促进智慧司法稳健前行，强化司法大数据的治理与算法的监管机制势在必行。首要任务是拓宽司法数据资源，构建统一的司法大数据平台，打破当前过度依赖公开裁判文书网数据的局限，深挖法院系统内部未公开信息的价值，通过电子化、数据化改造全国法院系统，消除信息孤岛，促进平台间的深度合作与数据自由流通。其次，算法决策的透明度与公开性亟需提升，以破解算法黑箱难题，保障公民的知情权与抗辩权，同时增强对司法活动的监督力度。这要求建立畅通的沟通桥梁，连接决策主体与案件当事人，完善公开机制，确保算法决策逻辑清晰、过程透明，有效遏制数据滥用现象，维护司法公正。最后，构建高效的案例筛选与更新体系亦不可或缺。需优化案例指导与评选机制，将其深度融合于司法人工智能算法的持续优化中，实现案例的精准筛选与算法的即时更新。同时，设立多元化、常态化的案例退出[18]机制，由公检法等多方主体共同参与，确保人工智能算法所依托的案例库保持高质量与活力，为智慧司法的深入发展奠定坚实基础。
2.完善算法决策后的问责和纠错机制
欧洲司法效率委员会（CEPEJ）在《关于在司法系统及其环境中使用人工智能的欧洲伦理宪章》中提出，无论人工智能工具提供的解决方案法律效力如何，相对人都应被告知其选择权利，包括获得法律咨询和诉诸法院的权利。在司法程序中，相关方需清晰了解人工智能系统针对案件所提建议的内容，且应保留提出异议并请求纠正任何潜在错误的权利，确保司法过程的公正与透明。具体而言，在刑事诉讼中，公诉案件的被告人和自诉案件的自诉人，如认为其合法权益因算法决策而受损，有权向使用者即法院主张。法院应能通过算法的解释来论证决策结果的原因和依据。当法院因专业知识有限而无法做出充分解释时，责任最终应由算法设计者承担。
参考文献及注释：
参考文献：
1.张文显.推动依法治国和以数治国相结合[J].数字法治,2023(01).
2.丁晓东.人机交互决策下的智慧司法[J].法律科学(西北政法大学学报),2023(04).
3.古孟冬、王轩.“智慧法院”让群众更实惠——我省法院以信息化建设提升审判质效推进司法公正纪实[N].河北法制报,2017年07月14日.
4.陈甦、田禾.中国法院信息化发展报告[M].北京:社会科学文献出版社,2021年版.
5.叶锋.人工智能在法官裁判领域的运行机理、实践障碍和前景展望[C].上海:上海市高级人民法院,2019.
6.徐骏.智慧法院的法理审思[J].法学,2017(03).
7.张玫瑰.司法裁判中人工智能应用的限度及规制[J].政法论丛,2023(05).
8.郑曦.司法人工智能运用背景下的被追诉人权利保障问题[J].厦门大学学报(哲学社会科学版),2023(06).
9.于同志.深化以审判为中心的刑事诉讼制度改革[J].中国应用法学,2023(03).
10.王禄生.智慧法院建设的中国经验及其路径优化——基于大数据与人工智能的应用展开[J].内蒙古社会科学,2021(01).
11.宋保振.“数字弱势群体”权利及其法治化保障[J].法律科学(西北政法大学学报),2020(06).
12.胡小伟.人工智能时代算法风险的法律规制论纲[J].湖北大学学报(哲学社会科学版),2021(02).
13.林洧.人工智能司法审判的限度审视与应用路径——基于对ChatGPT算法的法律批判[J].中国矿业大学学报(社会科学版),2023(06).
14.张式泽.刑事司法人工智能的法律规制——以构建实质化人工干预机制为视角[J].北京理工大学学报(社会科学版),2024(07).
15.余凌云.论行政法上的比例原则[J].法学家,2002(02).
16.刘权.比例原则适用的争议与反思[J].比较法研究,2021(05).
17.刘权.目的正当性与比例原则的重构[J].中国法学,2014(04).
注释：
[1] State v. Loomis，881 NW2d 749（Wis 2016）
[2] 参见丁晓东：《人机交互决策下的智慧司法》，载《法律科学（西北政法大学学报》2023年第4期，第59页。
[3] 参见《2018全国政法智能化建设智慧法院十大创新案例（一）北京市高级人民法院——“睿法官”系统》，载法安网https://www.faanw.com/zhihuifayuan/58.html。
[4] 参见陈甦、田禾：《中国法院信息化发展报告》，社会科学文献出版社2021年版，第34页。
[5] 参见韩绪光：《海南法院大数据人工智能助力司法改革量刑规范化智能辅助办案系统效果明显》，载中国法院网2017年7月27日，https://www.chinacourt.org/article/detail/2017/07/id/2936709.shtml。
[6] 参见叶锋：《人工智能在法官裁判领域的运行机理、实践障碍和前景展望》，载《上海法学研究》2019年第5期，第61页。
[7] 参见徐骏：《智慧法院的法理审思》，载《法学》2017年第3期，第58页。
[8] 参见孙庆春：《人工智能司法决策研究》，重庆大学2021年硕士学位论文，第85页。
[9] Taniya Dutta,Indian Judge Uses ChatGPT for Views on Bail Plea of Murder Accused,https://www.thenationalnews.com/world/asia/2023/03/29/indian-judge-uses-chatgpt-for-views-on-bail -plea -of -murder -accused/( last visited on April 17, 2023).
[10] 参见郑曦：《司法人工智能运用背景下的被追诉人权利保障问题》，载《厦门大学学报（哲学社会科学版）》2023年第6期，第44页。
[11] 参见王禄生：《智慧法院建设的中国经验及其路径优化》，载《内蒙古社会科学》2021年第1期，第67页。
[12] 参见纵博：《人工智能在刑事证据判断中的运用问题探析》，载《法律科学（西北政法大学学报）》，2019年第1期，第62页。
[13] 参见张式泽：《刑事司法人工智能的法律规制——以构建实质化人工干预机制为视角》，载《北京理工大学学报（社会科学版）》2023年第6期，第7页。
[14] 参见林洧：《人工智能司法审判的限度审视与应用路径——基于对ChatGPT算法的法律批判》，载《中国矿业大学学报（社会科学版）》2023年第6期，第77页。
[15] 参见余凌云：《论行政法上的比例原则》，载《法学家》2002年第2期，第10页。
[16] 参见刘权：《比例原则适用的争议与反思》，载《比较法研究》2021年第5期，第33页。
[17] 参见刘权：《比例原则》，清华大学出版社2022年版，第24页。
[18] 同前注，第16页。