当AI幻觉闯入法庭:律师使用生成式工具的法律边界在哪?

来源:肖飒

文章摘要
最近,两起AI相关事件引起了法律界的关注。 第一起是由北京通州区人民法院审理的因“股权代持”引发的民事纠纷。因原告主张较为特殊,承办法官准许其代理律师在庭后提交《补充代理意见》。

最近,两起AI相关事件引起了法律界的关注。
第一起是由北京通州区人民法院审理的因“股权代持”引发的民事纠纷。因原告主张较为特殊,承办法官准许其代理律师在庭后提交《补充代理意见》。该律师很快提交了意见书,并附上两份所谓“参考案例”,内容与本案高度契合,初看颇具说服力。然而,法官敏锐察觉其文书格式与行文风格疑似AI生成,遂展开核查。结果令人震惊:两份案例均系虚构,其中所谓“上海一中院案例”实际案由与股权代持毫无关联,内容完全不符。面对质询,该律师承认,这些“判例”系其自行提炼案情后,多次向大模型提问生成,因认为“逻辑合理、表述专业”,未作核实便直接作为法律依据提交法庭。
另一起发生在湖北孝感,在这起房屋租赁案中,原告律师提交了一份“强有力”的水电表证据,但图片上竟赫然标注着“豆包ai生成”。
此类事件不仅扰乱司法秩序,更对律师职业伦理提出严峻拷问。飒姐团队郑重提醒:恪守执业底线,敬畏司法权威,切勿让技术便利沦为职业风险的导火索。
一、AI帮写,有什么风险?
(一)职业伦理风险
结合案件事实和诉讼请求,准备真实、合法、有效的诉讼材料,本就是律师谨慎勤勉尽责义务的核心内容,亦属于《律师执业行为规范》明确要求的职业伦理范畴。在通州法院一案中,案涉律师未对AI生成的“参考案例”进行任何核实,便直接作为类案依据提交法庭,实质上放弃了专业判断的底线。这种行为不仅违背了“以事实为依据”的基本诉讼原则,构成对司法资源的不当占用与误导,更辜负了当事人基于专业信赖所托付的法律事务。
当事人聘请律师,是期待其以专业知识和审慎态度维护自身合法权益,而非将关键诉讼策略交由未经验证的算法输出。即便该律师主观上无伪造故意,但“轻信AI输出即为真实”的懈怠态度,已足以构成执业过失——因为律师的身份决定了其提交的每一份材料,不仅承载着对法庭的诚信承诺,也代表着对当事人信任的回应与守护。一旦因图省事而放弃核实,不仅可能损害案件结果,更会动摇委托关系中最根本的信赖基础。
需要特别指出的是,本案中所涉的《补充代理意见》在法律性质上属于律师的诉讼主张与法律分析,不同于《民事诉讼法》第六十六条所定义的“证据”。证据须经真实性、合法性、关联性审查,而代理意见本质上是审判辅助性陈述,现行法律并未将其纳入“伪造证据”的规制范畴。北京市通州区人民法院发布的“任某璐诉曹某、北京某国际旅行社有限公司与公司有关的纠纷案——诉讼参与人向人民法院提交通过人工智能技术获取且未经甄别核实的虚假案例的处理规则”判决书中明确指出:
“诉讼参与人向法院提交以期参考适用的案例,系诉辩意见范畴,不属于证据。故向法院提交未经核实的虚假案例的行为不构成上述条款规定的‘伪造、毁灭重要证据’。但是,诉讼参与人提交虚假案例的行为违反诉讼诚信,妨害民事诉讼秩序,其应当根据情节轻重承担相应的法律后果。”
正因如此,尽管该律师的行为严重违背职业伦理,但因其缺乏伪造故意、未篡改原始证据、亦未造成裁判错误等实质性后果,法院最终未启动司法惩戒程序,仅在判决书中予以严肃批评并记录在案。
(二)刑事风险?先分清场景!
在上文提及的湖北孝感大悟县房屋租赁纠纷案中,原告律师将一张带有“豆包AI生成”水印的图片作为水电表读数证据提交法院。这一行为虽未直接触犯《刑法》,却为我们敲响了重要警钟——是否构成刑事犯罪,关键在于诉讼类型与主观意图。
需特别澄清:《刑法》第三百零六条规定的“辩护人、诉讼代理人毁灭、伪造证据罪”,仅适用于刑事诉讼。而在本案这类民事纠纷中,即便提交了虚假或AI生成的材料,通常不构成该罪。根据《民事诉讼法》第一百一十八条,诉讼参与人伪造、毁灭重要证据,妨碍民事诉讼的,法院可依法予以训诫、罚款、拘留;构成犯罪的,才依法追究刑事责任——但实践中,除非存在恶意串通、虚构债务等严重情节,一般不会上升至刑事追责。
此处,可能有读者要问:不构成伪证罪的话,会构成虚假诉讼罪吗?
根据《刑法》第三百零七条之一及两高《关于办理虚假诉讼刑事案件适用法律若干问题的解释》,虚假诉讼罪的核心在于“无中生有”——即行为人以完全捏造的民事法律关系或纠纷提起诉讼。
而孝感案中,房屋租赁关系真实存在,争议焦点仅在于水电费金额,律师提交AI图片属于对部分事实的夸大或伪造,属于“部分篡改型”行为,此类情形不构成虚假诉讼罪。因此,尽管该行为严重违背诚信原则,但因基础法律关系真实、未虚构整个诉讼标的,依法不满足虚假诉讼罪的构成要件。最终,鉴于案涉律师未造成裁判错误、财产损失等严重后果,且能及时承认材料来源,法院对该律师予以当庭训诫,并未采取进一步司法强制措施。但这并不意味着行为无责——执业失范的记录、行业内的警示效应,以及对当事人信任的损害,同样是不可忽视的代价。
二、AI助手,边界在哪?
技术本身无善恶,关键在于使用者是否守住边界。AI大模型在法律实务中确有提效价值:快速梳理法条、生成文书初稿、提炼争议焦点、辅助类案检索……然而,所有这些便利,必须建立在律师主导、人工核验、责任自负三大前提之上。一旦逾越边界,效率便可能异化为风险。
尽管目前尚无专门针对AI滥用的全国性立法,但司法实践已率先亮明态度。2025年12月,北京通州区人民法院审理的这起“任某璐诉曹某、北京某国际旅行社有限公司与公司有关的纠纷案”,正式入选《人民法院案例库》(入库编号:2025-18-2-494-001),成为因提交AI生成虚假判例引发的案件中具有参考价值的典型判例。其裁判要旨明确指出:



  1. 诉讼参与人在民事诉讼中必须恪守诚信原则;

  2. 提交通过人工智能技术获取但未经甄别核实的虚假案例,属于违反诉讼诚信的行为,应承担相应法律后果;

  3. 情节轻微的,人民法院可予以批评教育或在裁判文书中予以训示;

  4. 情节较重、妨碍诉讼秩序的,可依照《民事诉讼法》第一百一十四条第一款采取罚款、拘留等司法强制措施。
    归根结底,AI是笔,不是脑;是工具,不是决策者。守住“人”的责任,才能真正驾驭“机”的力量。
    写在最后
    AI浪潮奔涌而至,法律人既是见证者,更是守门人。当“幻觉”披上专业外衣,当“生成”伪装成“真实”,法庭不会因技术新奇而降低对诚信的要求,司法更不会因工具迭代而放松对责任的追问。
    通州与孝感的两起案件,看似是个别执业疏忽,实则是整个行业面对智能化转型必须回答的时代命题:我们如何在拥抱效率的同时,不丢失专业底色?如何在借助工具的同时,不卸下职业担当?答案一直没变:技术可以辅助判断,但不能替代判断;流程可以加速,但底线不能让渡。每一份提交法庭的材料,都应经得起事实的检验、法律的审视,以及良知的叩问。
    飒姐团队始终相信,真正的专业,是不畏惧工具的进步,并拥有驾驭工具的智慧与敬畏。愿每一位同行,在AI时代依然手握理性之笔,心怀敬畏之心,以人的责任,守护法的尊严。
    科技虽好,切勿贪杯;
    工具再强,莫忘初心。

技术驱动法律,专业成就未来