律师要不要与AI保持“安全距离”？从两个离谱案例说起......

从Chatgpt到Deepseek，生成式AI强大的数据处理与信息收集能力为法律从业者的日常工作带来了巨大的便利，却也催生了律师对于生成式AI工具的依赖，甚至产生了利用生成式AI的工具属性来编织虚假案例、恶意取证诽谤的案件，破坏了司法公正赖以生存的真实性根基。
诚如我国学者所言：“媒介的欺骗性本身属于形式层面的欺骗，但其孕育着规范性欺骗的种子。”生成式AI天然擅长缝合现实、补充细节，即使缺少足够的真实信息，也能目的导向地生成符合要求的文字段落。但飒姐团队认为，这种AI幻觉不能成为律师失职、编造判例和提交虚假材料的借口，司法机关应当对此类行为严肃处理，必要时，甚至有“虚假诉讼罪”的用武之地。
今天，飒姐团队在总结近期司法实践和AI使用经验的基础上，跟大家聊聊AI与司法之间应保持一个怎样的“安全距离”？
01、用AI编造虚假案例并作为诉讼请求依据提交，该当何“罪”？
2024年，加拿大British Columbia Supreme Court审理了一起离婚案件，本案进行离婚诉讼的夫妻育有三个孩子，女方带着孩子住在温哥华，男方则在我国工作，诉讼过程中，男方想要争取在中国探视子女的权利，为了表明该诉求存在合理性且有先例支持，男方律师（以下简称“Ke律”）在法律文书中引用了两个由Chatgpt生成的假案例：

该份文件送交对方律师手上后，对方律师发现，无论怎么查都查不到这俩案例的出处，遂向Ke律进行反馈。收到反馈后，Ke律意识到了事情的严重性——对方还真的去查！因此，ke律试图换案例......遭到对方律师拒绝。
最终，Ke律顶不住了，不得不承认这两个案件是自己用Chatgpt搞出来的。为了弥补这个错误，Ms.Ke撰写了一封邮件承认了相关错误发给对方律师，并对同事进行留言让其将电子邮件的副本代交给法官，并且联系了律师协会进行咨询，以及在听证会上积极承认自己误用Chatpt生成案件的错误。
而对于Ke律事件，对方律师要求Ms.Ke个人承担特别费用（注：在加拿大法律中，特别费用/Special Costs 是一种特殊的费用赔偿制度，用于在特定情况下将胜诉方的法律费用转移给败诉方。与普通费用/Party and Party Costs相比，特别费用的赔偿范围更广，旨在对败诉方在诉讼中的不当行为进行惩罚）包括原告律师事务所进行相关法律调查的费用，以及Ms.Ke个人延误处理虚构案件所造成的损失，包括时间、费用、文件准备等。
根据加拿大的法律规定和司法先例，律师只有在实施了“严重滥用司法系统、不诚实不正当的恶意行为”的情况下才需支付“特别费用”，仅是“错误、判断错误甚至疏忽”是不够的。
原告律师认为，Ke律可是一个法学博士，干出这种事是极其不专业的，不能用简单的“无心之失”糊弄过去。法院则认为，虚构案例的行为无疑是扰乱了司法公正，但是这样的虚构案例客观上并不能够做到在专业律师手上“蒙混过关”，来成为支撑诉讼请求的依据，此外，学术界和实务界也有差异，Ke律虽然是法学博士，但也不能拿这个来证明ke律的行为“不是一个无心之失”。
说的有点绕，大致意思就是对方律师想追责，但法官觉得用GPT编假案例的行为还不够严重。
因此，法院认定要求ke律支付特别费用的诉求不成立，但法院最终还是裁定Ke律需要支付因用GPT虚构案件导致案件延误处理的相关费用。
02、给AI喂假数据碰瓷：“李鬼”诉“李逵”？
2024年3月，上海市某基层法院处理了一起商标侵权案件。原告“海上祥云”（化名）商标注册人发现，在某搜索引擎输入“海上祥云面点加盟官方网站”时，搜索结果首位显示的是“上海祥云面点网站-加盟总部-专注餐饮加盟20年”的广告链接。原告认为被告“祥云面点”通过购买搜索引擎广告服务并设置与“海上祥云”相近的关键词进行推广，构成商标侵权，遂起诉要求赔偿经济损失及合理开支。
但承办法官在审理案件时发现，被告“祥云面点”的知名度远高于原告“海上祥云”，不应存在“傍名牌”的动机。经向被告核实，被告否认侵权，并称未设置过“海上祥云”关键词。法院随后向搜索引擎公司发出协助调查函，结果显示被告确实未设置相关关键词。两个月后，赵晖晖法官又承办了一起类似的商标侵权案，原告从“海上祥云”变为“四季冒菜”（化名），被告仍是“祥云面点”。蹊跷的是，这两起案件的原告均委托了同一律师团队，且该团队在全国代理了400起类似案件。
在搜索引擎公司介入调查后发现，原告律师系通过同一IP进行多次非正常搜索，恶意触发系统故障，导致被告链接误出现在搜索结果首位。
具体操作为：原告律师团队故意向搜索AI投喂错误数据，持续搜索“海上祥云面点加盟官方网站”或“四季冒菜”等相关词组，跳出正确的网页链接后却不点击进入，直到被告“祥云面点”的推广链接出现在第一个词条，才点击查看，导致大模型出现“幻觉”，认为“祥云面点”推广页面是“正确答案”，从而输出了貌似侵权的结果。原告律师再将这些虚假结果存证后，对正主提起诉讼。
肖飒律师团队提示：在不考虑是否达到“情节严重”入罪标准的情况下，原告及原告律师的行为已经涉嫌“虚假诉讼罪”。根据两高发布的《关于进一步加强虚假诉讼犯罪惩治工作的意见》第二条：“本意见所称虚假诉讼犯罪，是指行为人单独或者与他人恶意串通，采取伪造证据、虚假陈述等手段，捏造民事案件基本事实，虚构民事纠纷，向人民法院提起民事诉讼，妨害司法秩序或者严重侵害他人合法权益，依照法律应当受刑罚处罚的行为。”
说实话，本案律师及原告可以从“碰瓷”行为中获得的利益与涉嫌“虚假诉讼罪”的刑事风险相较，可谓是严重不成比例。一家之言，飒姐团队人物为，这种损人不利己还风险巨大的事，应当离得远远的。
03、写在最后
从两个案例开看，我们能够发现AI模型自身的中立工具属性与其幻觉的客观产生机制，一方面为使用者提供了“误用”的借口，另一方面也可为律师、诉讼当事人恶意构造虚假事实提供便利。
因此，对于法律行业的从业者，飒姐团队认为，还是需要与AI工具保持一个安全的距离：正确的利用其放大自己的专业能力可以，走歪门邪道不可以。另外，律师必须意识到，AI输出的内容并非完全真实可靠，如果要在司法实践中使用AIGC生成物，则必须对其进行人工二次复核。