警示！一律师提交AI生成的虚假案例，遭到法官质询、批评！|代理人|农妇辱骂法官|律师|法律|法院|虚假案例

人工智能技术正深刻改变法律行业工作生态，从专业回答、观点检索到文案润色，AI工具为法律从业者提供了高效助力。但技术红利背后，虚假信息入侵司法程序的风险也悄然浮现。

近日，北京市通州区人民法院审结的一起案件，便暴露出 AI生成的虚假案例对司法公正的潜在风险，亟需警惕。

基本案情

近日，通州法院审理了一起由股权代持引发的商事纠纷案件。诉讼中，原告代理人为了进一步佐证其观点，庭后向法院提交了书面意见，其中援引了名为最高法院的某案例及上海一中院的（2022）沪01民终12345号案件。从代理意见的描述来看，两案的事实细节、法律争议与裁判逻辑都与审理中的案件高度契合，完美佐证了原告代理人的主张观点，初看之下极具参考价值。

出于职业敏感性，承办法官进行了检索核实，结果却发现，这两个案号所对应的真实案件事实与代理人书面意见中描述的情况完全不同。其中，（2022）沪01民终12345号案件实际上是一起民间借贷纠纷，与书面意见中描述的事实完全不符，和本案所涉及的事实亦毫无关联，没有任何相似或者可以参照的情节。在承办法官的质询下，原告代理人最终承认，参考案例是由其提炼本案的事实情节，后反复向某AI大模型软件提问，由该软件生成的参考案例，代理人未进一步核实，而是直接复制粘贴后即提交法院。最终，承办法官依据法律规定，结合案件事实对原告代理人的该部分代理意见未予采纳。

承办法官在判决书中明确对原告代理人的行为提出批评，要求原告代理人引以为戒，在向法院提交参考案例、法条时，应当进行检查和核验，确保内容的真实性和准确性，不得放任人工智能模型生成或者编造虚假信息扰乱司法秩序，一审判决后，双方均未提出上诉，判决已经生效。

法官释法

看似无所不能的AI，背后隐藏着巨大的诚信危机。结合该案审理经验及司法实践规律，可从以下几方面识别AI生成的虚假案例特征：

▶ 案号编排存在规律化痕迹

真实司法案例的案号由年份、法院代字、案件性质代字、审级代字和案件编号组成，其中案件编号遵循受理顺序自然生成，具有随机性和连续性的统一特征。而 AI生成案例的案号往往呈现刻意规律化的特点：多采用“12345”“1234”等连续整数或“111”等具有明显特征的数字，如本案中出现的 “12345 号” 便属此类情况。所以遇到涉及此类案号的案件就要倍加小心。

▶ 案情描述过度贴合需求场景

AI大模型的生成逻辑基于概率统计与语境匹配，当使用者明确输入案件细节后，其生成的案例往往刻意贴合需求，事实细节、论理结论可能与使用者需求高度重合，呈现人为定制化特征。如果向AI提出的需求比较细节，而使用AI检索出的案例过于完美和契合，应当慎重处理。

▶ 难以通过检索方式进行验证

案例是对裁判文书的提炼和总结，AI模型虽能生成案例，但其生成的虚假案例并无真实裁判文书印证。且案件往往存在很多漏洞，AI有时会刻意模糊案件可识别要素，比如当事人的姓名等。故最稳妥的识别方法仍然是通过登录中国裁判文书网对生成案例的真实性进行核实和验证。

法官提示

近年来，ChatGPT、DeepSeek等软件引发的人工智能浪潮正深刻地改变着人们的工作方式，其强大的语言生成能力在短时间内就能输出看似专业、详实的文本。但在没有正确引导的情况下，AI极有可能生成误导性甚至虚假的信息。民事诉讼法及司法解释等对行为人利用AI生成不属于证据性质的虚假参考案例如何处理尚没有明确规定，但AI生成虚假信息对司法秩序带来的危害值得重视，虚假案例干扰了法院的正常审理流程，审判团队不得不花费额外的时间和精力对律师提交的案例进行反复查找和甄别核实，一旦AI生成的虚假信息被参照适用，司法公信力将受到质疑。

法律从业人员应将AI作为辅助工具，而非替代自身专业判断的神器。使用AI时，仍需保持审慎和理性，对AI生成的内容进行严格审查，确保信息来源可靠、内容真实准确。人民法院应当加大审查力度，运用技术手段和专业知识，对当事人及代理人提交的参考案例等资料进行严格甄别，确保司法过程中使用的信息真实可靠。（供稿：北京通州法院）

对此你有不同的观点吗

你是怎么看待的？

在评论区一起聊聊吧~