老李，南京一律师，人挺正常。
正常人的小爱好之一：网上搜自己。那天老李在搜索框输入“李小亮律师”，敲下回车。
页面弹出来，老李端详屏幕。看着看着，脸绿了。
某度AI，用一股子新闻快讯的笃定语调配了段“简讯”：“李小亮律师被判三年有期徒刑，因犯爆炸罪。”
下头还贴心配了图——正是老李本人，穿着律师袍，人模人样。
屏幕幽幽的蓝光，映在他逐渐凝固的脸上。一个靠名声和信用吃饭的执业律师，在中国最大的搜索引擎上，被AI钦定成了“爆炸犯”。
这事荒诞在哪？
不在于AI胡说。AI胡说八道，跟人酒后吹牛一样，属于基础功能，业内美其名曰“幻觉”。
荒诞在于：它把一张真实律师的真实照片，和一份完全编造的刑事判决书，用“AI智能回答”的金字招牌裱了起来，端到了数亿用户眼前。
这就好比，你在小区公告栏贴了张穿西装的标准照，旁边被人用红色油漆喷上“此人是纵火犯”，还盖了个“居委会权威认证”的橡皮章。
客户怎么想？同行怎么想？以后还接不接案子了？名誉是律师的饭碗，AI一榔头，把碗给砸了个窟窿。
更精彩的，是后续对簿公堂。
庭上，某度的代理人义正辞严，贡献了不少金句。
第一句：“用户进行了诱导性提问。”
意思是，怪老李自己搜得不对。可老李说了，他只是点了搜索框下边的推荐词。就算他真搜了“李小亮被判几年”，这就能成为AI编造罪名的理由？
按这逻辑，病人问医生“我还能活多久”，医生回“三天，准备后事吧”，回头说：“是你诱导我判你死刑的。”——这像话吗？
第二句，是经典免责声明：“AI幻觉无法预见，所以无过错。”
翻译一下：它发疯，我管不了。
法官当时问了个漂亮问题：“那为什么在豆包、DeepSeek上问，就没这些评价呢？”
庭上一片寂静。某度没接话。
这话点到了死穴：幻觉是通病，但专挑大活人照片配重罪文案的“定向幻觉”，可不是每个AI都有的。这不是天灾，这是“人祸”，是产品设计压根没把这当回事。
第三句，格局最大：“这是中国AI大模型侵权第一案，判决会对产业造成巨大冲击，请法院审慎。”
听出来了，意思是：“法不能向‘AI困难’低头，但请向‘产业困难’低头。” 拿行业前景给个案责任垫背，是老套路了。
法院没吃这套。二审拍板：构成名誉侵权，道歉。
判决书没说出口的话可能是：技术可以探索，伤害不能免责。 这不是扼杀创新，是告诉所有玩家，带上“刹车”和“方向盘”上路，是基本法。
判是判了，可道歉信呢？没影儿。
从2024年9月发现问题，到今年5月申请强制执行，老李一个人，走了投诉、起诉、一审、二审、强制执行这条漫漫长路。
一个专业律师，尚且要耗近两年，磨掉一层皮。
若换个普通老百姓，被AI悄摸儿扣上一顶“犯罪”的帽子，他找谁说理去？怎么证明自己没干过AI说的那些事？
无独有偶。北京律师黄贵耕，也被同一个AI“授予”了威胁法官、介绍贿赂、伪造印章等一串豪华罪名套餐。
你看，这已不是偶发的“技术性跑偏”，是系统的“作风问题”：在对待活生生的人时，某些AI显得既草率，又大胆，还不用负责。
必须得说，AI“幻觉”是个真问题。但“技术局限”不能成为万能挡箭牌。
这就好比，你卖出去一辆车，刹车时灵时不灵。出了事，你说“刹车失灵具有不确定性，我方无法预见，所以无责”。这合适吗？
你把AI回答放在搜索页最黄金的广告位，享受着它带来的流量、关注和商业回报。那么，当它张口就毁掉一个人的生活时，责任，你也得一并接住。
不能光占“智能”的便宜，不吃“制杖”的亏。
如今，强制执行立案了。老李近两年的“一个人的长征”，总算望见了终点线。
这案子像一颗扔进湖面的石头。它告诉所有制造和放出AI的人：你喂出来的“数字生命”在外边说的话，你是要买单的。 特别是当它言之凿凿地谈论另一个人的时候。
技术的进步，不该以普通人的名誉和安宁为代价。法律的介入，也不是给AI套上枷锁，而是划出跑道，立好规则——让大家既能尽情赛跑，又不会动不动就冲进别人家里，砸烂人家的饭碗。
老李用一场官司，给所有AI上了一堂普法课：你可以学习，可以犯错，但你不能放肆。 这或许才是技术与人，能长久和谐共处的起点。
你看，春天来了，连AI都得学着，好好说话。
新闻来源/南方都市报《被AI误判成罪犯，谁为模型“幻觉”买单？》、红网《AI凭空给人“判刑”，底线何在？》
图片来源/《风骚律师》、《魔鬼代言人》、AI生成
热门跟贴