「我担心上台演出时的人身安全。」一位加拿大小提琴手在诉状中写道。谷歌的人工智能概览（AI Overview）功能错误地将他标注为性犯罪者，他正为此索赔150万美元。

AI幻觉的代价从"尴尬"变成"危险"

打开网易新闻 查看精彩图片

这不是算法推荐失误那么简单。当用户搜索这位音乐家的名字时，谷歌AI直接在结果顶部生成了一段"事实陈述"——将他与一名同名罪犯混淆。他被迫取消演出、公开辟谣，职业生涯遭受实质性打击。

诉讼核心指向一个被忽视的设计漏洞：生成式AI的"自信错误"（hallucination with confidence）。系统不仅编造信息，还以权威摘要的形式置顶展示，用户几乎不会质疑。

为什么这次索赔金额值得注意

150万美元约等于人民币1080万元。这个数字在AI侵权诉讼中处于什么位置？对比来看：此前多数AI版权案索赔集中在训练数据争议，而本案针对的是输出端的事实性诽谤——更直接、更难用"技术中立"辩护。

谷歌的困境在于：AI概览的设计逻辑是"替用户总结"，这意味着它主动承担了信息筛选的编辑角色。一旦出错，"我们只是索引第三方内容"的传统免责条款可能失效。

音乐家vs科技巨头的博弈点

原告的律师团队抓住了一个关键细节：错误信息持续存在的时间长度。诉状暗示谷歌在收到投诉后未能及时修正，这触及平台责任的另一个层面——明知后的不作为。

对科技从业者而言，此案暴露的合规盲区很具体：你的AI产品有没有"事实核查熔断机制"？当系统对某个实体生成负面标签时，是否触发了人工复核？

150万美元的索赔数字，恰好是加拿大同类诽谤案赔偿上限的参考区间。原告显然做过精算——既足以覆盖法律成本，又足够引起平台方的重视。这场官司的判决结果，可能成为生成式AI事实责任的第一块里程碑。