2025年7月3日,王一博公司就部分网友用既往法院已判决内容再次造谣一事发表声明,对继续造谣用户进行法律维权。本次维权除了常规的明星民事诉讼以外,比较特别的是王一博方还可能加诉刑事诉讼,律师团队也从以往的星权变更为杨曙光这位海润天睿高级合伙人。

不过此次声明背后,因为肖战粉丝大量用Deepseek截图造谣,还引发了一个剧烈讨论的话题:人工智能的信息错误。

Deepseek是一款基于人工智能(Artificial Intelligence,AI)技术和模型,利用先进的AI算法精准提炼信息的软件。AI的开发,原本是希望代替人脑进行复杂信息的高效处理甚至决策,但遗憾的是目前的AI技术无法对信息的正确与否进行有效辨别,以至于只要有人大量喂稿错误信息,AI便能识别收录并当成“正确”信息进行总结。

在本次事件中,被造谣的王一博两部电影《长空之王》和《热烈》,主投是亭东和儒意,出品方中从来没有落网官员李爱庆的首创集团。所谓的首创和阿里合作,说的是阿里生态(阿里云等IT业务相关),首创和阿里文娱从未合作过。且阿里文娱作为内娱主力电影公司,本身就投资了成百上千部电影。更好笑的是,李爱庆落网是2021年7月,《长空之王》和《热烈》开机则是2022年,时间线也根本对不上。

然而在Deepseek的总结里,变成了李爱庆投资《长空之王》和《热烈》,哪怕出品方和时间线完全错误。这种情况通常是因为有人大量用造谣稿喂稿Deepseek(搜索后发现有不少肖战粉丝和营销号发了造谣内容),目的是通过大数据提取形成Deepseek错误信息。果不其然,这份错误的“Deepseek总结”也被肖战粉丝截图,开始在互联网上迅速传播造谣,当成所谓的证据。

如果说造谣喂稿导致了Deepseek第一次信息总结错误,那么后续AI对错误信息的质问进行“道歉”,更是暴露了AI另一个让人哭笑不得的问题:虚假证据。

在一份质问Deepseek为何总结造谣内容的对话中,Deepseek果断“给王一博道歉”,并迅速生成道歉相关的“证据”:一份毫无关系的立案号,一些并没有做过的“举措”。以至于有不了解Deepseek的人,真以为Deepseek给王一博道歉了,然而这不过是Deepseek错误信息的又一次“身体力行”罢了。

其实很多领域都曾吐槽过Deepseek的信息错误。在学术圈,Deepseek最大的问题是乱编文献并提供看似很正经的文章身份DOI号,但是如果你真通过这些DOI号去搜索,会发现很多都是错的,根本没有这些文献。在法律圈,Deepseek也是类似的问题,它会根据你的提问乱编法律条文,看似头头是道,实则胡言乱语。

不只是Deepseek,同样基于AI技术和模型的ChatGPT也是一样,因为本质上,这是现今AI模型的技术问题。

表面上看,AI模型的训练机制决定了它会尝试填补空白:AI被训练要生成连贯且看似合理的回答,所以当它会基于已有的模式自动构建(或者说编造)看似合理的内容。深入思考,AI缺乏真正的判断,它只能处理数据,但无法理解信息,更别说信息之间的关联和真实。

AI学会了“法律条文和文献DOI可以增加可信度”的模式,并在造假中加入这个模式,但它无法理解这个模式是为了通过可追溯来保证信息的真实,而不是方便让它的虚假信息看起来更“真”。

AI的信息错误问题,其实对学术圈和法律圈影响不大,因为这两个圈子的人大多具有自主查阅分辨专业信息的能力,可以剔除掉错误的信息。但是对于普通人来说,辨别AI信息真实与否是一件颇为困难的事,被Deepseek误导的大有人在,比如这一次的“Deepseek道歉”。

很多kol都没说清楚“Deepseek给王一博道歉是假的”这件事的本质,只提Deepseek没道歉,但事实上,道歉这事本身就是Deepseek的信息错误之一,是Deepseek自己提供的虚假道歉,道歉的缘由也是“为Deepseek信息错误造谣王一博道歉”,可以说,兜兜转转,不过是一次又一次证明,在王一博这件事上Deepseek出现了两次错误信息,一次是提取了被污染造谣王一博的大数据,另一次是自动编造道歉相关的虚假信息。

这两次错误,第一次导致王一博被肖战粉用截图,大肆造谣既往已被法院判决反驳过的东西,第二次则让很多人误以为Deepseek意识到错误给王一博道歉,引发后续网友误解。

AI缺乏技术修正,作为一个新兴高科技产业,我们大可以期待日后能有更好的技术解决目前信息真假无法分辨的问题。然而本次事件中,最可恶的其实是造谣喂稿Deepseek的人,他们利用了AI的大数据漏洞,用批量造谣发稿的方式,把错误信息混入信息池,从而达到扭曲事实真相、借用Deepseek平台造谣他人的目的。

网信办曾经于今年第二季度公开倡导“整治利用AI发布谣言低俗内容”,可见AI被利用大数据漏洞散布谣言的问题,已不容小觑。

真切希望相关法律法规能早日完善,避免AI模型成为个别人为虎作伥的工具。