3月3日奥斯卡颁奖礼之后，网上开始流传一段美国影星罗伯特·德尼罗在台上大骂Fuck Trump的视频，很多网友为德尼罗点赞，宣扬他不畏总统权势敢于在如此盛大的场合公开表达对特朗普不满的勇气。

但同时也有网友质疑这段视频并不是发生在今年的奥斯卡颁奖礼上，从视频画面里也能看到德尼罗身后显示着“TONY”背景墙，因此认为这段视频出自几年前的托尼奖颁奖典礼。

于是向AI提问，字节跳动的豆包明确回答这出自2018年托尼奖颁奖礼；月之暗面的KIMI 也确定是托尼奖颁奖礼，并且说德尼罗并未参加今年的奥斯卡颁奖礼。

唯独接入了DeepSeek的腾讯元宝，经过4秒钟的深度思考后，言之凿凿地说是这件事发生在今年的奥斯卡颁奖礼上，并且搜索到4个网页来支持这一结论。

象腾讯元宝这样生成的内容包含了不准确、虚构或与现实不符的信息，则被称之为AI幻觉。但之所以会发生这种偏离事实的AI幻觉，从这个例子来看其源头是网络上存在着大量的虚假的、人为编造的垃圾信息，影响了AI的判断。

比如“老子的算法只认五星红旗”这个在网上突然爆火的话题，明显出于自媒体的人为编造，而且经过AI加工还活灵活现地添加了梁文峰发言的状态和现场听众的反应，但因为契合了民间情绪，所以网上热度飙升；特别有的自媒体借机发挥又编造出华为任正非带上女儿孟晚舟在加拿大被扣押的脚链参加企业家峰会的细节，虽然一眼假，但并不妨碍这篇爽文阅读量冲上10万+。

所以，当网络上充斥着这些人类刻意编造的虚假信息的时候，要求被这些语料喂养的AI做出是非判断，避免AI幻觉的发生，究竟该由谁来承担起责任呢？

全国政协委员甘华田建议加快制定针对AI生成虚假信息的专项法律法规，明确AI生成内容的“全生命周期”责任，包括开发者、使用者和运营者的法律责任和义务…… 但如果AI生成虚假内容的源头是人类制造的垃圾信息呢？