打开网易新闻 查看精彩图片

用过AI的都知道

AI经常会一本正经地胡说八道

就像这样:

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

这正是今天要讲的

打开网易新闻 查看精彩图片

其实最主要的原因是

打开网易新闻 查看精彩图片

比如说

“好奇博士今天中午吃了啥?”

这个问题

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

单从比例上看

正确答案在所有可能答案中

占比几乎是0

打开网易新闻 查看精彩图片

更要命的是

这些答案还属于“随机事实”

打开网易新闻 查看精彩图片

也就是说

根据一个答案的是对的/错的

没法推理出另一个答案的对错

打开网易新闻 查看精彩图片

所以

遇到这样的问题,AI没别的办法

只能靠死记硬背

打开网易新闻 查看精彩图片

尽管AI的“记忆容量”

远比人类要大

打开网易新闻 查看精彩图片

哪怕99.9999%的错误答案

都被记住了

剩下的0.0001%的漏网之鱼

也会淹没真正的正确答案

打开网易新闻 查看精彩图片

于是

AI不由自主地开始胡说八道

并且完全相信自己说的就是真的

打开网易新闻 查看精彩图片

这,就是臭名昭著的

打开网易新闻 查看精彩图片
打开网易新闻 查看精彩图片

那什么AI来都要两眼一抹黑

也正是这些问题

是AI幻觉的重灾区

打开网易新闻 查看精彩图片

更何况

为了尽可能满足用户需要

AI更多记住的是

能够举一反三、触类旁通的知识

打开网易新闻 查看精彩图片

至于零散的论文名、法庭文书、

“博士中午吃什么”这样的随机事实

往往在训练AI时就被抛弃

打开网易新闻 查看精彩图片

所以

在你问AI这些问题时

打开网易新闻 查看精彩图片

还有一个原因

让AI瞎编得更理直气壮

打开网易新闻 查看精彩图片

假如你正在考试

遇到一个你也拿不准的选择题

打开网易新闻 查看精彩图片

AI在前期训练时

是要不断做试卷的

而目前各种AI测试题库

打开网易新闻 查看精彩图片

所以,在这些测试里

更敢于瞎编乱造的AI

反而得分能高些

打开网易新闻 查看精彩图片

就算是放开让AI说“我不知道”

问题也不会彻底解决

打开网易新闻 查看精彩图片

就这样,本着

“答的越多,错的越多

不答不错,不错不错”

的精神

AI可能会减少瞎编忽悠你的频率

但也有可能被调教成这样:

打开网易新闻 查看精彩图片

所以归根结底

虽然AI工具很好用

打开网易新闻 查看精彩图片

参考资料:

[1]开闸放水.LLM为什么宁可瞎编也不说“我不知道”?一个信息论的回答[EB/OL].(2026-05-01)[2026-05-06].https://zhuanlan.zhihu.com/p/2002242617455427869?share_code=noDjTTsmH6Q&utm_psn=2033221464749515537

[2]Guo, A.,& Li, J. (2026). Hallucination is a Consequence of Space-Optimality: A Rate-Distortion Theorem for Membership Testing.ArXiv, abs/2602.00906.

[3]Kalai, A.T., Nachum, O., Vempala, S.S., & Zhang, E. (2025). WhyLanguage Models Hallucinate. ArXiv, abs/2509.04664.

[4]Cheng, Q., Sun, T., Liu, X., Zhang, W., Yin, Z., Li, S., Li, L., Chen,K., & Qiu, X. (2024). Can Al Assistants Know What They Don't Know?ArXiv, abs/2401.13275.

打开网易新闻 查看精彩图片