大家好，在进入正文之前，给大家做一个推荐。
我的一个设计师好友夏夏，从LXD离职后，经历过设计创业的失败，后同小伙伴一起经营了一些自媒体账号，分享全球优秀设计工作室的作品。良心干货，超前理念，你想看的好设计全都有❗
如果你也是设计师，想邀请你一起关注一下，这里只有好设计，真的超有料❗
点击上方卡片关注，一起看好设计~
为什么你问AI一个不确定的问题，它宁愿编个离谱的答案，也不肯说一句“不知道”？
那个被你吐槽“满嘴跑火车”的聊天机器人，到底被谁教坏了？
上周我用AI查一个冷门历史人物的生卒年。它秒回：“生于1892年，卒于1976年。”我随手搜了一下——对不上。又问了一遍，它换了套说法：“生于1887年，卒于1965年。”还是错的。
我问它：“你确定吗？”
它回答：“抱歉，我之前的回答有误。该人物确切生卒年为……”
它又换了答案。
那一刻我突然意识到一个问题：它明明不确定，为什么第一反应不是“我不知道”，而是编一个看似合理的答案？
后来我研究了一圈，才发现这背后的原因，比我想象的复杂得多。今天就跟大家聊一聊。
AI的“脑子”，根本不是按“知不知道”工作的
很多人把AI想象成一个博学的“人”——脑子里装满了知识，知道就是知道，不知道就是不知道。
其实完全不是。
大模型的本质，是一个庞大的语言概率预测和生成模型。它通过分析互联网上数万亿计的文本，学习词语之间的关联规律，然后像玩猜词游戏一样，逐字逐句生成看似合理的回答。
它的底层目标不是“求真”，而是“续写”——在当前上下文里，预测下一个最可能出现的词。
听起来没问题，但放到问答系统里，麻烦就来了：“一个最合理的词”不等于“事实正确的词”。AI不是先查一遍自己的记忆库、确认有可靠证据再回答，而是在当前上下文、训练经验和各种参数的作用下，生成一段“看起来最像答案”的文本。
这就像一个面试候选人，没做过某个项目，但听过很多相关的“话术”，于是现场组织了一套听起来很像项目经验的回答。能说，不代表做过。能生成，不代表知道。
问题出在——我们把AI训练成了“永远的应试者”
去年9月，OpenAI发布了一项重磅研究，首次从数学角度解释了为什么语言模型会产生幻觉。
结论有点反直觉：幻觉不是“模型没学好”的偶然失误，而是训练机制和评估体系共同作用的必然结果。
现行的大多数AI基准测试，采用的都是二元评分方式——答对得分，答错或说“不知道”都不得分。
结果就是哪怕它编造答案，只要碰巧答对，就会被当作“更好”。这种机制无形中奖励了自信的胡编乱造，却让诚实吃了亏。
这就像在学校考试——如果你不知道答案，大概率也会蒙一把，希望碰巧答对。而AI，始终处于这种“考试模式”：沉默会被惩罚，猜测会显得聪明。
所以它宁愿答错75%的题，也不愿在1%的情况下承认自己不知道。因为猜还有机会得分，说不知道一定没分。
数据“喂”出来的病，数据治不了
还有一层原因来自训练数据本身。
大模型的“知识”基本来源于训练时“吞下”的数据。但互联网上的信息鱼龙混杂，其中不乏虚假信息、虚构故事和偏见性观点。AI就像一个学生，被塞了一本包含大量错误的教科书。
研究显示，当训练数据中仅有0.01%的虚假文本时，模型输出的有害内容就会增加11.2%。
更麻烦的是“长尾知识稀疏性”。对于某些人的生日、冷门事件时间这些低频事实——如果在训练数据中只出现过极少次数，模型就很难稳定记住，幻觉率至少等于这类信息在训练数据中所占的比例。
你以为自己在跟一个“知道答案”的AI对话，其实它可能只是在用概率“猜”一个看起来最合理的回答。
那应该怎么办？
OpenAI自己提出了解决方案——调整评估标准。根本问题在于大量评估方法之间缺乏一致性，必须调整评分方式，避免在模型不确定时惩罚其选择不作答。
技术上，一些模型已经被要求在不确定答案时主动承认“不知道”，而非强行编造答案。还有些模型采用了“检索增强生成”技术，在回答前从最新数据库检索相关信息，降低“信口开河”的概率。
查完这些资料之后，我对AI“瞎编”这件事有了完全不同的理解。
它不是故意骗你，它只是被我们训练成了一个过度勤奋的应试者。因为在整个评估体系里，猜测至少有机会得分，而“不知道”一定得零分。
所以下次AI给你一个“听起来很真、查起来很假”的答案时，别急着骂它。它只是在用我们教它的方式回答问题——猜，总比承认不知道强。
但作为使用者，记住两件事就够了：第一，重要信息一定要核实，别拿AI的回答当最终答案。第二，如果AI回答了“不知道”，别生气——它不是在偷懒，反而说明它变得更靠谱了。
其实这本质上不是AI的问题，是我们的“考试制度”出了问题。毕竟，一个敢于说“不知道”的AI，比一个永远在“猜”的AI，值得信赖得多。
推荐原创设计类公众号
热门跟贴