最近经常刷到豆包一本正经胡说八道的段子。
比如昨天高考，有网友问了豆包两个问题，豆包给出了特别温暖人心的答案。
豆包不仅在胡说八道时理直气壮，而且认错的态度还特别诚恳，秒怂滑跪。
比如有网友安排祖国人问豆包，对面那仨人（孙悟空、杨戬、哪吒）战斗力如何，豆包告诉祖国人，他们都是小卡拉米，随便打。
镜头一转，豆包蹲在祖国人灵前忏悔，对不起是我搞错了……
但是，千万别把这些段子当笑话看。
AI的胡说八道只有在你的认知范围内是笑话，可要是答案脱离了你的认知范围之外，你无法辨别真伪，那可就不是笑话了。
去年我写一篇论文，让AI给我找几篇参考文献，它一口气给我罗列了5篇论文，角度新颖，内容详实。
还好我留了个心眼，去网上检索了一下，结果这5篇论文，只有一篇是真的，还有一篇标题和作者是真的，内容是假的。剩下三篇全是AI瞎编的。
我要是真信了AI，那这篇文章就砸了。
一本正经的胡说八道当然不只是出在豆包身上，而是人工智能的通病，这种现象还有个专有名词叫做“AI幻觉”。
关于AI产生幻觉的原因，专栏作家李南南总结说：大模型是基于海量数据训练的，这些数据中原本就有垃圾信息。比如，医学、金融等领域的过时论文，都会导致大模型输出错误结论。而且大模型的语料是有时间节点的，有些大模型的训练数据滞后，对于最新发生的事情就会胡编。
对于AI幻觉，很多人会有一个困惑，为啥AI就不能直接说“我不知道”呢？
这源于大语言模型的训练方式。因为训练数据里，“我不知道”出现的场景太少。人类现实对话中，我们更倾向于给出答案，而不是承认无知。
AI有样学样——它把“给出回应”当成了比“给出正确回应”或“我不知道”更高的优先级。主打一个有问必答，对不对别管。
另外，AI没有元认知——它不知道自己知道什么、不知道什么。它不像你，遇到盲区会心虚、会犹豫。AI的输出过程是黑箱，连它自己（如果它有“自己”的话）也说不清某个词是回忆起来的，还是编出来的。
而这种“理直气壮”又增强了AI的说服力，毕竟在人类社会，理直气壮的背后往往是胸有成竹，但AI从来不知道什么叫心虚。
了解了AI幻觉的成因，解决办法也就呼之欲出。对普通用户来说，就记住一条：AI是工具，不是结果。
聊闲天、写草稿、找灵感，用它很合适。但涉及医疗、法律、投资、学术引用这些，必须交叉验证。它给的法条、论文、数据，你得自己去源头查一遍。
然而这些工作恰恰是很多人不愿去做的。
人们越来越习惯把记忆和判断“外包”给设备。电话号码不记了，交给手机；行车路线不记了，交给导航；现在连知识判断也想交给AI。
这种“认知卸载”一旦形成依赖，人就会逐渐丧失“自己查证”的能力和意愿——不是不想，而是不知道该怎么查、查什么、信什么。
AI幻觉之所以危险，不在于它骗了人，而在于它让人停止了自己思考的过程。
哪怕AI这次碰巧说对了，人也只是得到了答案而不是理解了答案。长期下来，人会变成信息的消费者，而不是知识的生产者。
这不是道德缺陷，是设计层面的不对称——AI被优化来“给出令人满意的回答”，而人没有被训练来“识别令人满意的谎言”。
要破局，不单要靠人更努力或更警惕，还得改变人机交互的规则。
比如强制AI标注不确定性、要求它给出信息来源、在关键领域设置“人类必须复核”的门槛。让AI的“自信”变得可见、可质疑，才能打破这个幻觉的闭环。
而在此之前，我们始终要提醒自己——千万别把AI当成人，尤其别把它当成你自己。
热门跟贴