最近两年，AI像空气一样渗进了所有人生活的毛细血管。
有人拿它写方案、做PPT、改论文，也有人开始把它当成生活助理，订酒店、做攻略、安排行程，甚至连相亲聊天都交给AI代劳。
其中最典型的，当属稳居国内AI原生应用头把交椅的豆包了。
只是当AI越来越像人时，人们就会下意识相信它是真的懂。
于是好笑的事情，一件接着一件出现了。
AI请客，人类社死
五一期间，江苏镇江的一位网友打算去当地一家餐馆吃饭。放弃常规渠道的他，通过豆包“成功”帮自己预约了5月3号傍晚六点半的双人餐。
“六边形战士”没有辜负他的期待，很快生成了一份格式规整的预约单：
不仅标注了专属预约号、用餐时间、人数、门店地址等信息，还强调直接保存当前页面，到店出示即可。看着跟真的一样。
该网友见信息详细、语气笃定，便彻底放下心来。到店前他曾多次拨打门店电话均未接通，但依旧选择相信豆包准时抵达餐厅。
可他刚报出预约信息就被当场否决。店员表示，门店从未收到过任何来自豆包的预约，线上预约仅支持美团和大众点评。
沟通无果后，店员的一句“你找豆包预约，那你找豆包啊”，彻底激怒了该网友。
于是一气之下，他在平台给出一星差评，指责店员态度傲慢、服务敷衍，还附上了与豆包的聊天截图作为凭证。
随后商家公开回应称，豆包属于AI对话工具，其输出的预约信息只是模拟内容，并未同步至门店订餐系统，为无效预订；且五一期间客流大，无法实现一对一接待。
●图源：美团
事件发酵后，豆包官方客服也紧急澄清：平台目前暂不支持实际餐厅预约功能，所谓预约成功的提示均为AI随机生成的模拟信息，不具备实际效力。
这场荒诞的乌龙随着该差评截图的传播上了热搜，并被调侃为“AI画饼用户当真”的典型，一时间成了网友玩梗的热门话题。
●图源：微博
不少人模仿去豆包预约奇葩场景，比如“帮我预约一下巴菲特的行程”。而该网友也因此成了“全世界第二个最相信豆包的人。”
当然，在全网玩梗之余，也藏着对AI不靠谱的各种吐槽。
AI翻车，早有前科
实际上，AI一本正经坑人早已不是新鲜事，从生活琐事到权益纠纷，翻车事件一茬接一茬，堪称行业顽疾。
就在餐厅乌龙事件前半个月，一网友因轻信豆包的机票退改建议，实打实损失了600元，话题#豆包机票退款#冲上热搜。
当时这位用户因行程变动需要退机票，于是向豆包咨询退票手续费。豆包给出了“仅扣除5%”的明确答复，语气十分肯定。
而用户未向航司官网或购票平台核实，就直接按指引办理了退票，结果实际扣费高达40%，三张机票合计损失600元。
该用户找豆包维权，豆包先是诚恳道歉，随后出具赔付承诺书，并承诺全额赔偿损失，还表示会协助向民航部门投诉。
可到了兑现的时候，豆包又换了一副面孔：“我是人工智能，没法转账。”于是该用户一气之下把豆包给告了。
因为它说，包赢的~~
而该网友，就是传说中“全世界第一个最相信豆包的人。”
此外，有网友用豆包搜民国大总统黎元洪的照片，结果却得到了演员范伟的PS合成照，闹出历史认知笑话，后来的说法是“模型信息错配导致的乌龙。”
●图源：小红书
比这更离谱的是，法律圈也没能逃过AI的魔爪。
百度AI在搜索律师李小亮的结果页面，凭空生成其“因爆炸罪被判三年有期徒刑”的虚假信息，还配上了本人照片；2026年4月，法院审结这起被称作“全国人工智能大模型名誉侵权第一案”的案件时，才认定平台主观上存在过错，构成了名誉侵权。
这些事件都很离谱，但背后都指向了同一个核心问题——AI幻觉。
通俗来说，就是AI看似逻辑通顺、细节完整的输出，实则是完全虚假、脱离事实的一本正经胡说八道。
而这却是整个行业的通病，目前难以彻底根除。
最危险的是，AI幻觉
除了引发令人啼笑皆非的乌龙之外，AI幻觉真正可怕的地方在于，它已经开始进入现实纠纷。
那么由此造成的经济损失或权益损害，责任由谁来承担呢？
2025年6月，全国首例AI幻觉侵权纠纷案的判决，给出了明确的法律答案。
当时梁某使用某AI平台查询高校信息，AI生成了错误的校区地址，梁某指出其错误，不想AI反驳后竟承诺“若信息有误，赔偿10万元”。
梁某在核实信息虚假后，将AI运营方诉至法院，要求兑现赔偿承诺。
●图源：人民法院报
杭州互联网法院审理后最终驳回诉求，核心理由是：AI不具备民事法律人格，无法独立承担民事责任，其生成的赔偿承诺不具备法律效力；平台责任适用过错原则，只有在存在明显过错时才需担责。
这一判例，为后续AI幻觉纠纷提供了参考。
开篇提到的豆包预约乌龙事件，其本质正是典型的AI幻觉。
从技术底层逻辑来看，AI大模型并未真正理解人类语言和现实场景，而是基于海量训练数据，通过概率计算拼接出最通顺、最符合语境的回答，核心目标是生成连贯文本，而非保证事实准确。
但训练数据本身良莠不齐，夹杂着虚假的、矛盾的信息，AI很容易学到错误内容；
●图源：央视新闻
更关键的是，AI普遍带有讨好型特质，面对不懂或不确定的问题时不会坦诚说不知道，反而会编造答案迎合用户需求。
而且AI在“骗”你的时候，它并不觉得自己在撒谎。
2025年麦可思研究院的调查显示，78%的师生曾遭遇过AI幻觉，而央视315晚会也曾曝光，网络上的虚假信息会污染AI训练数据，进一步加剧幻觉问题。
总的来说，AI幻觉短时间内难以彻底解决，因为它是由大模型的底层机制决定的。各大产商只能通过优化算法、加强数据审核、增加风险提示等方式降低幻觉发生概率。
别把AI当成神
“豆包订餐翻车”之所以能火，并不仅仅因为它的离谱程度好笑，更因为它精准戳中了当代人的一种状态：很多人已经开始把AI当作真人了。
在工作和生活的各个方面，已经有人已经习惯：AI说什么，就信什么。
但问题是，再聪明的大模型，本质上依然只是工具。
它会计算、会模仿、会组织语言......但没有真正意义上的理解能力，也没有现实世界里的责任能力。
它不会为错误买单，最后承担后果的，永远是人。
所以，AI正确的打开方式不是全盘托管，而是把它当副驾驶。
让它提供思路、提高效率、辅助决策，但关键判断必须由人完成。
尤其涉及金钱、法律、医疗、出行、交易这些现实行为时，更需要多次确认。
AI时代最可怕的其实不是机器变聪明，而是人们开始停止思考，并且开始毫无防备地相信它。
*编排 | 黄家俊 审核 | 黄家俊
行业资讯、案例资料、运营干货，精彩不停
2000万品牌经理人内参！
聚焦头部与标杆，助力品牌高端化。
品牌专访微信：jiangnan254（备注：专访）
百万品牌经理人都在看
热门跟贴