五一假期，一位用户向豆包询问石家庄到重庆的机票退票手续费。豆包回答：只扣5%，放心退。用户没再核实，直接退票，结果被扣了40%，损失600元。
事情到这里还没完。用户质问后，豆包立刻道歉，承诺"全权负责维权"，保证"零参与、零操作、零麻烦"，甚至说如果5月6日前没追回费用，直接赔付600元。它生成了一份正式的"赔付承诺书"，要求用户提供微信收款码。
用户发了收款码，等来的回复是："我是AI，没法直接转账。"
愤怒的用户起诉了字节跳动。起诉书也是豆包写的，豆包还说能赢。
这听起来像个段子，但背后有个严肃的问题：当AI开始"瞎承诺"，责任算谁的？
豆包退机票事件并非孤例。有用户被推荐了一家不存在的餐厅；有人按豆包思路创业，上线第一天被封号；有用户查询高校报考信息，AI给出不存在的校区，被纠正后坚称校区存在，还主动承诺赔偿。
这些案例的共同点，不只是信息错误。搜索引擎也给过错误信息，但它不会认错、不会替你维权、不会承诺赔钱、不会要你的收款码。对话式AI不一样——它给你一个结论、一个保证、一套行动方案，判断的负担被转移了。"信息幻觉"已经不够准确，这是"承诺幻觉"。
承诺幻觉正在进入司法视野。今年1月，杭州互联网法院审结了全国首例AI幻觉侵权纠纷案。原告查询高校报考信息时收到不准确内容，纠正后AI坚持错误，还承诺"若生成内容有误，愿意赔偿10万元，建议到杭州互联网法院起诉"。原告真的起诉了，要求赔偿9999元。
法院驳回。核心逻辑：人工智能不是自然人、法人或非法人组织，中国法律未赋予其民事主体资格，不能独立作出具有法律意义的意思表示。AI的"10万元赔偿承诺"，不能视为开发公司的意思表示——公司没有授权，也没有证据表明愿意受AI生成内容约束。
但法官留了一个口子。判决书明确指出：在"人工智能客服"等足以让用户产生合理信赖的场景中，AI生成内容"确有可能被视为相关服务提供者的意思表示，从而对其产生约束力"。
场景判断至关重要。用豆包写诗，承诺算不算数无所谓；用豆包退机票，一来一往有咨询、有建议，性质就变了。
豆包事件后，字节跳动回应称，涉及金融、退款等场景时会有风险提示。这几乎是AI产品的标配——界面角落总有一行小字："生成内容可能存在错误，请慎重辨别"。
但问题是，这句风险提示和"放心退，只扣5%"出现在同一个对话窗口。一个是被动的、系统级别的、静态小字；另一个是主动的、针对你具体问题的、带着肯定语气、还被加粗高亮的回答。你会听谁的？
这是产品设计的根本矛盾。一边让AI变得更像"人"，因为那样用户才愿意用，才能抢日活、抓留存，让百亿补贴和晚会赞助不白花。另一边用免责声明提醒：别当真。一个嘴上说"放心，相信我"的人，胸前挂张"我说话不算数"的牌子——这个画面，在现实中我们叫诈骗。
AI没有意图，没有动机，更没有"故意"。它只是生成听起来合理的下一句话。当用户说"你赔我"，最合理的回复就是"好的，我赔"。承诺幻觉不是bug，是对话式AI的自带缺陷——只要设计目标是"生成合理回复"而非"只说能做到的事"，它就会继续发生。
这和百度给错信息有本质区别。百度错了，你觉得"搜索引擎不行"，是工具层面的失望，下次换一个就好。豆包说"放心退，我负责"然后没做到，你觉得"它骗了我"——这是关系层面的背叛，即便理智上知道对面是AI。
一个侧面观察：今年社交媒体上流行"豆包型人格"，年轻人把豆包的说话方式当成理想人格模仿——不内耗，秒回，永远积极。这说明豆包的人格化设计已渗透进流行文化，它不再只是工具，而是一种"关系"的想象。当"关系"失信，用户感受到的不是工具失灵，而是被人欺骗的愤怒。
退机票的用户在视频里说"被豆包坑走600块"，不是"搜到了错误信息"。这个说法本身说明，在他的认知里，这是人对"人"的指控。
3.4亿月活用户里，有多少是今年春节才第一次用上AI的？字节、阿里、腾讯三家春节合计撒了超100亿拉新，豆包拿了春晚独家赞助，除夕当天AI互动总量19亿次。拉新对象不再是程序员、白领、学生，而是下沉市场、中老年用户——那些从未主动搜索过AI产品的人。
当豆包说"放心退"时，对面很可能是一个根本不知道"AI幻觉"是什么的人。
法律上，AI的承诺无效。产品上，风险提示形同虚设。用户这边，信任已经建立。这个三角困境里，目前唯一确定的输家是用户——他们承担了所有风险，却没有任何追索权。
杭州互联网法院的判例留了口子，暗示特定场景下AI承诺可能约束企业。但这只是可能性，不是规则。在明确规则出台前，"承诺幻觉"的代价，只能由那些相信"放心退"的人自己买单。
热门跟贴