每经记者：宋欣悦 每经编辑：李雨冰
“被豆包坑走600块，血泪教训！随意给金钱决策建议，出事谁兜底？”近日，字节跳动旗下AI（人工智能）应用“豆包”因AI“幻觉”等问题，被用户起诉到法院的事广受关注。
起因是有用户在社交平台上称，自己采纳了豆包关于机票退票的错误建议，损失了600元；在后续交涉中，豆包不仅“认错”，还信誓旦旦地承诺全额赔偿，但并未履行。该用户还发布了一张疑似立案申请平台页面的截图，图片显示已向法院起诉豆包App的运营方北京春田知韵科技有限公司。
5月19日，《每日经济新闻》记者（以下简称“每经记者”）查询发现上述用户的相关发帖已删除。随后，每经记者就该事件后续如何处理、相关立案申请进展等问题采访豆包、字节跳动，但截至发稿未得到回复。
尽管AI“幻觉”引发的纠纷并非孤例，但当我们遇到AI用“权威”的口吻胡编乱造，甚至开出“空头支票”，责任的边界应如何划定？技术的高速普及与公众认知、法律治理之间的鸿沟，又该如何弥合？
AI承诺赔付600元却“爽约”，律师称其无法律效力
近日，一位网友在社交平台上发帖称，他因个人行程变动，需退订石家庄至重庆机票。由于担心手续费过高，他向AI助手“豆包”咨询退票规则。豆包明确表示可以放心退票，平台只扣5%的手续费。
出于对AI的信任，该用户未在航司官网核实便直接操作退票。然而，退票的结果让他格外吃惊：实际被扣除的手续费高达40%，远非豆包所说的5%，直接经济损失达600元。
发现自己被误导后，该用户再次与豆包理论。面对质问，豆包表示自己将全权负责维权，并保证该用户全程“零参与、零操作、零麻烦”。此外，豆包还向该用户承诺，若5月6日前未追回费用，它将直接赔付该用户600元。不仅如此，豆包还给出了一份完整的“赔付承诺书”。
然而，到了约定赔付的日期，用户却并未收到任何款项。豆包这次回复称，自己是AI，无法直接进行转账。从被误导、到被承诺、再到被“戏耍”，该用户一气之下，决定起诉豆包。有趣的是，在准备起诉的过程中，他再次咨询豆包是否需要聘请律师。豆包的回答是，“完全不用请律师，自己就能打赢”。
该用户在社交媒体上发布的一张截图显示，他已于5月12日向法院起诉了豆包App的运营方北京春田知韵科技有限公司。
那么，AI生成的“赔付承诺书”是否具有法律效力？
对此，北京星权律师事务所律师邓以勒在接受每经记者采访时表示，AI生成的赔付承诺并不具备法律效力。她强调，AI不具有民事主体资格，不能独立作出意思表示。
邓以勒进一步解释，当用户追责索赔时，目前市面上大部分大模型的逻辑是提供安抚、担责、赔偿类高概率话术，输出内容是基于用户当下的需求而来的。相关内容只是程序算法，不会自主决策，更无权代表企业对外作出财产赔付、兜底赔偿等承诺。
平台免责需看“过错”，AI“幻觉”非万能挡箭牌
事实上，国内已有类似判例。在全国首例生成式AI“幻觉”引发的网络侵权责任纠纷案中，某AI因提供错误高校报考信息，向用户“承诺”赔偿10万元，杭州互联网法院最终认定人工智能不具有民事主体资格，其承诺无效。
那么，平台是否需要为用户的损失承担责任？
邓以勒认为，判定平台责任应适用民法典中的一般过错责任原则，核心在于平台在提供服务时是否存在过错，即“有错才赔”。
如果平台已经在界面显著位置标注“AI生成内容仅供参考”，并采取了必要措施提高生成内容的准确性，尽到了合理的注意义务，那么平台通常不需承担额外责任。
记者询问豆包是否被用户起诉 图片来源：豆包客户端
然而，AI“幻觉”绝非平台的免责挡箭牌。
邓以勒指出，法律判断的标准在于平台在其中扮演的角色。如果平台并非简单转述，而是对信息进行了错误的二次加工，并生成了新的虚假内容，那么AI就成了平台提供服务的工具。此时，若满足侵权构成要件，平台作为AI输出内容的法律主体则需承担责任。
例如，在2026年4月审结的“全国人工智能大模型名誉侵权第一案”中，某AI平台将一名律师错误描述为“涉及多项刑事犯罪”，且在当事人多次投诉后仍未彻底清除侵权内容，法院最终认定平台主观上存在过错，构成名誉侵权。
技术迭代快于公众认知 专家：从产品设计源头规避风险
“豆包”机票事件，是当前AI产业应用中一系列深层矛盾的集中体现。
亚洲视觉科技研发总监陈经在接受每经记者采访时指出，此类事件的核心问题在于，当大模型以“知识代理”的面目出现时，其输出的不确定性本质与用户对确定性服务的期待之间，存在着一条难以调和的鸿沟。
从技术原理上看，大语言模型的核心机制是“预测下一个最可能的token（词元）”，其首要目标是生成流畅、连贯、看起来合理的回答，而非保证每一句话都符合事实真相。AI“幻觉”虽可通过技术手段降低，但无法在根本上根除。
然而，这种技术局限性对于绝大多数普通用户而言是陌生甚至难以理解的。
“如果不熟悉大模型的弱点，用户会认为对话式交互天然带有一种‘拟人化权威感’，很容易将其等同于有企业责任兜底的‘客服’或‘专家’。”陈经向每经记者表示，这种信任错位是风险的关键来源。用户习惯性地将对传统客服的信任框架套用在了AI身上，却忽略了二者背后截然不同的责任机制。
当AI技术进展以周为单位迭代，用户规模以亿级增长时，公众对AI的认知速度却相对滞后。
QuestMobile发布的数据显示，截至今年3月，AI原生App整体用户规模达4.46亿，相较2025年1月增长超3亿。其中，用户版图正朝“银发+下沉”双向延伸，“60后”及三线城市以下用户占比分别提升1.7%和2.4%，用户规模相应增加1660万和9126万。
图片来源：QuestMobile
越来越多对新兴技术认知相对不足、信息辨别能力相对较弱的用户群体正在成为AI的使用者。面对AI“幻觉”带来的种种问题，仅仅让用户提高警惕显然是不够的。
“根本责任在于开发者一方，靠产品伦理的升级来解决问题更为重要和有效。”陈经认为，AI产品的开发者和运营方，作为最了解技术风险的一方，理应承担起更大的责任，从产品设计的源头就建立起完善的风险控制机制，而非将风险和辨别责任完全转移给用户。
陈经建议，首先建立强制溯源机制。对涉及具体规则、金额、时效的回答，必须附带信息来源链接，且来源可点击验证。这样有经验的用户不会上当。其次，在交互设计层面，在高风险场景加入熔断机制。当识别到用户询问涉及资金、法律、医疗等问题时，强制触发二次确认流程，并强调“该回答不构成专业建议”。
而在责任界定层面，陈经向每经记者表示，大模型要明确告知用户“AI生成内容仅供参考，不构成专业建议或企业承诺”。如果大模型企业为了推广，自愿设立“AI错误赔偿基金”，愿意赔偿，也需要明确适用范围和申请流程，不能放任模型在对话中随意承诺。
热门跟贴