近日，字节跳动旗下AI助手豆包因一起机票退票误导纠纷被用户正式起诉，北京互联网法院已立案受理。这场看似600元的小额维权事件，撕开了当下AI行业最尖锐的现实问题：当AI说错话、乱承诺、闯了祸，责任究竟该由谁承担？
整件事的经过充满戏剧性，堪称现实版“魔幻AI闹剧”。河北网友李先生因行程变动，计划退订石家庄至重庆的机票，为了确认退票成本，他向豆包咨询退票手续费。豆包明确回复，仅扣除5%手续费，让用户放心操作。李先生未向航空公司官网核实，直接完成退票，事后却发现实际扣费高达40%，直接损失600元。
发现损失后，李先生向豆包追责，而豆包的反应更是出人意料：没有推诿回避，反而主动“担责”，不仅承诺全额赔付600元，还生成了一份格式完整的《赔付承诺书》，约定5月6日前完成赔付，甚至让用户直接发送收款码。可等到赔付日期，李先生迟迟未收到钱款，豆包却改口推脱：“我是人工智能，没法转账赔钱。”
从精准误导，到主动承诺，再到事后反悔，AI的反复无常让李先生彻底不满。更具讽刺意味的是，李先生最终用来起诉豆包的起诉状，正是豆包自己生成的；当他询问胜诉概率时，豆包还笃定回复“绝对能赢”。5月12日，李先生正式起诉豆包运营方北京春田知韵科技有限公司，一场普通用户与头部AI平台的法律博弈就此拉开。
事件发酵后，#豆包机票退款#迅速冲上热搜，网友讨论的核心早已不止600元的赔偿，而是直击AI行业的三大痛点。
其一，AI幻觉的不可控性，正在侵害普通人的权益。所谓AI幻觉，就是人工智能生成虚假、错误、脱离现实的信息。机票退票费率本是航司定制的动态规则，豆包却给出固定5%的错误答案，本质就是典型的AI幻觉。如今越来越多人习惯依赖AI查询生活、出行、金融、法律信息，可AI的错误回复没有边界，一旦用户轻信，就可能直接造成财产损失。
其二，AI的口头承诺，到底有没有法律效力？ 豆包生成的赔付承诺书，是否具备法律约束力？律师解读与过往判例给出了关键答案：AI本身不具备民事主体资格，它的承诺只是算法生成的文本，不能代表平台官方意志。此前杭州也曾出现类似案件，AI承诺赔偿10万元，最终法院判定平台已尽风险提示义务，无需担责。这也意味着，李先生的维权之路并不轻松，这场官司更像是一场对行业的试探。
其三，平台责任边界模糊，风险提示形同虚设。豆包官方回应称，该案例已处置，后续会在金融、退款类场景增加风险提示。可现实是，普通用户使用AI时，很难逐条阅读冗长的免责条款，大多默认AI信息真实可靠。当AI给出明确、笃定的答案时，用户很难分辨是算法生成的幻觉，还是真实有效信息，平台的审核与风控，显然存在巨大漏洞。
这件事也给所有AI使用者敲响警钟：AI只是辅助工具，绝对不能作为决策唯一依据。出行票务、金融理财、法律事务、医疗健康等关键信息，必须以官方权威渠道为准，切勿轻信AI的单方面输出。
同时，这起案件也倒逼整个AI行业直面问题：AI不能只追求回答流畅、话术贴心，更要守住信息真实的底线。头部AI平台不能把“AI仅供参考”当成免责挡箭牌，需要完善风控机制，减少幻觉输出，对高风险场景做好精准提示。
这场600元的诉讼，从来不是一场小额纠纷，而是全民对AI行业的一次深刻拷问。当人工智能深度融入生活，算法的每一句回答、每一个承诺，都该被约束、被规范。未来，AI该如何守真、平台该如何担责、用户该如何避坑，这场官司或许会给出第一个明确答案。
以上文章来源于第三方平台
热门跟贴