这两天有一个非常魔幻且很火的事情。
整个事件的案情并不复杂，有个河北网友，起初买了三张机票，后来因为时间变动要退机票，就问豆包会不会产生费用，豆包信誓旦旦的说只会扣除5%手续费，还说超出费用由豆包兜底，他不放心就让豆包写“如果出了问题全额赔付”的承诺书，豆包也写了，他就去退改了，结果花了600……
就让豆包给他转账，然后豆包更离谱，不仅认错，还主动出了一份“赔付承诺书”，说全额承担600元损失。接着网友就把微信二维码发给豆包了，豆包说转了，他说没收到，豆包说它没银行卡，不转了，现在这个人要去起诉豆包。
豆包给该网友的承诺：
该网友起诉豆包：
整个事情就是，一个AI，先给你报了个假数据，然后在你追责的时候，伪造了一份它根本没有能力履行的承诺，然后概不负责。
以下是该网友起诉豆包的完整对话经过：
然后很多人也都在讨论，说起诉能不能赢，豆包到底有没有责任。
核心论点就是，AI产生了幻觉，给了你一个错误的信息，你信了，你亏钱了，那这个责任到底谁来负责？
依据《民法典》第一百四十八条，以欺诈手段使对方在违背真实意思的情况下实施的民事法律行为，受欺诈方有权请求人民法院予以撤销。
如果这是一个真人干的事情，很明显，就是涉嫌欺诈了。
但恰恰这个行为主体是AI……
AI不是民事主体，这点大家都没争议，它不能签合同，不能承担债务，不能被起诉。
所以这个用户告的不是豆包，是字节跳动，这点上法律逻辑是对的。
但要这位网友想要让字节跳动赔钱，需要在法律上需要证明一件事：就是字节跳动作为服务提供者，是否尽到了合理的安全保障和提示义务？
依据《生成式人工智能服务管理暂行办法》第四条，提供和使用生成式人工智能服务，应当坚持社会主义核心价值观，不得生成虚假有害信息。
另外，第九条更加具体：提供者应当依法承担网络信息内容生产者责任。
这是行政监管层面的义务，没有问题。
但到了民事赔偿层面，法院会更关注一个东西，你有没有在用户界面做过显著提示，告知用户AI生成内容可能不准确，不构成专业建议?
你打开豆包，底部大概率有一行小字：内容由AI生成，仅供参考。
就是这行字，在司法实践中，大概率会被认定为“已履行提示义务”。
法院的逻辑可能是，你明知这是AI，AI也告诉你了“仅供参考”，你还拿它的回答当航司官方政策来执行，属于自身注意义务的缺失。
所以，个人猜测这位网友最终会败诉。
这事虽然挺抽象的，但是确实也给大家敲响了警钟：让AI在日常帮你整理一些文件，写点东西还是可以，但是要上升到帮你在生活工作中做一些重要决策的时候，一定要多加小心，至少自己要有审核和查验的过程，反复确认后再做决策。因为AI不负责任的几句失误回答如果你真的轻信了，可能会给生活带来巨大的损失和不便。
账号简介：
国内外热门时事| 案件| 离奇事|大事小事天下事
及时、客观、真实
热门跟贴