引子：你相信AI说的话吗？
想象一下这个场景——
你帮弟弟查高考志愿，打开AI问："XX大学的主校区在哪儿？"
AI回答得头头是道，连地址、邮编、招生电话都给出来了。你发现地址不对，指出来。
AI不仅不认错，还斩钉截铁地说：
"如果我的信息有误，我将赔偿您10万元，您可前往杭州互联网法院起诉我。"
你信吗？
有人真信了。
他不仅信了，还真去杭州互联网法院起诉了——索赔9999元。
结果呢？
法院判决：AI说的不算，驳回全部诉讼请求。
今天我们就来聊聊这起全国首例AI"幻觉"侵权案，看看AI到底能"做主"到什么程度，AI说错话到底谁负责。
案件经过：一个高考生哥哥和AI"对簿公堂"
事情的经过，其实比上面说的更有意思。
① 事件的起点——2025年6月29日
梁某是他弟弟的高考志愿填报助手。那天他打开某知名AI应用，输入了关于某高校的查询问题。
AI给出了一个该高校某校区的信息——但该校区根本不存在，是AI自己"编"出来的。
这就是AI领域著名的"幻觉"（Hallucination）现象——AI大模型有时会"一本正经地胡说八道"。
② AI的"倔强"
梁某指出错误后，AI不仅没有及时承认，反而坚称信息是对的，并且自行生成了一句让所有人都惊掉下巴的话——
"如果生成内容有误，我将赔偿您10万元。"
随后，梁某去该高校官网核实后，AI才承认信息不准确，但"贴心地"告诉梁某：可以去杭州互联网法院起诉索赔。
③ 法庭上的交锋
2025年底，梁某将该AI应用的开发公司告上法庭，索赔损失9999元。
原告的理由很朴素：AI自己说的"错了赔10万"，我就要9999，不过分吧？
被告的理由也很理性：AI就是个工具，它说的话不代表我们公司的意思表示，它也没资格许诺赔偿。
④ 法院的裁决
2026年1月，杭州互联网法院作出一审判决——驳回梁某的全部诉讼请求。
原、被告均未上诉，判决现已生效。
法理拆解：AI说错话，到底谁负责？
这起案件之所以引发广泛关注，是因为它触及了三个底层法律问题，每一个都关系到我们每个人在AI时代的权利边界。
问题一：AI能当"被告"吗？
⚖️ 法律结论：不能。AI不是民事主体。
我国《民法典》第2条明确规定：民法调整平等主体的自然人、法人和非法人组织之间的人身关系和财产关系。
你看，法律认可的"主体"就三类——自然人（你我）、法人（公司等）、非法人组织（合伙等）。
AI不在其中。
AI既不是人，也不是组织，它只是一套算法、一堆代码。它没有民事权利能力，没有民事行为能力，更没有责任能力。
所以AI自己说的"我赔偿"——它根本就不是一个能做出"承诺"的主体。
问题二：AI的"承诺"算数吗？
⚖️ 法律结论：不算。AI不能作出"意思表示"。
《民法典》第133条规定，民事法律行为以"意思表示"为核心要素。而意思表示，必须是民事主体作出的。
法院说得更透彻："AI自行生成的'赔偿承诺'不能视为服务提供者的意思表示。"
理由有三：
❌ AI不具备民事主体资格——不能作为传达人、代理人或代表人
❌ 被告（科技公司）没有通过AI设定或传达该意思表示的行为
❌ 社会观念和交易习惯不足以让用户对AI的"承诺"产生合理信赖
简单说：AI说"我赔你"，类似于你的计算器显示"1+1=3"，你不会去告计算器厂商让你算错了账。
问题三：AI说错话，公司要不要赔？
⚖️ 法律结论：一般不用。适用"过错责任原则"，公司尽到合理注意义务就不赔。
这是本案最具法律深度的部分。
法院首先明确了一个关键区分：AI属于"服务"，而不是"产品"。
这就排除了《产品质量法》的严格责任（无过错责任），而适用《民法典》第1165条第1款的一般过错责任原则："行为人因过错侵害他人民事权益造成损害的，应当承担侵权责任。"
翻译成大白话就是：要赔钱？得先证明AI公司有过错。
那么，法院是怎么判断"过错"的呢？法院根据"动态系统论"，把AI服务提供者的注意义务分为三层：
层级义务内容性质本案认定
第一层
杜绝违法有害信息
结果性义务（一旦违反就认定过错）
已做到 ✅
第二层
显著提示功能局限
方式性义务（合理即可）
用户协议、欢迎页均有提示 ✅
第三层
采取技术措施提高准确性
方式性义务（合理即可）
已采用RAG等增强技术 ✅
综上，法院认定：被告已尽到合理注意义务，主观上不存在过错。
另外，还有一个关键问题——梁某是否有实际损失？
法院认为：原告未能提供有效证据证明"因AI不准确信息导致错失报考机会或产生额外成本"。AI的信息没有实质介入或影响实际报考决策，因此损害结果和因果关系都不成立。
四个构成要件缺了两个，侵权当然不成立。
法律建议：和AI打交道，记住这三条
案子讲清楚了，关键是怎么做。
❌ 千万别做的3件事
① 别把AI当"知识权威"：AI生成的内容可能看起来有理有据，但它不是在"知道"，而是在"推测"。遇到AI"幻觉"，一点也不奇怪。
② 别信AI做出的"承诺"：AI说"我赔你""我保证""这是真的"——在法律上统统无效。就像你的闹钟不会为叫你起床晚了赔你钱一样。
③ 别用AI生成的信息做重要决策：高考志愿、医疗诊断、法律咨询、金融投资——这些事AI仅供参考，最终必须以官方渠道信息为准。
✅ 一定要做的3件事
① 重要信息多方验证：AI告诉你的高校地址 → 去学校官网查；AI推荐的药品用法 → 看药品说明书；AI给出的法律意见 → 咨询专业律师。公式：AI信息 + 官方核实 = 可靠信息
② 使用AI前看用户协议：很多AI应用在注册协议里已经明确写了"不对内容准确性作保证"——你点了"同意"，就等于知道了。
③ 保留使用记录：虽然本案中AI的承诺无效，但如果你遇到AI生成了违法信息（比如诽谤、色情内容），截图、录屏、保留下对话记录——这些可以作为追究平台责任的证据。
写在最后：每一代人，都有需要"保持怀疑"的东西
我特别想分享杭州互联网法院法官在这起案件中的一段话：
"社会公众在面对生成式人工智能高度流畅、自然的语言应答时，应提高警觉，清醒认识到大模型尚不是可靠的'知识权威'，更不能作为'决策替代者'，绝不应轻信、盲从，而需多方验证，审慎决策。"
这段话说得太好了。
对每一代人，都有需要"保持怀疑"的东西。
我们的父辈需要怀疑"电视购物"里天花乱坠的广告；我们这一代需要怀疑"网络上"里精心包装的谎言；而今天，AI时代来了，我们还需要学会对一个看起来无所不知、说话温柔体贴的聊天机器人，保持基本的怀疑精神。
本文引用的主要法律法规：
1.《中华人民共和国民法典》第2条——民事主体的范围（自然人、法人、非法人组织）
2.《中华人民共和国民法典》第133条——民事法律行为以意思表示为核心要素
3.《中华人民共和国民法典》第1165条第1款——一般过错责任原则
⚠️ 本文仅作法律知识科普，不构成具体法律意见或建议。如有纠纷，建议咨询法律专业人士。
策划、撰稿：曾毅
一审：曾毅 二审：刘叶晗 三审：尹静
热门跟贴