AI生成内容出错谁担责？杭州法院去年审结人工智能案件21件|中级人民法院|人工智能|原告|法院

原标题：AI生成内容出错谁担责？杭州法院去年审结人工智能案件21件

012025年6月，中国生成式AI用户规模达5.15亿人，普及率36.5%，显示AI快速普及。

02杭州法院审结多起AI案件，直面技术应用的法律挑战，体现司法对新兴技术的关注。

03全国首例AI“幻觉”侵权案中，法院认定服务提供者无过错，驳回原告赔偿请求。

04滨江法院判决AI生成虚假信息构成不正当竞争，强调使用者应尽审核与提示义务。

05杭州出台首份人工智能司法保障意见，明确六类纠纷裁判理念，推动产业健康发展。

以上内容由传播大模型和DeepSeek生成，仅供参考

2025年，被部分网友称为“人工智能发展大年”。

中国互联网络信息中心《生成式人工智能应用发展报告(2025)》显示，截至2025年6月，我国生成式人工智能用户规模达5.15亿人，普及率为36.5%；截至2025年8月底，累计有538款生成式人工智能服务完成备案。

从文案生成，到照片、音乐、视频等领域的拓展；从智能制造到辅助出行……人工智能，正如潮水般涌入每个人的生活，在带来巨大效率提升和便利的同时，也带来了一些新风险。

作为人工智能发展前沿地区，近年来，杭州法院审结多起涉人工智能案件，直面这一技术应用前沿的法律挑战。

如何平衡发展和监管？带着这样的思考，潮新闻·钱江晚报记者来到了杭州市中级人民法院。

审理现场受访者供图

AI是“工具”，使用者不能做“甩手掌柜”

经常使用生成式大模型的读者，对于“AI幻觉”一定不陌生。受当下的技术局限以及训练数据偏差等影响，大模型生成的内容中会存在错误信息、过时信息等，简而言之就是“AI可能在胡说”。

“AI表示，如果生成内容有误，就赔偿我10万元。”2025年6月，梁某通过某生成式人工智能应用询问时，AI生成了某高校某个校区的不准确信息。

在梁某的纠正和指责后，AI仍坚持意见，并回复上述涉及赔偿的信息。梁某认为，AI生成错误信息对其构成误导，而且承诺赔偿，于是提起诉讼，要求研发公司赔偿9999元。

据悉，在注册使用该生成式人工智能应用前，梁某同意用户协议。在《用户协议》中，对“关于输出的不准确性”进行了规定，提到：本服务提供的所有输出均由人工智能模型答复，不构成该研发公司在法律上的意思表示；其可能出现错误或遗漏，仅供参考，不应将输出结果作为专业建议。

日前，杭州互联网法院审结该案——全国首例因生成式人工智能模型“幻觉”引发的侵权纠纷案，法院认定AI服务提供者已尽合理提示义务，且已采取当前技术条件下行业通行的必要措施以提高内容的准确性，故被告不具有过错，未构成对原告权益的损害，遂驳回了原告梁某的诉讼请求。

无独有偶，前不久滨江法院也审理了一起涉及“AI幻觉”的侵权纠纷案。

被告甲某某为一名自媒体从业者，从事商业推广。2023年12月，其使用某人工智能大模型生成并发布涉案文章，称B公司系A公司的重要子公司。实际上，B公司与A公司无关。

甲某某在发布前未对文章内容进行核实，亦未在文章前端显著标注系人工智能生成，仅在后台标注由某大模型生成。文章发布后获得一定阅读量，后被删除。原告A公司认为该行为构成混淆、虚假宣传等不正当竞争行为。

经审理，法院认为其以引流营利为目的发布该虚假信息，明知内容源于AI，可能存在失实，却未尽到与其能力相符的审核与显著提示义务，其行为违反了诚信原则和商业道德，损害了原告的商业信誉，扰乱了市场竞争秩序，构成《中华人民共和国反不正当竞争法》第二条规定的不正当竞争行为。

据此，法院综合考量原告知名度、被告过错、行为影响及维权成本等因素，酌情判决被告赔偿经济损失并发布声明消除影响。

“生成式人工智能服务依据《生成式人工智能服务管理暂行办法》属于‘服务’范畴，而非产品质量法意义上的‘产品’。”杭州市中级人民法院审判委员会专职委员、三级高级法官王江桥介绍，“从政策导向看，对于生成式人工智能服务提供者苛以无过错原则，会不当加重服务提供者责任，限制人工智能产业发展。司法要动态平衡好人工智能技术创新、权利人利益保护与社会公共利益保护之间的关系，既保护权利人利益，又避免过度保护阻碍创新，最终实现人工智能技术创新者‘有利可图’、数据来源者‘有权可分’、公众‘有惠可享’。”

通过这两则案件，虽然审理结果不同，但都深刻地提醒社会公众，应当更加理性地认知AI的功能和局限。作为内容生产的第一责任人，应当仔细审查AI生成的内容，多方印证，避免‘AI幻觉’等错误的出现，造成不必要的损失。同时，应当把‘AI幻觉’等可能存在的服务缺陷以显著方式告知使用者，避免产生商业纠纷。