摘要
当 AI 换脸、智能写作、文生图等应用渗透至生活与商业场景，大模型引发的法律争议已从理论走向司法实践。平台算法解释义务如何界定？AI 生成物能否构成著作权法意义上的作品？用户与服务提供者的侵权责任边界在哪？
本文依托北京、杭州、广州等多地法院典型判例，系统梳理 AI 服务提供者 13 项核心法律义务（含算法解释、风险告知、数据合规、侵权审核等）与用户 9 大行为规范（含作品认定、授权使用、证据留存等），直击三大核心痛点：训练数据爬取的合规红线、生成内容的著作权归属判定、深度合成技术的侵权责任划分。
无论是 AI 行业从业者、内容创作者，还是普通使用者，这份基于法院典型判例的指南，都能帮你理清大模型应用中的核心法律边界。读懂这些规则，既能避开常见侵权风险，也能在权益受损时找到清晰维权路径，助力在技术创新中合规前行。
一、AI服务提供者的法律责任
（一）一般性平台义务与算法解释
平台对AI生成内容的标识与审查负有一定解释说明义务
平台依据算法对用户内容进行AI生成标识并采取处理措施时，虽有权依据用户协议进行管理，但应当对判定依据和结果进行适度解释说明，不能仅以“算法结果”或“商业秘密”为由免除说明义务。若用户无法提供创作过程证据，平台应就其算法决策的合理性承担举证责任。
案号/法院
基本事实
法院认为
北京互联网法院AIGC标识与算法解释义务案
原告发布一段文字内容，被平台判定为“AI生成未标识”并予以隐藏、禁言。原告主张内容为人工创作，要求撤销处理。
平台有权依协议审查，但应就AI生成判定提供合理解释。原告因内容为即时文本无法提供创作痕迹，平台未就算法判定依据进行说明，判定违规缺乏合理依据，构成违约。
https://mp.weixin.qq.com/s/XBCO8fYfynz5RDVWe6O30Q
（二）针对特定平台或场景的注意义务
提供生成式AI服务时，若以特定平台或场景为应用层，应遵守该平台规则并尽到合理注意义务
提供生成式人工智能服务时，如果服务明显针对某一特定平台（如“小红书”）设计功能模块，并诱导用户生成违反该平台规则的内容（如虚假种草文案），则服务提供者应尽到合理注意义务，避免其服务成为侵权工具，否则可能构成不正当竞争。
案号/法院
基本事实
法院认为
(2024)浙0192民初3396号（杭州互联网法院）
被告运营“AI写作”工具，设置“小红书种草文案”等模块，用户可一键生成仿小红书风格的虚假体验文案，并诱导用户发布至小红书平台。
被告服务以小红书为特定应用场景，生成内容违反小红书禁止虚构体验的规则，未尽合理注意义务，诱导用户发布虚假内容，扰乱平台生态，构成不正当竞争。
芜湖叠纸网络科技有限公司、上海自古红蓝人工智能科技有限公司侵害商标权及不正当竞争纠纷案
上海市浦东新区人民法院（2022）沪0115民初28336号
被告运营“叨叨记账”APP，预置原告游戏《恋与制作人》的虚拟角色，并模仿其情感互动模式，吸引原告用户。
被告软件全面模仿原告游戏的核心设定与互动体验，意在吸引原告用户流量，违背诚实信用原则和商业道德，构成不正当竞争。即便部分内容由用户自定义，亦不影响整体侵权定性。
（三）服务告知与风险提示义务
平台在提供AI功能服务时，应履行充分的告知义务，明确服务限制与风险。
提供AI功能服务（如老照片修复）的网络平台，应在用户协议中以显著方式告知服务限制、效果差异、算力开放时间等重要事项。若告知不充分，导致用户误解或合同目的无法实现，平台应承担相应责任。
案号/法院
基本事实
法院认为
(2025)粤1225民初1337号
原告购买AI老照片修复软件会员，因修复效果不满意、算力不稳定主张退款并索赔。被告辩称已通过用户协议告知风险。
被告虽在用户协议中提及修复效果不确定、算力开放时间，但未能充分、显著地告知用户，履行告知义务存在过错，应部分退还费用。但原告也未尽审慎义务，故不支持三倍赔偿。
（四）对用户生成侵权内容的注意义务（以换脸、声音生成为典型）
平台在提供AI换脸等深度合成服务时，对用户上传内容负有合理注意义务
提供AI换脸等功能的网络服务提供者，即便主张内容为用户上传，也应对明显侵权风险尽到合理注意义务，不能因“用户行为”而完全免责。若平台直接参与处理或提供技术支持，则可能被认定为共同侵权。
案号/法院
基本事实
法院认为
(2024)沪0114民初1326号（嘉定AI换脸案）
被告运营的AI换脸小程序使用原告短视频制作换脸视频进行商业引流。被告辩称视频系用户提供，其已进行人脸替换等处理。
即便视频由用户提供，被告作为平台方直接接收并处理视频，未尽合理注意义务，构成信网权侵权。其换脸行为未改变原视频核心表达，仍构成实质性相似。
楼某某与上海某公司肖像权纠纷案（杭州互联网法院）
杭州互联网法院（2022）浙0192民初6186号
被告运营“AI换脸”APP，提供包含原告肖像的视频模板，用户可上传照片替换人脸生成新视频。
被告未经原告同意，擅自将原告肖像视频作为模板供用户使用，并通过深度合成技术生成伪造视频，构成对原告肖像权的侵害。
宋某某与南京某科技公司侵害信息网络传播权纠纷案（AI换脸视频模板）
南京江北新区人民法院（2023）苏0192民初2741号/南京市中级人民法院（2023）苏01民终10264号
被告运营“AI视频换脸”微信小程序，将原告享有著作权的短视频作为换脸模板供付费会员使用。
被告对平台内视频模板进行了分类编号并直接收费，应对模板来源尽到管理和注意义务。其未能证明模板由用户上传且已尽审核义务，构成对原告信息网络传播权的侵害。
魏江、厦门巨赞网络科技有限公司肖像权纠纷案
成都铁路运输法院（2022）川7101民初6349号
被告运营AI换脸软件，用户可将软件内视频（含原告肖像）换脸后保存分享。原告肖像视频被用户用于换脸。
被告作为运营商，对平台内视频未进行身份核实或授权审核，仅有格式条款提示，未尽合理审核义务。即便视频由用户上传，其利用技术伪造肖像的行为构成侵权，被告不能免责。
平台调用第三方提供的侵权AI生成内容（如声音）进行商业化使用，即使其为“善意”调用方，仍需承担停止侵害、赔礼道歉等民事责任
平台作为AI生成内容的下游使用方，在引入第三方提供的AI功能或内容（如合成语音包）时，负有对该内容权属的初步审查义务。即使平台自身未参与侵权内容的制作，主观上可能“善意”，但其未经授权而商业性使用侵权内容的行为本身，已构成对权利人人格权（如声音权、肖像权）的侵害，依法应承担停止侵害、赔礼道歉等责任。是否承担赔偿责任，则需结合其过错程度（如有无审查、是否明知）等因素综合判断。
案号/法院
基本事实
法院认为
殷某与北京某智能科技公司等人格权纠纷案（全国首例AI生成声音人格权侵权案）
被告三某软件公司利用原告声音训练生成AI语音产品。被告一（北京某智能科技公司）作为平台方，通过接口调用该侵权语音产品在其平台中向用户提供收费服务。
原告声音权益及于该AI合成声音。被告三作为制作者，未经授权AI化使用原告声音，构成侵权并承担赔偿责任。被告一作为平台调用方，其行为同样构成对原告声音权益的侵害。鉴于被告一主观上可能并非故意，且侵权行为依赖于被告三提供的产品，法院判令其承担赔礼道歉的民事责任，但未判决其承担经济损失的赔偿责任。
（五）AI服务提供者的身份认定（技术服务vs.内容服务）
AI服务提供者利用算法组织、生成内容时，可能被认定为网络内容服务提供者
当网络服务提供者通过算法设计、规则设定主动组织用户生成内容，或利用AI技术对用户素材进行加工整合生成新内容时，其行为超越了单纯的技术服务，可能被认定为直接的内容服务提供者，需对生成内容的合法性承担更高注意义务。
案号/法院
基本事实
法院认为
何灵与上海自古红蓝人工智能科技有限公司网络侵权责任纠纷案
北京互联网法院（2020）京0491民初9526号
被告运营记账软件，用户可创设以真人（如明星）为原型的“AI陪伴者”，上传其表情包进行“调教”，系统通过算法生成个性化互动内容。
被告通过算法和规则设计，组织用户形成并加工生成涉及他人人格要素的内容，其行为构成直接的内容服务提供行为，而非单纯技术服务。被告对侵权风险应具有预见性，需取得相应授权。
AI平台在提供模型训练等技术服务时，若已尽合理注意义务，可被认定为网络服务提供者而不构成侵权
AI平台为用户提供模型训练、发布等技术支持服务时，如果其服务本身具有技术中立性，且平台已履行了合理的告知义务，设置了投诉举报机制，在得知侵权后及时采取必要措施（如下架、通知），主观上无过错，则可被认定为网络服务提供者，不承担侵权责任。
案号/法院
基本事实
法院认为
上海金山法院斗破苍穹“美杜莎”侵权案
https://mp.weixin.qq.com/s/Plae0snaOEsqqmodLU9j4g
被告运营的AI生图平台，用户李某利用原告“美杜莎”角色形象图片训练并发布侵权LoRA模型，其他用户可用该模型生成侵权图片。
被告平台提供LoRA模型训练功能本身是促进技术发展的中性技术。平台已尽合理告知义务，设有投诉机制，收到起诉后及时下架侵权模型并更新关键词审核，履行了“通知-删除”义务，主观无过错，不构成侵权。用户李某的行为构成侵权。
AI平台为侵权内容的生成提供直接技术支持且未尽合理注意义务，构成帮助侵权
AI平台不仅提供基础模型，还主动提供或允许用户发布、训练能够生成特定侵权内容的衍生模型（如LoRA），并对此类模型及其生成结果未尽到合理的审核与管理义务，使得侵权风险在其平台上得以实现和扩大。此类行为表明平台对侵权结果的发生持放任态度，主观上存在过错，构成帮助侵权。
案号/法院
基本事实
法院认为
杭州互联网法院AI文生图侵权案（杭州奥特曼案）
杭州互联网法院（2024）浙0192民初1587号/杭州市中级人民法院（2024）浙01民终10332号
被告AI平台提供模型训练（如LoRA）和文生图功能。用户上传奥特曼图片训练出侵权模型，其他用户叠加该模型后可生成奥特曼形象图片。平台首页存在相关侵权内容。
平台明知或应知其平台上的训练功能和衍生模型可被用于生成侵权内容，却未采取必要措施（如对知名IP素材的审核、对侵权模型的下架）进行防范，主观上存在过错，为用户的直接侵权行为提供了实质性帮助，构成帮助侵权。
AI服务提供者直接存储并提供侵权内容素材供用户生成新内容，需对侵权内容承担直接责任
当AI服务（如文生视频）并非仅提供算法，而是内置或存储了未经授权的原始作品片段作为“素材库”直接供用户调用和生成新内容时，其行为超出了技术中立的范畴，属于直接向用户提供侵权内容。此时，服务提供者应对其选择和提供的侵权素材承担直接侵权责任。
案号/法院
基本事实
法院认为
长沙市开福区人民法院首例“文生视频”案件
（2024）湘0105民初3790号
二审：长沙市中级人民法院（2024）湘01民终18114号
被告公司软件提供“AI一键成片”功能。用户输入文字后，软件并非从互联网实时抓取，而是将某电视剧《联合平台》的片段直接存储在自己的服务器上，并基于这些片段生成短视频提供给用户。
被告公司并非仅仅提供视频剪辑工具，而是“将《联合平台》切成了视频片段，自行生成或者提供给用户作为素材”。其行为是将侵权内容置于其服务器中并提供给用户，直接侵害了原告的信息网络传播权。因其对侵权内容具有直接控制力，且未采取屏蔽等措施，过错明显。
（六）对生成内容知识产权侵权风险的注意义务
提供AI语音、图像生成服务的平台，对生成内容可能引发的知识产权侵权负有合理注意义务
AI文生图、文生音等生成式人工智能服务提供者，应当预见到用户可能利用其服务生成侵犯他人著作权、肖像权、商标权等内容的风险，并采取合理措施（如关键词过滤、投诉机制、用户提示等）予以防范。未尽到合理注意义务的，可能构成侵权。
案号/法院
基本事实
法院认为
上海新创华文化发展有限公司与某AI公司著作权侵权纠纷（奥特曼案）
广州互联网法院（2024）粤0192民初113号
被告运营的AI绘画网站可根据用户指令生成“奥特曼”形象图片，部分图片与原告享有权利的奥特曼作品构成实质性相似。网站采用会员付费制。
被告作为生成式AI服务提供者，应尽到合理注意义务尊重知识产权。其未设立有效投诉机制、未提示用户不得侵权、未对可能侵权的生成物进行显著标识，未尽到合理注意义务，构成对原告复制权、改编权的侵害。
另，法院认为，即使与第三方服务商合作，被告也属于人工智能服务提供者
杭州互联网法院AI文生图侵权案（杭州奥特曼案）
一审：杭州互联网法院（2024）浙0192民初1587号
二审：杭州市中级人民法院（2024）浙01民终10332号
被告AI平台提供模型训练（如LoRA）和文生图功能。用户上传奥特曼图片训练出侵权模型，其他用户叠加该模型后可生成奥特曼形象图片。平台首页存在相关侵权内容。
平台明知或应知其平台上的训练功能和衍生模型可被用于生成侵权内容，却未采取必要措施（如对知名IP素材的审核、对侵权模型的下架）进行防范，主观上存在过错，为用户的直接侵权行为提供了实质性帮助，构成帮助侵权。
（七）硬件或软件内置AI功能对第三方内容的审核义务
硬件产品或软件内置AI功能的服务提供方，对其产品/服务中整合的第三方侵权内容负有审核义务
提供智能硬件或软件产品的公司，若其产品内置或接入了由第三方提供的AI功能或内容（如语音包、电子书），应对该第三方内容的合法性进行审核。未尽审核义务，为侵权内容提供传播条件的，可能与第三方构成共同侵权。
案号/法院
基本事实
法院认为
深圳市寒武纪智能科技有限公司等与人民教育出版社有限公司侵害作品信息网络传播权纠纷
一审：北京互联网法院（2021）京0491民初22985号
二审：北京知识产权法院（2021）京73民终4028号
被告销售的“小武”智能机器人，内置由案外人提供的软件，可下载并阅读原告享有著作权的教材内容。
被告作为硬件提供者，在采购内置软件时未审核第三方是否已取得著作权授权，存在过错。其硬件为侵权作品提供了接触和访问条件，与软件提供方构成共同侵权。
（八）模型训练数据的合规义务
AI大模型服务提供者获取和使用训练数据，应尽可能取得合法授权，避免侵害数据来源方的权益
AI大模型的训练依赖于海量数据。服务提供者在抓取、使用第三方数据（包括文字、图片、代码等）进行模型训练时，应评估其行为的法律风险。未经许可爬取受保护的数据，或使用未经授权的内容进行训练，可能面临侵权主张、数据安全合规等风险。
案号/法院
基本事实
法院认为
全国首例涉及AI绘画大模型训练著作权侵权案（未判决）
插画师发现某AI绘画软件可生成模仿其风格的作品，起诉该软件开发者及关联平台，主张其未经许可使用原告作品训练AI模型。
本案凸显了AI大模型训练数据来源的合规性问题。原告主张被告使用其作品训练模型构成侵权，被告则辩称其行为可能构成合理使用。案件核心在于训练行为本身的法律定性。
知网向秘塔AI搜索发送侵权告知函（非诉讼案例）
知网向秘塔AI发送侵权告知函，认为其未经许可，通过AI搜索向用户提供知网学术文献的解读及摘要数据。
该事件反映了拥有数据资源的权利方对AI服务未经授权使用其数据的高度敏感和维权意识。秘塔AI随后断开了与知网的链接，表明在数据获取层面取得授权的重要性。
大模型侵权第一案（训练数据获取违规，已和解）
笔神作文指控学而思在合作期间，未经许可非法爬取其APP内作文数据258万次，用于训练其AI大模型。
尽管案件和解，但事件本身表明，即便存在合作关系，超出约定范围爬取和使用数据用于AI训练，也可能构成违约及侵权，引发重大法律纠纷。
（九）生成内容不实信息的责任认定
生成式AI服务提供者对生成内容不实造成的损害，一般适用过错责任原则
生成式人工智能服务提供者对于其模型生成的不准确、虚假信息给用户造成的损害，不适用产品责任的无过错原则，而应适用过错责任原则。服务提供者需证明其已采取合理措施（如模型备案、安全评估、技术优化）保障生成内容的准确性，否则可能因过错承担责任。
案号/法院
基本事实
法院认为
杭州互联网法院生成式人工智能侵权纠纷案
https://mp.weixin.qq.com/s/riMkHOiBhDra1xe70wQcRA
原告使用某AI应用查询高校信息，AI生成了不准确的校区信息，并在后续对话中承诺若信息有误可赔偿。原告起诉索赔。
AI生成内容不能视为服务提供者的意思表示。对AI生成不实信息适用过错责任原则。被告已履行模型备案、采取提高准确性的技术措施，初步证明已尽义务。原告未证明损害发生及被告有过错，故不构成侵权。
╱ 往期精选 ╱
1.团队典型案例
2.原创合集
3.苹果税中国反垄断第一案
热门跟贴