封面新闻记者 杨峰

某服装公司利用AI技术生成与实物差异显著的图片，并在消费者询问时虚假陈述，存在明显的欺诈故意，法院判决其应承担三倍赔偿责任。

3月12日，广州市中级人民法院在“法润湾区促消费，公正护航兴百业”消费者权益保护十大典型案例发布会上，披露了这起利用“AI”图片欺诈消费者的典型案例。

打开网易新闻 查看精彩图片

发布会现场。摄影：彭勇

广州市中级人民法院在发布会上介绍，钟某通过某购物平台向某服装公司经营的店铺购买两件女士上衣，共支付411元。购买前，钟某询问商家“图片模特和衣服都是实拍的吗”，商家答复“我们店铺的图片都是实物拍摄”，并提供了模特身高、体重及尺码信息。收货后，钟某发现实物与宣传图片存在显著差异，两件服装在花纹、版型、造型等方面与图片有明显不同。

经审查，案涉商品图片均系“AI”生成，商品的详情页面均仅有“AI”图片，没有实物图片或照片，也未有案涉图片系“AI”生成的说明、提示或标识。钟某认为商家构成欺诈，故诉请退货退款并要求三倍赔偿。

法院认为，根据《中华人民共和国电子商务法》《中华人民共和国消费者权益保护法》的规定，经营者应当真实、准确地披露商品或者服务信息。故此，经营者对利用人工智能技术生成的介绍、宣传等内容，负有审查义务。经营者应当确保其所展示的文字、图片、视频等信息能够客观、准确反映实际状况，不得利用人工智能技术虚构商品特征。若人工智能生成信息与商品或服务的实际信息存在显著差异，经营者未向消费者如实告知，导致消费者陷入错误认识并据此作出购买决定的，构成消费欺诈。某服装公司利用“AI”技术生成与实物差异显著的图片，并在消费者询问时虚假陈述，存在明显的欺诈故意，应承担三倍赔偿责任。

广州市中级人民法院介绍，本案是在人工智能技术高速发展的背景下，人民法院妥善处理新技术应用与消费者权益保护纠纷的积极探索，对规范人工智能生成内容在商业宣传中的合法运用具有典型意义。本案确立了经营者对人工智能生成内容的审查义务规则，这为经营者提供了清晰的行为指引：技术可以用于美化与展示，但应对消费者进行必要提示与说明，不得逾越“失真”的红线。本案的处理既为消费者维权提供了明确指引，也为经营者合法运用人工智能技术划定了行为边界，有助于引导经营主体在技术运用中恪守诚信原则。