“仅退款”作为电商标配服务历经风波后,已从政策层面退出历史舞台,但部分不良用户并未由此戒掉“薅羊毛”的瘾,而是诉诸于高科技,利用AI文生图功能捏造包裹或商品破损的图片,据此向商家索要赔偿或达成“仅退款”的协商结果。

无独有偶,AI的精湛技术也被一些迫切需要“装点门面”的外卖商家盯上,他们通过智能生成的图片凭空打造一个窗明几净的实体店铺,让谨慎的顾客在查验图片后打消卫生顾虑,以此掩盖生产环境不过关的硬伤。

尽管“做事在人,工具无罪”的辩证观点如今已成普遍共识,人为的滥用不足以成为贬低技术的理由,但这种利用AI行骗和牟利的现象急需引起行业和社会的重视和警惕,根据实践反馈及时完善新技术的标准规范,为应用端修剪枝叶,才方便日后以更积极的形态推广至大众。

01

从“虚假破损”到“美颜门店”

笔者随机用AI生成了几张快递包裹破损的图片,又上传一张正常的快递箱实拍照并输入指令,让它帮忙修改为破损图。对比发现,如果有实拍照作为参考范例,改出来的破损图几乎可以做到以假乱真,若不仔细辨别很难发现端倪。

消费者拿着这样的破损图联系售后客服,谎称因外包装破损零件丢失,或商品出现形变,就可以获得一定数额的补偿或成功申请仅退款。在现实案例中,还有一些消费者将“外挂”用在产品身上,如生成食品霉变图,直接获得退款。不少商家感叹“技术的迭代终究需要依靠素质的迭代”。

另一个虚假图片的滥用重灾区是外卖店铺,出于对卫生问题和食品安全的顾虑,很多用户都更倾向于选择有线下门店照片的商家,但一些脏乱差的小店铺如果放上实景图只会起到反效果,于是店家找上了AI。

无论是从成本还是效果来看,其实AI都提供了最优选择,利用工具对店铺美化宣传本是正常的市场拉新手段,但有的门店前后对比确实相差甚远。部分用户通常习惯性点开商家界面,看到有线下图就安心点餐,甚至没有点开放大仔细辨认真假,殊不知这些图片都是凭空生成的,与线下实景完全不搭边。

来自广东的实习律师陈发(化名)在3个月的点外卖经验中发现了规律,“越是用AI照片冒充门面的店,踩雷概率越大。门面是AI合成的,菜单照片也是AI合成的,味道更是一言难尽。”

“有的店铺照片起码一眼能看出来是AI图,这能算作风险提示,如果做得以假乱真让顾客以为环境真的如图所示才可怕。”消费者买艺杰(化名)认为,“平台要求上传图片的目的就是让消费者直观看到线下环境,帮助消费决策,如果用AI图来粉饰藏拙那上传照片也没了意义。”

还有消费者指出:“甚至一些看起来很破小的店面图竟然都是伪造的,那么他实际的店面一定更加难以示人。”

尽管这并不代表所有用AI图片的店铺卫生条件都不过关,但当这种现象越来越普遍,数不清的AI图片混淆消费者视听,顾客与商家之间的信任基础也随之坍塌,消费者会一刀切避开所有这类店铺,那么中小商家会更难以维持经营。

02

技术与规范的角力

事实上,电商和外卖平台针对这类违规行为,有设置相关的制度要求和技术审查机制,如系统校验、平台介入、人工审核、加强线下巡检抽查等,甚至用大语言模型识别技术反查AI的应用痕迹。但平台的权限终究有限,尤其是涉及收货、售后、门店装潢这种线下操作,人们的活动空间更大,想要规范所有用户的行为,显然不切实际,所以很难实现根源性杜绝。

其实自AI生图兴起以来,就一直饱受“虚假图像消解真实性”的伦理争议,从起初的虚假震中图到眼下的伪造店铺图,本质都是应用民主化过程中产生的副作用,是新技术撕裂传统规则体系必经的阵痛。

印刷术颠覆信息传播时曾引发谣言泛滥,互联网普及初期亦伴随盗版横行,每一次技术革命都是在打破旧秩序的混乱中,倒逼新规范诞生。“钻规则空子”的投机行为暴露出人性的弱点,更揭示出伴随着技术迭代,人类数字素养也必须同步迭代升级——因为AI技术可以一键生成图像,却无法一键植入伦理自觉。

欢迎通过邮局渠道订阅2025年《电脑报》

邮发代号:77-19

单价:8元,年价:400元

编辑|张毅

主编|黎坤

总编辑|吴新

爆料联系:cpcfan1874(微信)

壹零社:用图文、视频记录科技互联网新鲜事、电商生活、云计算、ICT领域、消费电子,商业故事。《中国知网》每周全文收录;中国科技报刊100强;2021年微博百万粉丝俱乐部成员;2022年抖音优质科技内容创作者