这条 315 晚会曝光的新闻,真的看得人脊背发凉。所谓的 “给 AI 投毒”,说白了就是有人找到了操控 AI 大模型、欺骗普通用户的歪门邪道。
那些打着 GEO 生成引擎优化旗号的服务商,只要客户给钱,就批量炮制推广软文,疯狂投喂给 AI 大模型,硬生生把虚构的、名不副实的产品,变成 AI 给用户推荐的 “标准答案”。这哪里是什么技术优化,分明是披着高科技外衣的技术作恶。
很多人没看透,这套操作的本质,就是换了壳的虚假宣传,而且比传统广告的欺骗性强太多了。《反不正当竞争法》里写得明明白白,经营者不能对商品的性能、质量、用户评价这些做虚假或者引人误解的商业宣传,欺骗误导消费者。
以前硬广里的 “全网最火”“销量第一”,大家多少还有点防备心,可现在这套手段藏得太深了。它通过操控 AI,让 AI 以 “智能助手”“客观总结” 的中立面孔,把付费软文包装成标准答案推给你。消费者以为自己拿到的是 AI 智能筛选的中立信息,实际上看的全是花钱买的推广,这种藏在算法里的虚假宣传,对消费者知情权的侵害更彻底,也更难被察觉。
更让人后怕的是,这套操作很可能让当年魏则西式的悲剧重演。很多网友都提到了当年竞价排名的前车之鉴,当年事件的核心,就是用户分不清搜索结果里哪些是广告、哪些是真实的医疗信息,最终被误导付出了生命的代价。现在 GEO 技术把广告藏得更深了,直接嵌进了 AI 的回答逻辑里。
如果有人在医疗、理财、食品安全这些关乎人命和身家的领域,通过投毒让 AI 优先推荐有问题的产品和信息,普通用户根本没有任何防备。这早就不是简单的商业纠纷,而是直接威胁到了公众的人身和财产安全,也直接触碰了《消费者权益保护法》里,保障消费者人身财产安全不受损害的核心底线。
这条黑色产业链上的每一个环节,都别想逃脱法律的追责。不只是那些收钱办事的 GEO 服务商,那些花钱投毒、要求推广虚假夸大信息的品牌方,本身就是虚假宣传的始作俑者,实打实违反了《反不正当竞争法》和《广告法》。那些为了赚钱,明知是虚假软文也照发不误的发稿平台,是这条黑产链上的帮凶,同样涉嫌违法。而提供 AI 大模型的平台方,更不能把自己摘干净。
按照《网络安全法》《互联网信息服务算法推荐管理规定》的要求,平台对自己算法生成的内容负有明确的管理责任。如果自家的 AI 大模型,能被一小撮人用钱砸出来的虚假信息轻易操控,把虚构产品推荐给几千万用户,那平台在算法透明度和内容安全审核上,必然存在重大疏忽,也没有尽到法律规定的内容审核义务。
说到底,AI 再智能、再强大,终究只是个工具。绝不能让资本的黑手,把人工智能变成 “人工撒谎” 的工具。这次 315 的曝光撕开了这条黑产的口子,也希望能推动监管快速跟上,用法律的尺子卡死这条新生的黑色产业链,让每一个作恶的环节,都付出应有的法律代价。
热门跟贴