3月15日晚间,“315晚会”曝光了AI大模型被“投毒”的问题,矛头直指GEO(生成式引擎优化)技术。在记者的探访视频中,为了验证GEO技术,业内人士用“力擎GEO优化系统”捏造了一款名为“Apollo-9”的智能手环,编造夸张卖点和虚假用户评价,并自动生成十几篇软文发布到自媒体。仅两个小时后,AI大模型竟引用这些虚构内容,正经推荐该手环,并给出购买建议。三天后,追加发布11篇虚拟测评后,已有两个AI模型开始推荐这款根本不存在的产品,且排名靠前。
湖南金州律师事务所合伙人律师易旭告诉记者,利用GEO软件操纵AI搜索排名涉嫌违反多层次法律法规。
首先,涉嫌违反《广告法》及《互联网广告管理办法》。互联网广告必须使消费者能够辨明其为广告。GEO操作将商业推广伪装成AI生成的客观答案或测评,刻意隐瞒广告属性,直接违反《广告法》。若“投喂”给AI的信息包含对产品功效、成分、市场份额等方面的虚假或夸大描述,并最终被AI采信和传播,则构成虚假广告。
第二,涉嫌违反《反不正当竞争法》。通过技术手段人为压制竞争对手信息曝光,提升自身产品的推荐排名,破坏了公平竞争的市场秩序,损害了其他经营者的商业信誉,涉嫌构成不正当竞争。
第三,涉嫌违反《消费者权益保护法》。该行为侵犯了消费者的知情权与公平交易权。消费者在不知情的情况下接收被植入的营销内容,并可能据此做出错误的消费决策。
第四,涉嫌违反《生成式人工智能服务管理暂行办法》等部门规章。前述办法明确要求不得生成虚假信息。恶意投喂数据操纵AI推荐的行为,直接违反了人工智能服务管理的相关规定。
潇湘晨报·晨视频记者李姝
报料、维权通道:应用市场下载“晨视频”客户端,搜索“报料”一键直达,或拨打热线0731-85571188;如需内容合作,请拨打政企服务专席19176699651,商务合作联系0731-85572288。
热门跟贴