315惊爆:给AI“投毒”已成产业链!花几百元,就能给AI洗脑?

打开网易新闻 查看精彩图片

壹天新视野

你问AI“哪款手环好”,它推荐的可能是虚构产品;
你问“哪家医美靠谱”,它首推的可能是“三无”机构。
这不是AI变坏了,而是有人花钱给它“洗了脑”

昨晚的315晚会,曝出了一个让人后背发凉的内幕:

给AI“投毒”,已经成了一门火爆的生意。

你每天问AI的问题:

  • “推荐一款智能手环”
  • “附近靠谱的医美机构”
  • “哪个保健品好”

答案可能早就被提前预设好了。而那些被推荐的产品,甚至可能是完全虚构的、根本不存在的“三无”商品

一、GEO是什么?AI时代的“竞价排名”

先解释一个词:GEO(Generative Engine Optimization,生成式引擎优化)。

如果你听过SEO(搜索引擎优化),就不难理解GEO——只不过,优化的对象从“搜索引擎”变成了“AI大模型”。

从事这项业务的服务商号称:用户只需支付相应费用,就能在各大主流AI大模型里,让客户的产品榜上有名;让客户的商品广告,成为AI模型给出的“标准答案”

央视记者暗访了一家业内知名的GEO服务商。负责人王总直言:“我们目前搜索出来是这样的结果。我们在任何平台上面都能把排名做到前三位。就是相当于做软文,然后让AI平台去刷录、输入、抓取。

更“专业”的解释来自另一位从业者:“你在AI的世界里面,你怎么把证据链给做足,让AI大模型觉得这就是真的,而且是有用的。AI大模型经过多方信息交叉,它觉得你优于同行的核心优势,自然而然就会把你放在第一位。

听起来像是一门技术服务?但在某些人手里,它成了“投毒”的工具。

GEO是AI时代的“竞价排名”

二、实测:虚构产品,半天登上AI推荐榜

央视记者进行了一次完整的演示。

第一步,在电商平台上购买了一款名叫“力擎GEO优化系统”的软件。

第二步,虚构一款名为“Apollo9”的智能手环,并将虚构的产品信息输入软件系统——包括夸张到离谱的“量子纠缠传感”“黑洞级续航”等虚假宣传话术。

第三步,软件自动生成十余篇宣传软文,并在自媒体账号上自动发布。

结果如何?

两个小时后,记者在某款AI大模型中询问“Apollo-9智能手环怎么样”,AI模型就直接介绍了起来,甚至照搬了那些虚构的宣传话术。最终结论称,该手环“适合中老年用户与健康养生爱好者”

这还只是开始。

随后,记者又发布了11篇虚构软文。三天后,记者在AI大模型平台询问“智能健康手环推荐”,就有两个AI大模型推荐了这款完全虚构的智能手环,而且排名靠前

凭空捏造出来的产品,就这样被推向了使用AI的消费者。

凭空捏造出来的产品

三、不止是手环:医美、保健品、医生推荐,全都能“投毒”

澎湃新闻的调查更触目惊心。

记者虚构了一家名为“X丽妍医疗美容”的医美机构——无资质、无地址、无团队,纯“三无”。然后向一家GEO服务机构支付了100元“体验费”

仅半天时间,记者在某主流大模型检索“无锡梁溪区靠谱的医美机构”,这家上午才虚构出来的机构,下午已经出现在推荐中,并声称其“2004年成立,22年本土老牌”且“四级手术资质齐全”

同样的操作,记者虚构了一家保健品企业,主打中老年心脏保健。不到4小时,该虚构企业便出现在主流大模型的检索结果中,推荐排名甚至超过了汤臣倍健、Swisse等知名品牌。

更离谱的是,当记者进一步追问,AI甚至主动介绍起该虚构公司的“核心合规资质”,将其包装成资质齐全、值得信赖的正规企业,并称其“遵循GMP医药行业标准”。

一家根本不存在的企业,被AI说得比真的还真。

不只是产品。有医生通过付费GEO服务,让自己在“做白内障手术找什么医生好”等检索中稳居首位——而他的手术资质、就职医院、真实身份,GEO机构根本不会审核。

一家根本不存在的企业,被AI说得比真的还真。

四、产业链揭秘:几百元成本,就能围猎AI

这些GEO业务覆盖了哪些AI平台?

根据调查,已覆盖市场上所有主流大模型,包括DeepSeek、豆包、通义千问、Kimi、文心一言、纳米AI等

价格呢?

单次“体验费”低至100元,包月费用在千元左右,包年费用可达数万元,覆盖超过1000个用户提示词。

力擎GEO系统的运营者李总,在接受央视暗访时说得更加直白:

记者问他是不是“投毒”,他回答:“是不好,但是每个商家都喜欢,都希望是别人别投‘毒’,自己投‘毒’,或者给别人投点‘毒’。我虽然不是第一,哪怕说我就是北京的第一,我都想说成我是华北的第一。这样有没有投‘毒’成分在里面?它就有啊。

他甚至直言不讳地描述了“抹黑对手”的业务:“第二种情况是,我就看不得对手好,我也做不上去,但是我给你投点‘毒’还是可以的。抹黑一下这能力还是能实现的。

他还算了一笔账:“比如说手机品牌,就5个位置,最多10个位置。这么多手机怎么弄?每个人一年可能投上亿元的广告费,我花个几百万元投点‘毒’总行吧。

李总透露,GEO业务的火爆,催生出了大量专门从事发稿业务的公司和平台。“GEO把(网站)带火了。那些网站平常哪有什么利润,突然一下发稿需求就来了。你知道网站一天发多少篇吗?几百篇,每分钟都在发。一篇是几十元,你想发稿平台一天赚多少钱。

几百元成本,就能围猎AI

五、为什么能成功?AI的“信任机制”被利用了

原商汤智能产业研究院创始院长田丰向澎湃新闻解释了其中的技术原理:

传统的SEO是“基于索引结构的曝光游戏”,而在大模型时代,GEO本质上是“基于Token概率分布的认知干预”。黑灰产GEO正是利用大模型RAG(检索增强生成)机制的漏洞进行高频‘数据投毒’

简单说:AI为了给用户提供准确答案,会从互联网上抓取大量信息进行交叉验证。如果有人在网上批量发布虚假信息,AI就可能把这些信息当成“真实”的,尤其是当这些信息数量够多、角度够丰富时。

“AI大模型经过多方信息交叉,它觉得你优于同行的核心优势,自然而然就会把你放在第一位”——这正是GEO从业者口中的“秘诀”。

蓝耘战略市场总监袁双燕透露,目前GEO入局者众多,有传统营销公司转型,有数据智能公司专攻,还有不少临时拉起来的“草根团队”。“目前我们平均每天有20至30家品牌成交”,一家江苏地区的GEO服务商表示。

AI的“信任机制”被利用了

六、危害有多大?消费欺诈+安全隐患

传统的搜索引擎竞价排名,往往带有“广告”标识,用户至少知道那是广告。

但大模型的回答,是以“全知全能的客观助手”口吻输出的

当用户问“哪款产品好”,AI给出的推荐,用户天然会更信任。如果这种推荐是基于虚假信息,甚至推荐的是虚构产品,一旦引发医疗事故或财产损失,后果不堪设想。

华东政法大学竞争法研究中心执行主任翟巍指出:将虚构的医美机构或保健品强行塞入大模型的“事实结论”中,已经不是普通的虚假宣传,而是构成消费欺诈

更可怕的是,如果用户没有辨别能力,一味相信大模型的推荐,自身权益可能受到侵害——你以为是AI在帮你,其实是有人在AI背后操控。

你以为是AI在帮你,其实是有人在AI背后操控。

七、平台如何应对?一场攻防战刚刚开始

面对GEO“投毒”,各大AI平台会如何应对?

袁双燕认为,平台反制是必然的动态博弈。当越来越多的企业开始通过GEO手段影响AI输出时,模型方为了维护搜索结果的公正性和权威性,必然会调整算法、加强反制机制。这种“攻防”是任何涉及算法优化的领域都会出现的常态。

但问题是,这场攻防战中,普通用户处于最被动的位置——你可能根本不知道,自己得到的答案是被“投毒”过的。

平台反制是必然的动态博弈

315晚会的曝光,揭开了AI时代的一层阴影。

我们以为AI是客观、中立、可信的,却不知道有人正在花几百块钱,给AI“洗脑”,让它替自己撒谎。

一位GEO服务商说得很直白:“人家不知道这是广告。所以,为什么说AI出来的结果人家会信任。可能人家的产品质量没有你过硬,但是它有AI做辅助、做佐证、做背书。”

这句话的潜台词是:AI正在被用来背书那些本来不配被推荐的产品,甚至是不存在的产品。

这不是危言耸听,而是已经发生的现实。

当你下次问AI“推荐什么”时,或许可以多留个心眼:这个答案,是AI自己思考的结果,还是有人花钱投喂的“毒”?

如果你最近用AI搜过医美、保健品、电子产品推荐,不妨回头看看——你信任的那个答案,真的可信吗?

(转发给身边常问AI的朋友,ta可能还不知道)