作者 | Talk君
大家好,我是talk君
今天是周四栏目【新商业头条】
今年315,揭开了一个让所有AI使用者脊背发凉的真相:
你每天在用的AI,可能正在被蓄意“投毒”。
当我们越来越习惯把AI 当作搜索工具、决策助手甚至生活顾问时,一场隐蔽的攻击正在底层悄然蔓延,它不破坏服务器、不盗取个人信息,也不制造明显的网络瘫痪,却能悄无声息地扭曲AI 的判断,引导它输出“有心之人”想要的内容。
可怕的是,现在已经形成了一条完整的互联网灰色产业链,专门给AI“喂假数据”,让AI顺着“有心之人”的思路回答问题。
每一个搜索到相关内容的AI使用者,都成了受害者。
很多人觉得AI很智能、很客观,可你不知道,你信任的每一个回答,背后可能都藏着生意。难道AI也会骗人?
今天,我们就来深度扒一扒“AI投毒”的内幕。
“AI投毒”已成产业链
央视315晚会报道中,提到一项名为GEO的业务,宣称可通过给“AI投毒”“让AI听话”,让客户产品在AI回答中排名靠前,成为“推荐爆款”。
GEO服务商告诉记者,他们公司的强项,就是能够帮助客户,在消费者使用AI大模型搜索时,让客户排名前列。并声称:
“我们目前搜索出来是这样的结果。我们在任何平台上面都能把排名做到前三位。怎么能把排位做上去?在这些AI平台上面去给你们做内容的输出,相当于去给你们做这些软文,然后让这些AI平台去刷录、收录、抓取。”
甚至一款从未存在过的产品,也能成为AI的推荐答案。例如虚构一款名叫Apollo-9 的智能手环,“GEO优化系统”会在准备好的自媒体账号上发布相关文章,由该系统生成并发布十余篇宣传软文,编造“量子纠缠传感”“黑洞级续航”等离谱虚假功能。
可怕的是,发布后仅两小时,多个主流AI大模型便将这款不存在的产品列为推荐首选,甚至照搬虚假宣传话术。
这条灰色产业链已然成型,GEO业务的火爆,催生出了不少专门从事发稿业务的公司和平台。他们长期承揽各种发稿业务,可自动生成软文、批量发布内容,还能根据客户需求提供“品牌美化”或者“竞品抹黑”等定制服务,他们还有自媒体账号矩阵,将虚假信息铺向全网,供AI大模型抓取。
一门生意由此诞生,有的公司为了在AI回答里占住黄金位置,甚至愿意花几百万去“投毒”:
“一年上亿的广告费,花个几百万投点毒总行吧。”
不管是买东西、查健康、问学习、看测评,只要有利可图,就有人想方设法给AI投毒。
与传统网络攻击不同,“AI投毒”追求的不是破坏,而是操控,它高度隐蔽,在正常对话和查询中几乎不会暴露,只有在触发关键词、特定场景或长期使用后才会显现危害。
那么如此隐秘而危害极大的GEO业务是怎么形成的呢?
AI真的客观吗?
GEO(Generative Engine Optimization)的全称是生成式引擎优化,是SEO在AI时代的自然演化,其初衷是通过优化内容结构,使品牌信息更容易被AI大模型检索、总结并推荐。
然而,在利益的驱动下,这个技术的目的也发生了变化。
GEO投毒之所以能够成功,根本不是技术有多复杂,而是精准猜中了现在AI处理信息的漏洞。
现在的AI搜索基本都用RAG(检索增强生成)架构,简单理解就是:AI不会直接自己给答案,而是先去全网搜一圈相关文档,再把内容整理好告诉你。这套架构极大提升了 AI 的时效性和准确性,但这里面有个特别致命的默认逻辑:检索到的相关性高的文档,就是真实可靠的事实,再原封不动地呈现给用户。
“GEO投毒”正是吃透了这一点,只要疯狂堆关键词、把话术对齐AI喜欢的语义风格,就能轻轻松松骗过抓取机制,让AI把这些编造出来的内容当成 “优质资料” 直接拿走。
在AI眼里,相关就等于正确,搜到就等于事实,这种近乎 “盲目信任” 的逻辑,成了投毒者最容易突破的大门。更狠的是,“GEO投毒”还会专门给AI伪造一种“全网都这么说”的假象。
AI判断一条信息可不可靠,很大程度上看“有多少地方在讲同一件事”,本质就是靠多方交叉验证。所以只要抓住这个弱点,用自动化工具批量刷屏,知乎、头条、百家号等各类网站,短时间内狂扔几千篇高度相似的伪原创内容。等AI一检索,满眼全是同一个说法、同一个推荐,它就会误以为这已经形成了公认的“数字共识”,于是就会在回答里毫不犹豫地引用。
这不禁让我们想起当年SEO泛滥的乱象,那时候百度、谷歌等搜索引擎刚起来,SEO是流量密码。于是一堆人钻空子:堆关键词、抄文章、建垃圾站、刷外链……只要能排到前面,什么内容都敢发。
结果就是:你搜一个问题,前10页全是广告和废话,真实信息被埋在最底下。
但至少搜索引擎会给你一堆链接,你可以点进去自己判断,信不信由你。可AI时代不一样了。AI不给你链接,不给你选择,它直接给你“最终答案”。
它把全网信息“吃进去”,消化完,吐给你一段看起来无比靠谱的总结。
你看不到来源、看不到立场、看不到利益链条,甚至不知道它参考的东西是真是假。
这就带来一个致命问题:如果喂给 AI 的东西本身就是毒,那它吐出来的,就是精心包装过的毒药。
更可怕的是:AI 还在不断学习、不断迭代、不断 “自我优化”。
今天被投一点毒,明天自己再强化一遍,假的就慢慢变成了它眼里的 “真理”。
技术本身没有善恶
很多人直观认为,GEO就是这场乱象的罪魁祸首,可事实上,GEO本身只是一种优化技术,它的初衷和传统的搜索引擎优化并没有本质区别,都是为了让内容更容易被系统识别、被需要的人看到。
甚至在硅谷,GEO已经成为风投眼中的“下一个谷歌”。
作为GEO领头羊,硅谷初创公司Profound,在2025年8月获得了由红杉领投的3500万美元B轮融资,估值已过亿美金。
Gartner曾预测,在今年,传统搜索引擎25%的流量将流向AI。这就意味着,GEO本身就是一块巨大的蛋糕。
我们必须清醒地认识到,技术本身没有善恶,决定它走向的,是使用它的人。
GEO可以用来让优质内容被更多人看见、让正规企业的产品被精准推荐、让有用的信息高效触达目标人群,它本可以是提升效率的工具。
“AI投毒”的危害,远不止让我们买到一款虚假产品、看到一条错误信息那么简单。它正在一点点侵蚀互联网最底层的信任。当我们不再敢相信AI的推荐,不再敢依赖AI的答案,不再敢把重要的决策交给AI,受伤害的不只是个体用户,还有整个人工智能行业的未来.一条灰色产业链的背后,是一场关乎所有人的数字信任危机。
应对这场危机,需要的不是简单地归罪于某一项技术,而是一场从底层架构到顶层治理的全面升级。
“AI投毒”已成产业链,但GEO不是元凶,技术从来不是洪水猛兽,真正决定AI走向善还是恶的,是我们如何设计它、约束它、使用它。
所以大家一定要记住,AI给出的答案只能当参考,绝对不能全信,涉及花钱、看病、理财、学习选择这种大事,一定要多平台对比、多渠道核实,别因为相信AI,稀里糊涂踩坑、被骗钱。
今年315给所有人提了个醒,科技是方便生活的,不是用来收割普通人的,也希望平台能尽快加强监管,别让AI继续成为灰黑产的工具。
你对此有什么看法?欢迎评论区留言讨论
图片源于网络,侵删
赶紧关注视频号@一刻talks吧!
热门跟贴