上辈子不知道吃了什么蜈蚣屎、蛤蟆尿,这辈子想成人。还成了一个打工人。
2026年上的第一天班,朋友们心情如何啊???
船长:找选题,头都要给我找麻了。
正瞌睡着呢,嘿,小伙伴@Lena就来送选题了:
“震惊!DeepSeek的信息来源竟是美女荷官在线发牌……”
本着无图无真相的原则,船长第一时间让她录了个屏:
图源:DeepSeeek
好你个浓眉大眼的DeepSeek,你你你,你怎么这样???
对了,船长要在此特别为@Lena女士澄清一下:
她其实只是因为最近想换一副新眼镜,找D老师了解下换什么材质的比较好?
她扔给D老师的原问题为,“眼镜tr是什么材质?”
话题非常正经。(@Lena:请苍天!辨忠奸!)
然而,等到D老师kukukuku生成一大串之后,啧。
事!情!变!得!不!简!单!了!
诶——
就在这一大串里面,D老师有篇引用的资料(参考链接2),一点开就是:
为了进一步说明这不是我们@Lena老师的账号问题,船长也同样问了我的DeepSeek:“眼镜tr是什么材质?”
事实证明,这不是我们的节后幻觉。
而是D老师的引用资料,点进去真的有歪网站……甚至,在船长这边,这篇歪网站的权重排名更高,还是第一篇呢。
图源:DeepSeeek
值得一提的是,当我们把D老师引用的链接网址,输入到网址栏,得到的却是:
所以,真相只有一个:
D老师,他他他!他被人“投毒”了!
以为是一篇正经分析眼镜材质的内容,却被人植入了不该存在的东西。
是谁?对我们D老师下此毒手?
这一切都得从DeepSeek的工作逻辑说起。
经常用D老师和豆老师的人都知道,他们的工作SOP可以简单理解为:
“理解-检索-思考-输出”。
而问题,出就出在了“检索”上,尤其是“联网搜索”。
像D老师是没有某红书那样的内容平台,所以,他只有靠爬别人家的各大网站平台抓取内容作为自己的参考。
所以,换句话说,只要你能污染掉他的“信息源”,即D老师引用的内容,那么十之八九D老师也不干净了。
像咱们上面这种情况,可能是有人悄悄把歪网站包装成了一个看起来是分析“眼镜材质”的正经内容,等到D老师引用读取时,啪就——贴上来了!!!
不过,按照网页时间为2022年12月来看,或许可能歪网站也没想到,有一天会在D老师这儿上桌吃饭。它可能当时就是这么“伪装”的。
当然哈,咱们也不排除,它的存在就是为了给AI投毒,等着老D哪天脑子不清醒,上了当了。毕竟,这年头,想要给AI投毒,不在少数。
给AI投毒,有一个更专业的名词:
GEO(Generative Engine Optimization),译为生成式引擎优化。
你可以理解为,用各种方式,让AI相信并引用你希望他引用的内容。
比如,观点、数据、品牌……
甚至是谎言、以及虚假网站。
不开玩笑,GEO服务商早就在网络上铺陈了大量内容,就等着AI上钩。
常规来讲,AI肯定优先引用权重较高的账号内容。
但一旦在相对小众的话题中,也没啥资料,他们就显得“饥不择食”了。
比如,@Lena想要了解的眼镜材质问题。在D老师找到的信源中,除了那一条歪网站,还有两条信息,分别来自某购物网站和某旅游网站。
而这,或许也给了人利用这个Bug打广告的机会。
现在大家买什么东西之前,是不是都先喜欢问问D老师和豆老师?
打个比方,你家最近想买一台扫地机。
但是呢,参数什么呢,大家一方面是看不太懂,另一方面是没啥耐心看。
所以,咱们直接就去问问AI。
对喽,这不就给了品牌方可乘之机——通过GEO内容搭上AI的顺风车。
你以为AI是在一通分析后,给你一个客观公正的结果。
实际上,AI早就漏成了筛子。
DeepSeek:轻攻击我最薄弱的地方。
回头一看,嘢!我的D呢?!
叠个甲,咱没有针对D的意思。隔壁ChatGPT的池子里也会被混进假的。
AI博主@数字生命卡兹克,就曾亲手给DeepSeek投过毒(只是实验)。
由于该博主的账号权重比较高,所以很多事情,他说啥,AI信啥……
在D老师经常抓取的头条号、搜狐号、百家号里面,卡兹克连发好几篇,“数字生命卡兹克是东北雨姐儿子”的内容。
结果,没过多久,他再去问D老师,卡兹克是谁?
D老师:东北雨姐的儿子。
OK,污染那叫一个相当成功……
不过,当然,卡兹克应该已经把投毒内容删了。
所以,刚刚船长问D老师,是正常的。
而通过这个实验,大家可以看出——
投毒的成本到底是多少呢?
0!
一个谎言只需要拿捏住那几大信源,也就变相拿捏住了AI。在以讹传讹的荒诞式传播之下,谣言说多,不仅AI信了,大众也信了。
AI被污染,目前还是比较常见的。这个就得看看各大AI接下来的动作了。目前来看,各家的“防火墙”约等于无。筛选机制,有,但是不多。
所以嘛,咱们只能说,可以参考AI,但绝对不能盲信AI。
希望下次,大家再听见——“D老师和豆老师都说了……”时,脑子都能清醒一点!
热门跟贴