去深圳出差，打车后与司机聊天。他问我是哪里人，我说山东人，他说自己是河南人。然后就讨论哪里人口多。
他说你问问豆包不就知道了？问“豆包”已经成为许多普通人手机生活的一部分。这就如同当年，不懂，你问百度一下就知道了。
然而，什么事情都问豆包，却是很危险的。这就像是你迷路了，去问一个五岁的孩子怎么走。就像是你生病了，去问一个赤脚医生吃什么药。他们都能给出答案，但是对错你只能听天由命。
用专业术语讲，这叫做大模型的“幻觉”。直白点说，那就是大模型仍然“弱智”，它会胡说八道。更可怕的是，已经诞生了“给大模型投毒”的公司，用数据污染大模型，改变生成结果，这比搜索引擎的竞价排名还可怕。
竞价排名还用小字标注“广告”，而豆包生成的结果可能就是广告，你却信以为真。而广告的真假、有无害处、有无禁忌，更是无从判断。
我在豆包上遇到许多次“胡说八道”。前不久，突然在阿里巴巴的股吧里看到有人截图豆包发布的“阿里巴巴2025年年报”，数据一应俱全。但是当时阿里巴巴却并未发布年报。
或许因为这个假财报数据利好影响，阿里竟然反弹了。但是真的财报发布后，业绩一塌糊涂。股价持续下跌，看了假财报买股的人，找谁索赔去？
前几天，一家制药公司的股吧里，又看到股民截图豆包生成的该股第一季度财报。可是官方明确写着是5月27日发布第一季度财报。而豆包则在5月25日生成了财报。时间错了，财报数据当然全是胡说八道的。
企业财报对股市影响巨大，需要非常严谨。如果有个人或媒体散布企业财报虚假数据，会违反证券法。但是豆包却可以堂而皇之“造谣”，不需要承担任何责任。
豆包因生成虚假内容多次登上热搜，暴露出这个大模型的严重“幻觉”。可是坐拥3亿多用户的豆包已经俨然成了曾经的“百度”，3亿多人都信它说的，都用它来提问。
然后，他们再把提问结果通过自媒体平台、微博等社交平台发出去。接着，豆包又会继续搜索到这些用户发布的虚假内容，把这些内容作为“资料来源”，继续为用户生成内容。
久而久之，假的信息被无数次调用、传播、再调用、再传播。导致的结果是，虚假信息越来越多，而且彻底掩盖掉真实信息。最终，李鬼取代了李逵。
目前，豆包并没有任何机制对这些虚假信息进行筛选，也未提供用户纠错入口。海量的用户反复使用，最终导致的恶果必然会显露。
股民用豆包搜索消息，肆意传播，扰乱资本市场。病人用豆包给自己看病，乱吃药，可能伤害了身体。父母用豆包搜索“戒网瘾良方”，可能被诱导进入“暴力戒网瘾机构”，孩子不仅没戒掉网瘾，还可能把命差点搭上……
此前，网民骂百度竞价排名可恶，问病情被诱导进莆田医院。以后，用豆包替代百度，导致的伤害只会比百度竞价排名还要大，还要可怕。
因为，搜索引擎的内容还是经过筛选的，竞价排名广告是有明确标注的，而豆包生成的内容很多都是自己胡乱推理的，或者被虚假信息污染，被专门做AI大模型优化的公司“投毒”影响后的结果。
豆包的用户则以为“豆包是智能的，是聪明的，它说的都是对的”，这种把AI大模型看作“万事通”的仰视态度，更增加了豆包生成结果对用户导致伤害的概率。
最后一句话可能对很多人不愿听：用豆包的人，基本上不会思考，不会辨别真假，更加剧了灾难的概率。
你也可以留言说下用豆包生成过的假消息，让我们一起保护自己。
感谢订阅磐石之心，让我与您一起观察科技财经产业
热门跟贴