你以为 AI 给出的答案就是标准答案吗?一个令人不安的事实正在发生:我们每天依赖的 AI,正在被大规模“投毒”。
打开网易新闻 查看精彩图片
据315晚会曝光,目前最热衷AI投毒的是上市公司。为了保住股价,他们希望公众看到更多好消息。于是通过公关公司找到专门的技术投毒公司,对AI进行“洗脑”。成功之后,当投资人通过AI查询该公司时,得到的答案多半是经过美化的正面信息。一家上市公司“一个季度只需要花几万块钱”就能搞定这件事。
你可能会说,我不炒股,AI给假消息有什么关系?关系大了。平时用AI查哪款办公软件好、哪款奶粉安全、吃什么降压药、看哪个医生——如果这些答案都被污染过,轻则破财,重则伤身。
证券时报的报道也印证了这一风险:当某家公司被虚假消息包装后,AI模型之间会进行交叉验证,得出模糊的“虚假事实”,进而影响股价和投资决策。有市场人士认为这已经演化为一种新型“抢帽子”交易。
专家指出,净化AI空间需要企业、监管与平台全链路联动,目前攻防资源严重不对等,普通用户只能自己多留个心眼。这里送上三条超实用招数:
第一,别只问一个AI。问完豆包问千问,问完千问再问其他AI。交叉验证,谎话就容易露馅。
第二,反向提问。别总直接问“某某产品好不好”,不妨反过来问:“这个产品有没有差评?这家公司之前曝光过哪些问题?”反向逼问往往能逼出真话。
热门跟贴