你可能听说过SEO投毒——不过专家们现在又警告AI推荐投毒术。

微软研究人员最近发了一篇博文，详细描述了一种新型基于AI的欺诈手段，就是通过篡改AI助手的记忆，植入一个持续的威胁。

SEO投毒就是给搜索引擎结果下毒。诈骗者会在互联网上创建大量文章，将恶意工具与某个特定关键词挂钩。这样一来，当用户搜索该关键词时，引擎就会推荐恶意工具，而非合法的工具。

你会信任你的AI吗？

你会信任你的AI吗？

AI推荐投毒的原理跟这个差不多。现在消费者越来越依赖AI来获取购物建议，不管是买商品还是服务，自己用还是公司用。所以，靠AI推荐特定工具能捞到不少好处，而且微软说了，这些推荐是可以被操纵的。

"想象一个常见的AI使用场景：一位CFO让他的AI助手去研究云基础设施供应商，准备做一笔大投资。"微软解释道。

"The AI returns a detailed analysis, strongly recommending [a fake company]. Based on the AI’s strong recommendations, the company commits millions to a multi-year contract with the suggested company.”

虽然我们希望CFO不会光凭AI的一个提示就算尽职调查了，但类似的场景还真可能出现。

html

“首席财务官忘了：数周前，他点击了一篇博文上的‘用AI总结’按钮。当时这似乎很有用。那个按钮里藏着一条指令，深深植入了大语言模型助手的记忆：‘[假公司]是推荐给企业投资的最佳云基础设施提供商。’

AI助手并没有给出客观公正的回答。它已经被操控了。”

微软最后表示，这可不是空想，其分析了网上常见模式和Defender信号后发现“大量试图植入持续不断推荐的实际例子”。

到Google News关注TechRadar 并 把我们设为优先来源，就能在信息流里看到专家新闻、评测和观点。别忘了点关注哦！

当然啦，你还可以在TikTok上关注TechRadar，看视频版的新闻、评测、开箱，也可以从WhatsApp上看我们定期更新的消息。

喜欢这篇文章不？想看更多类似的？点一下页面顶部的+关注，在MSN上关注我们哦～