关键词

MemGhost攻击

你有没有想过,如果有人能偷偷改写你AI助手的"记忆",会发生什么?

越来越多的AI产品开始支持"记忆"功能——它能记住你的偏好、工作习惯、之前说过的话。这让AI更聪明,但也打开了一个新的攻击入口。

安全研究人员发现了一种名为MemGhost的攻击方式:只需要一封邮件,攻击者就能向AI助手注入虚假记忆。

攻击原理很简单:

打开网易新闻 查看精彩图片

  1. 攻击者发送一封看似普通的邮件

  2. 你让AI帮忙处理这封邮件("帮我总结一下")

  3. 邮件中嵌入了隐藏指令

  4. AI在处理时,不知不觉将攻击者想要的内容写入记忆

  5. 从这一刻起,AI的"记忆"就被篡改了

被篡改记忆的AI可能会泄露你的敏感信息、执行恶意操作、基于错误信息给你建议——而你完全不会察觉

最可怕的是,即使原始邮件被删除,注入的记忆仍然存在。就像一个幽灵(Ghost),无影无踪,持久存在。

保护AI的记忆,就是保护你自己。

打开网易新闻 查看精彩图片

安全圈

打开网易新闻 查看精彩图片

网罗圈内热点 专注网络安全

实时资讯一手掌握!

好看你就分享 有用就点个赞

支持「安全圈」就点个三连吧!