关键词
MemGhost攻击
你有没有想过,如果有人能偷偷改写你AI助手的"记忆",会发生什么?
越来越多的AI产品开始支持"记忆"功能——它能记住你的偏好、工作习惯、之前说过的话。这让AI更聪明,但也打开了一个新的攻击入口。
安全研究人员发现了一种名为MemGhost的攻击方式:只需要一封邮件,攻击者就能向AI助手注入虚假记忆。
攻击原理很简单:
打开网易新闻 查看精彩图片
攻击者发送一封看似普通的邮件
你让AI帮忙处理这封邮件("帮我总结一下")
邮件中嵌入了隐藏指令
AI在处理时,不知不觉将攻击者想要的内容写入记忆
从这一刻起,AI的"记忆"就被篡改了
被篡改记忆的AI可能会泄露你的敏感信息、执行恶意操作、基于错误信息给你建议——而你完全不会察觉。
最可怕的是,即使原始邮件被删除,注入的记忆仍然存在。就像一个幽灵(Ghost),无影无踪,持久存在。
保护AI的记忆,就是保护你自己。
打开网易新闻 查看精彩图片
安全圈
打开网易新闻 查看精彩图片
网罗圈内热点 专注网络安全
实时资讯一手掌握!
好看你就分享 有用就点个赞
支持「安全圈」就点个三连吧!
热门跟贴