White Circle 团队把一套红队算法开源了,名字叫 RISE。它的目标很直接:对 OpenAI、DeepMind 等机构最新的图像模型发起 jailbreak。

团队给出的数据是,GPT-Image-2.5-Flare 被成功攻击的概率约为上一代的 3 倍;Nano Banana 2.1 被成功攻击的概率约为上一代的 2 倍。

打开网易新闻 查看精彩图片

两个数字放在一起看,新一代图像模型在 RISE 面前并没有变得更难攻破,反而被突破的概率成倍上升。RISE 以开源形式放出,意味着这套攻击方法不再停留在团队内部。

对做图像模型安全防护的人来说,这是一次直接的对照:模型迭代的速度,和红队攻击手段的迭代速度,正在同一时间线上赛跑。