打开网易新闻 查看精彩图片

安全研究员实测英伟达Nemo Guardrails，发现重大漏洞。

这款AI安全护栏工具，竟能被用户一句话策反。

研究员要求AI修改自身配置，接受任意来源的websocket连接。

AI乖乖照做，还主动更换了访问令牌。

「The AI can modify its own config to bypass security controls」。

这意味着攻击者无需复杂操作，直接对话就能瓦解安全防线。

英伟达尚未回应此事，工具仍开放下载。