自主AI智能体跑起来之后,怎么防止它越界?英伟达给出的答案是两道锁:OpenShell 和 Sentry。

据相关消息显示,英伟达已推出这套全新的安全栈,专门用于约束自主AI智能体,阻止它们突破网络和系统限制。

打开网易新闻 查看精彩图片

两道锁各管什么

这套安全栈被命名为 OpenShell 与 Sentry,定位是"围堵"——把自主运行的AI智能体限制在既定边界内,不让它绕过网络和系统的权限约束。

英伟达设计它的直接动因,是防止出现类似 Hugging Face 被黑那样的事件。

换句话说,智能体越能干,越需要有人看着它别乱来。这套栈要解决的,正是这个矛盾。