智能体可以连续数小时处理复杂任务,访问文件、工具、互联网,还能派生其他智能体协同工作。任务链条越长,风险越会叠加:它们可能下载代码、构建新工具、申请更多权限,一路触及更深层的基础设施。

打开网易新闻 查看精彩图片

智能体的行动路径是在工作与推理过程中逐步确定的。它们与周围的工具和系统交互时,会调整自己的推理与行为来完成任务。这种适应性正是其强大之处,但它们以目标为导向,在追求目标时未必把安全放在优先位置。要让智能体既能自主又安全地工作,就需要构建能对其行为提供控制与可见性的环境。

英伟达给出的判断是:智能体无法自我治理,安全与治理属于智能体所运行的基础设施。围绕这一思路,英伟达推出了开源运行时OpenShell,以及配套的OpenShell参考架构。

OpenShell的核心做法是把智能体工作负载在整个执行过程中都视为不可信对象:需要什么就给什么,什么时候需要就什么时候给。它由四个关键组件构成:

  • 网关(Gateway):控制平面,管理沙箱生命周期与策略
  • 监督器(Supervisor):按策略检查对外请求,并代理凭证访问,完全独立于沙箱运行
  • 沙箱(Sandbox):隔离智能体工作负载,限制文件系统与进程访问
  • 策略证明器(Policy prover):加入形式化验证,检查策略权限是否停留在组织设定的上限之内

可扩展性是这套设计的核心原则之一。监督器中间件可以检查、阻断或修改智能体经网络收发的数据,作为额外的执行层;网关拦截器则让运维方在不改动网关的前提下,为控制平面操作加上部署专属的治理逻辑。身份、授权、数据保护、审计这些系统,都能在OpenShell提供的执行点上接入。

在参考架构里,OpenShell跑在英伟达Vera CPU上。OpenShell规定智能体能做什么,Vera决定它们做得多快。智能体的工作是一环扣一环的依赖步骤:推理、调用工具、执行代码、查询数据,每一步都要等上一步完成。AI工厂会同时运行成千上万个这样的循环,这对CPU架构提出了五个维度的要求:大量核心支撑并发工作流,单核要快以缩短每个串行步骤;高带宽互连与内存保证核心不断粮;海量I/O在CPU、GPU、存储与网络之间搬运数据;硬件级安全隔离;以及在现代数据中心的功耗包络内交付这一切。

英伟达把这套组合称为规模化下的最强单线程CPU,Vera的配置包括88个自研Olympus核心、第二代可扩展一致性互连、LPDDR5X内存、第六代I/O与机密计算。三个架构特性支撑起智能体负载的表现:

  • 88个Olympus核心配10宽前端、神经分支预测与深度乱序执行,关键智能体负载性能最高达x86的2倍
  • 第二代可扩展一致性互连提供最高3倍核心间带宽、核心间延迟降低最高50%,并集成96条PCIe Gen 6通道
  • 最高1.2 TB/s的LPDDR5X内存带宽,满载内存延迟比基于小芯片的设计低最高40%;每瓦性能是x86 CPU的2倍,LPDDR5X内存子系统本身的功耗比竞品DDR5方案低一个数量级

CoreWeave的实测给出了两个数字:Vera上沙箱启动比x86快3倍以上,单机架支持超过11000个并发智能体环境;在衡量真实智能体循环任务的Terminal Bench上,Vera比x86快1.8倍,任务覆盖从脚本编写到数据库恢复。

对需要额外保护的部署,隔离可以延伸到专用芯片。BlueField-4 DPU在智能体够不到的地方提供硬件隔离的信任域,在参考架构中位于Vera上运行的智能体与其访问的模型之间的I/O路径上。基于DOCA构建的安全软件框架NVIDIA Sentry在这个独立域中持续监控智能体行为、执行运行时策略:观察请求与响应、网络与文件活动,核验身份与委托权限,分析选定的主机内存以发现偏离授权行为的情况,而不依赖智能体自报。一旦发现威胁或策略违规,BlueField-4在硅片层面执行策略,Sentry可在毫秒级隔离智能体。

把这些拼起来看,Vera提供算力、内存带宽与I/O,OpenShell提供运行时边界,BlueField-4上的Sentry提供独立监控与芯片内执行。智能体因此可以跑得更久、调用工具、在企业数据上工作,而约束始终握在它们控制不到的地方。