“智能体不该自己执行自己的边界。”英伟达企业软件副总裁约翰·法内利(John Fanelli)这句话,基本概括了红帽(Red Hat)与英伟达(Nvidia)这次扩大合作的核心思路。两家公司在柏林 GTC 活动上宣布,将围绕自主 AI 智能体的安全、模型访问治理,以及未来在英伟达 Vera Rubin 数据中心基础设施上的工作负载部署展开协作。

打开网易新闻 查看精彩图片

合作落点是“Red Hat AI Factory with Nvidia”,把智能体运行时控制、模型推理软件和混合云环境下的硬件支持打包在一起。红帽同时表示,正推动把英伟达的 OpenShell 参考架构作为原生能力集成进自家 AI 平台。

安全控制放在智能体之外

这套安全方案针对两类风险:智能体越出被授权的边界,以及攻击者通过提示注入、供应链攻击等手段攻陷智能体。两家公司的做法是把安全控制放到智能体之外,在合适的地方甚至放到宿主操作系统之外。

OpenShell 为智能体提供沙箱运行时。在这层软件之下,英伟达的 Sentry 安全框架跑在自家的 BlueField 数据处理单元上,用 DOCA Argus 软件从独立的硬件安全域监控工作负载。

红帽在一篇技术博客中说明,Argus 会检查选定的宿主内存结构,从而观察进程、文件和网络活动,不需要在宿主上安装监控软件。集成的安全系统可以依据它发出的告警触发 BlueField 策略,隔离受影响的工作负载。

这套架构建立在 Red Hat OpenShift 4.22 已有的 BlueField-3 支持之上。它把跑在服务器 CPU 上的 AI 工作负载,与跑在 BlueField Arm 处理器上的网络和安全服务隔开。在配置为限制宿主访问时,这种隔离能在攻击者攻陷宿主的情况下仍保护基础设施控制面。

红帽称 Sentry 可以在毫秒级隔离被攻陷的智能体。把监控和网络功能挪到数据处理单元上,也减少了对宿主 CPU 的占用,给 AI 工作负载留出更多算力。

模型访问与推理侧的动作

合作同样覆盖智能体推理和行动所需的模型基础设施。一套联合参考设计把模型即服务(Model-as-a-Service)的访问控制、AI 网关,与 vLLM、llm-d、Nvidia Dynamo、Nvidia NIM 微服务等推理技术组合起来。

该设计基于英伟达的 Inference Hub 参考设计,支持自助式模型发现、访问策略、速率限制和订阅权益追踪。把访问治理与模型执行分离,意在帮助企业在混合环境中管理配额、归集成本并维持性能。

两家公司还宣布在 vLLM 推理与服务引擎以及 Red Hat AI Factory with Nvidia 中联合支持 Nvidia Nemotron 模型,包括 Nemotron 3.5 Super VL。红帽强调了量化和投机解码技术,目标是在保持精度的同时降低推理延迟。

硬件部署方面,红帽表示其 Enterprise Linux for Nvidia 现已支持 Vera CPU,并为 Vera Rubin 平台做好准备。双方的目标是在新硬件上市时实现操作系统与平台兼容。

一篇配套的操作系统博客解释说,RHEL for Nvidia 26.03 只修改了有限的一组核心软件包以适配新硬件,同时保留标准 RHEL 用户空间和安全控制,包括 Security-Enhanced Linux。等硬件补丁成熟并进入上游 Linux 内核后,用户可以迁移到主线 RHEL 而无需重装。

红帽表示,联合用例、参考设计和智能体能力已通过思科(Cisco)、戴尔(Dell Technologies)、联想(Lenovo)等合作伙伴提供,原生 OpenShell 集成仍在推进中。