打开网易新闻 查看精彩图片

NVIDIA 今日宣布，用于大规模生成式和智能体推理的开源软件 NVIDIA Dynamo 1.0 现已在全球范围内被广泛采用。Dynamo 1.0 与 NVIDIA Blackwell 平台相结合，助力云服务提供商、AI 创新者和全球企业能够以无与伦比的规模、效率和速度提供高性能的 AI 推理服务。

随着代理式 AI 系统在各行各业的应用，数据中心内的推理扩展已成为一项复杂的资源编排挑战，不同规模、不同模态的请求以及性能目标会以不可预测的突发形式出现。

正如计算机的操作系统协调硬件和应用程序一样，Dynamo 1.0 作为 AI 工厂的分布式“操作系统”，在集群中无缝地协调 GPU 和显存、内存等存储资源，以驱动复杂的 AI 工作负载。

此外，通过将 NVIDIA Dynamo 和 NVIDIA TensorRT™ LLM 库优化集成到 LangChain、llm-d、LMCache、SGLang、vLLM 等各大供应商的热门框架中，NVIDIA 正在加速开源生态系统的发展。

NVIDIA 创始人兼首席执行官黄仁勋表示：“推理是智能的引擎，驱动了每一次查询、每一个智能体以及每一个应用。通过 NVIDIA Dynamo，我们创建了首个面向 AI 工厂的‘操作系统’。整个生态系统中的快速采用表明新一波代理式 AI 浪潮已经到来，NVIDIA 正在全球范围内推动其发展。”

以上为新闻摘要内容，如需阅读新闻全文，请点击链接：NVIDIA 推出 Dynamo 生产版本：广泛采用的 AI 工厂推理操作系统 | NVIDIA 英伟达博客