公众号记得加星标⭐️,第一时间看推送不会错过。
NVIDIA 公布了其下一代 Rosa CPU 的首个真正信息,该 CPU 将与其 Feynman 产品线配合使用。
在2026年GTC大会上,NVIDIA发布了其下一代数据中心CPU ——Rosa。Rosa CPU将与Feynman一同发布,并针对智能体人工智能工作负载进行了精准优化,以满足这些工作负载对更高处理性能的需求。Rosa以美国物理学家、诺贝尔奖得主罗莎琳·萨斯曼(Rosalyn Sussman)的名字命名。
今天,NVIDIA公布了其下一代 Rosa CPU 的更多细节,其中一些信息非常重要。首先,NVIDIA 表示,Rosa CPU 将采用名为“Rigel”的全新核心架构,该架构基于 Arm v9.2 CPU 内核。与 Vera 一样,Rosa 将成为一款速度极快的 AI 处理芯片,其单线程性能将比上一代产品在规模化应用中得到进一步提升。
Vera 采用的是 Olympus 内核,这些定制的 Armv9.2-A 内核的吞吐量是 Grace 的两倍,而 Rosa 将进一步提升单核性能优势。更令人印象深刻的是,性能的提升是在相同的芯片尺寸下实现的。
NVIDIA 的下一代 Rosa CPU 搭载 Rigel 核心,将延续该公司面向智能人工智能时代的 CPU 发展路线图。Rigel 是 NVIDIA 的下一代 Arm v9.2 CPU 核心,在保持相同芯片尺寸的同时,单核性能优于 Olympus。其主要改进包括更高效的指令传输、更大的 L2 缓存以及更高效的内存管理。
更多细节方面,NVIDIA 强调了 Vera 在指令传递效率、二级缓存容量和内存管理效率方面的改进。目前,Vera 配备了 88 个 Olympus 核心,比 Grace 的 72 个核心有所增加。Rosa 的核心数量是否增加尚未提及。
主要规格对比:
从 Rosa 和 NVIDIA 在 Grace 以及如今的 Vera 等 CPU 架构上的布局来看,该公司已经取得了长足的进步,直接在人工智能领域与 x86 竞争对手展开较量。Vera已全面投产,并开始向全球各大人工智能公司交付 Vera Rubin 和独立机架式处理器。NVIDIA 的 CPU 战略不仅限于企业和数据中心,因为相同的核心也将应用于下一代 RTX Spark 芯片。
首批 RTX Spark 芯片预计将于今年秋季推出,届时 Grace 和 Blackwell 将携手合作;2028 年的产品阵容将以 Vera Rubin 组合为主;最后,Rosa 将于 2029 年进入数据中心市场,随后 Rosa Feynman Spark 解决方案将于 2030 年推出 PC 专用版本。
为什么大规模单线程CPU性能至关重要
大规模的单线程 CPU 是专为智能 AI 时代打造的新型 CPU。
在智能体系统的创建和部署过程中,CPU 位于推理、响应时间和学习的关键路径上。CPU 是执行 AI 模型指令的处理器,这些指令包括:工具调用、代码执行、数据处理、键值缓存和结果分析。
对于人工智能工厂中的智能体来说,速度至关重要。
CPU运行工具的速度越快,代理执行当前任务的速度就越快。
对于人工智能工厂而言,GPU 的利用率是数据中心中最宝贵的资源,因此任何等待任务完成的时间都会限制人工智能工厂的收益——更糟糕的是,等待 CPU 完成任务还会影响 GPU 的利用率。人工智能工厂需要具备最高单线程性能的 CPU,以最大限度地提高人工智能工厂的收益和智能体的性能。
如今的数据中心 CPU 并非为大规模高速运行而设计。
虽然目前市面上已有速度极快的PC和工作站CPU,但数据中心CPU的发展方向却逐渐偏离了单线程性能。云计算的兴起促使CPU制造商在降低成本的同时,牺牲部分性能,转而追求更高核心数的CPU。
为了优化每个可用核心的成本,CPU的设计增加了每个芯片的核心数量,但却占用了原本用于高性能内存架构和更快指令处理速度等核心运行所需硅片面积。向芯片组架构的转变进一步降低了成本,但也带来了“芯片组税”,即每个CPU核心无法再充分利用芯片的内存性能。
AI代理需要一款专为大规模单线程性能最大化而设计的CPU。
大规模部署的最大单线程 CPU 能够在系统满负荷运行时保持每个代理步骤的快速执行。每个核心都能以全性能完成代理任务,而不会受到其他核心的拖累。大规模部署的最大单线程 CPU 的设计旨在实现以下目标:
负载下单核性能强劲
每个核心都应具备足够的内存带宽,以确保活跃核心能够获得充足的数据。
可预测的延迟
每个核心都能完成自己的任务,而不会受到其他核心的拖慢,从而提供出色的吞吐量,更重要的是,提供尽可能快的单核任务性能。
NVIDIA Vera 就是这种新型 CPU 设计的典范。
人工智能代理不会在收到单个请求后就停止运行,而是在一个循环中执行。模型会推理下一步操作,CPU 执行模型周围的运算,并将结果返回。模型再决定下一步的行动,然后循环再次运行。
这种模式创造了一种传统CPU无法应对的需求模式。传统的CPU工作是间歇性的、用户驱动的,由人触发的短暂交互组成。而智能体工作则是持续性和并行性的:大量智能体持续运行,每个智能体都按步骤推进,每一步都依赖于前一步的结果。
CPU 的核心数越多,每个 CPU 可以执行的代理任务就越多,数据中心 CPU 需要很多核心才能最大限度地提高任务吞吐量。
然而,增加CPU核心数并不能缩短单个代理循环中每个步骤的执行时间。更多核心并不能加快任何单个任务的运行速度。事实上,为了最大化核心数量而设计的CPU,由于核心之间争夺资源,反而会降低每个核心的性能。
每个核心的性能直接影响每个步骤的完成速度。增加核心数固然有用,但还不够。由于每个操作都依赖于前一个操作的结果,因此每个核心的速度决定了循环的执行速度。
最终,最优秀的智能体 CPU 需要每个核心都具备最佳的单线程性能,并且每个核心都必须毫不妥协地提供这种性能。世界以秒为单位运转,而智能体则以纳秒为单位运转。NVIDIA Vera 正是为这种全新的工作类别和速度而打造的。
NVIDIA Vera 是一款大规模的单线程 CPU,从设计之初就专为代理循环而设计:代理在模型调用之间执行的工作,包括使用工具、处理数据、运行代码和检查结果。
Vera 的核心是 NVIDIA 的定制 CPU 核心 Olympus,其每周期指令数比 NVIDIA Grace 高出 50%。这一点至关重要,因为许多代理步骤都是顺序执行的。工具调用、代码执行、测试运行或数据处理步骤必须完成,下一个模型调用才能使用其结果。更快的核心可以更快地推进每个循环。
Vera 将这些速度更快的核心与高达 1.2TB/s 的 LPDDR5X 内存带宽相结合,而内存功耗却低于 40 瓦。此外,它还采用单芯片计算设计,确保活跃核心始终获得充足的内存,并通过 3.4TB/s 的核心间带宽(比其他任何数据中心 CPU 高出 3 倍)保证数据传输的可预测性。这使得所有 88 个核心都能充分发挥 CPU 的内存性能,而不会出现瓶颈导致每个核心运行缓慢的情况。
其结果是代理循环速度更快。在代表代理执行的高负载 CPU 工作负载下,Vera 的持续单核性能是 x86 的 1.8 倍。
这些收益会在工具调用、代码执行、数据处理步骤和验证过程中不断累积,帮助 AI 工厂利用其已运行的 GPU 完成更多代理工作。
Perplexity 使用 Vera 测试了其日常运行的智能体任务。在实际的编码工作流程中——克隆代码库并在沙箱中运行测试套件——Vera 的完成速度比 x86 快约 1.5 倍,并发启动多个沙箱的速度也快了 1.9 倍。Perplexity 目前正计划在其即将推出的生产系统中部署 Vera。
代理程序也依赖数据。它们不断地查询、检索、筛选和移动信息,而 Vera 可以更快地运行这些 CPU 端的数据工作负载。合作伙伴已测试出,使用 Starburst 进行大规模 SQL 分析的速度提高了 3 倍,使用 Redpanda 进行实时流式传输的延迟降低了高达 6 倍,这两项测试均与领先的 x86 服务器 CPU 相比。
智能体的工作并非单一的工作负载。智能体运行工具和沙箱,处理数据,响应请求,并使用强化学习训练下一个模型——所有这些都依赖于相同的优势。
一台 Vera 处理器即可处理所有任务,无需为每种类型的工作配备不同的 CPU。而且,由于 Vera 处理器同时也是 NVIDIA Vera Rubin 中的 GPU 和 NVIDIA BlueField-4 STX 存储处理器的 CPU,因此整个 AI 工厂都运行在同一架构和同一工具链上。
NVIDIA 的步伐并未就此止步。NVIDIA 的下一代 Rosa CPU 搭载 Rigel 核心,将继续推进公司面向智能人工智能时代的 CPU 路线图。Rigel 是 NVIDIA 的下一代 Arm v9.2 CPU 核心,在保持相同芯片尺寸的同时,单核性能优于 Olympus。其主要改进包括更高效的指令传递、更大的 L2 缓存和更高效的内存管理。
在智能体人工智能时代,将有数十亿个智能体,每个智能体都将依赖中央处理器 (CPU) 来进行行动、检查、检索、执行和验证。在这个新市场中,智能体完成的工作就是产品。更快的智能体循环有助于每个 GPU 将更多时间用于创造收益的工作,减少等待时间。
NVIDIA Vera 是为未来而打造的 CPU。
(来源:编译自wccftech )
*免责声明:本文由作者原创。文章内容系作者个人观点,半导体行业观察转载仅为了传达一种不同的观点,不代表半导体行业观察对该观点赞同或支持,如果有任何异议,欢迎联系半导体行业观察。
今天是《半导体行业观察》为您分享的第4461内容,欢迎关注。
加星标⭐️第一时间看推送
求推荐
热门跟贴