图:数据中心中的英伟达机架(示意)
英伟达的 Rubin 与 Rubin Ultra 服务器将非常昂贵,成本中很大一部分将单独花在内存上。
HBM 与 DRAM 成本推高英伟达下一代 Rubin “Oberon” 与 Rubin Ultra “Kyber” 服务器价格,远超 Blackwell
不断上升的 DRAM 与设备成本,将把英伟达 Rubin 服务器价格推上云霄。你或许已经觉得 Blackwell 服务器贵得离谱,但 Rubin 一代将在单台服务器成本上创下历史新高。
据美银证券全球研究(BofA Global Research)的估算,Rubin 与 Rubin Ultra 机架成本拆分显示价格大幅上扬,主要原因是 HBM 成本上升。
图片来源:BofA Global Research
先说基本配置:英伟达 NVL72 机架称为 Oberon,采用 72 颗 GPU 加 36 颗 CPU。单块 Vera Rubin 托盘装有 4 颗 “Rubin” GPU 和 2 颗 “Vera” CPU。两颗 GPU 与一颗 CPU 装在一块主板上,称为 Superchip。NVL72 机架上共有 36 块 Superchip,合计 72 颗 GPU 与 36 颗 CPU。
每颗 Rubin GPU 配备 288 GB HBM4 内存,每颗 Vera CPU 配备 1.5 TB LPDDR5X 内存。对于 NVL72 机架,即 20.7 TB HBM4 与 54 TB LPDDR5X。Vera Rubin NVL72 机架还有更多组成部分,例如网络、冷却、电源、互连等。
图:英伟达服务器机架示意
我们此前讨论过摩根士丹利研究给出的估算物料清单(BoM)中的完整系统拆分。那些是全机成本,覆盖 GPU、CPU、内存,以及构成 Rubin VR200 “Oberon” 机架的其余基础设施。
Blackwell B200 vs Rubin V200 估算成本
按新的估算,Rubin VR200 “Oberon” 机架将包含 72 颗 Rubin V200 GPU,每颗芯片共 288 GB HBM4 内存,机架合计 20,736 GB HBM4。这些机架上仅 HBM4 内存一项就达 38.2 万美元,且不含 LPDDR5X 成本。每 GB 成本为 18.40 美元。
与 Blackwell 相比,Rubin 的 HBM 成本将超过两倍,$/Gb 成本将从 11.26 美元升至 18.40 美元。每台 Rubin 服务器的 ASP 约为每机架 600 万美元,而 Blackwell 约为每机架 300 万美元。仅 HBM 就占机架成本的 6.4%。
指标
B200(Blackwell)
V200(Rubin)
GPU
B200
V200
架构
Oberon
Oberon
爬坡
2H24–2H25
2H26–2H27
GPU/机架
72x
72x
HBM/GPU
192 GB
288 GB
HBM GB/机架
13,824 GB
20,736 GB
HBM 类型
HBM3e
HBM4
$/GB
$11.26
$18.40
HBM $/机架
$156
$382
ASP $/机架
$3,000
$6,000
HBM 占机架成本比
5.2%
6.4%
Blackwell Ultra B300 vs Rubin Ultra V300 估算成本
对 Rubin Ultra 而言,涨价幅度更为惊人。每颗 Rubin Ultra V300 芯片将搭载 576 GB HBM4e 内存,NVL144 “Kyber” 机架将配备最多 82,944 GB HBM4e DRAM。
虽然美元/GB 有望与 Rubin V200 相近,约 18.49 美元,但机架整体 HBM 成本将膨胀至 153.4 万美元,是标准 Rubin “Oberon” 机架的 4 倍,几乎是 Blackwell Ultra 的 5 倍。每台 Rubin Ultra “Kyber” 机架的 ASP 预计为 2100 万美元(约1.43亿元人民币),高于 Blackwell Ultra 的 400 万美元。
指标
B300(Blackwell Ultra)
V300(Rubin Ultra)
GPU
B300
V300
架构
Oberon
Kyber
爬坡
2H25–2H26
2H27–2H28
GPU/机架
72x
144x
HBM/GPU
288 GB
576 GB
HBM GB/机架
20,736 GB
82,944 GB
HBM 类型
HBM3e
HBM4e
$/GB
$15.27
$18.49
HBM $/机架
$317
$1,534
ASP $/机架
$4,000
$21,000
HBM 占机架成本比
7.9%
7.3%
据富士康称,英伟达 Vera Rubin AI 数据中心的开发成本将超过每吉瓦 470 亿美元,电费每年达 13 亿美元。英伟达 Rubin 不仅购置昂贵,运行这些服务器的成本也很高。与此同时,Rubin 有望以业界最低的 TCO 与 token 成本,提供难以想象的 AI 性能。
考虑到对 Rubin 的需求有多大,其有望大幅超过 Blackwell。领先的 AI 公司已在安装首批 Vera Rubin 系统;随着这些 AI 算力巨兽进入量产,世界很快就会看到,为何这些 AI 公司要在大规模 AI 数据中心上投入巨资。英伟达正按计划在全球交付领先的 AI 能力。
热门跟贴