打开网易新闻 查看精彩图片

台上摆的已经不是一块板卡。

从 2024 年的 GB200 NVL72 开始,英伟达把产品从芯片做成了机柜:72 块 GPU、36 颗 CPU、交换机和液冷,整柜交付,整柜定价。

一块 H100 卖 3 万美元,一个 NVL72 机柜卖 300 万美元。

毛利率降了,锁定变强了

单看毛利率,卖整机不如卖芯片。芯片毛利七成以上,整机装配这一层薄得多。

但英伟达算的不是毛利率。

一块卡可以被换掉,一个机柜不行。机柜里的供电、液冷、背板、交换机都是为特定 GPU 定制的,客户换供应商等于重建整个机房。

黄仁勋在 2024 年的财报会上说过一句话,我们卖的不是芯片,是数据中心。这句话是这轮转型的核心。

云厂商的议价空间被削掉一块

以前云厂商可以自己设计服务器,自己挑主板、电源、散热,把成本压到最低。现在拿到的是整柜方案,可调的只剩机房的位置和数量。

更麻烦的是配额。机柜产能受限于封装和内存,这两样都在英伟达的分配权里。谁拿到配额,谁才有算力。

受损的不只云厂商。服务器代工厂从整机设计方变成了按图纸代工,做自研芯片的公司被软件生态挡在外面,二手市场的残值掉得比单卡更快。

下一轮瓶颈在电上

一个 NVL72 机柜功耗 120 千瓦左右。一百个柜子的机房,用电负荷顶得上一座小城镇。

美国几大电网的并网申请已经排到三年之后。这意味着即便芯片产能充足,数据中心也未必建得起来。土地、电力、水冷,过去是配套,现在是前置条件。

国内的约束一样存在。算力往电便宜的地方搬,这个逻辑和东数西算是一回事。

还有一个变化发生在软件层。

过去客户买卡,软件栈自己搭,用起来出问题自己扛。现在整柜交付,配套的编译器和调度框架也一并给到。这套软件是英伟达真正的护城河,客户跑在上面,迁移成本比换硬件更高。

所以整柜这门生意,卖的是硬件加软件,收的是长期依赖。一旦客户的模型和工具链都按这套来建,后面几代的采购就很难换别家。

隐患还有两个。一是客户集中度,前几大客户占收入四成以上,而这几家都在自研芯片。二是交付节奏,整柜从下单到通电要半年以上,2024 年那轮抢卡就有大批卡闲置半年才上线。

整柜的单笔金额更大,闲置的代价也更大。

还有一个变量是客户自己的机房条件。整柜方案对供电、承重、制冷的要求都比通用机架高,很多老旧数据中心要改造才能装。改造周期三五个月,这段时间里买回来的柜子只能等着。

这也解释了为什么新一代数据中心的建设速度,成了算力落地的真实上限,而不是芯片产能。

国内的情况要复杂一些。

一方面是管制,先进制程的卡进不来,能拿到的算力有限;另一方面是需求,几个大厂的模型训练都要排队等卡。

这就逼出了一条自己的路:把有限的算力用得更省。混合精度、稀疏化、蒸馏,这些技术在国内推得比国外快,不是因为更先进,是因为更缺。

另一个变化是国产替代的节奏。推理这一侧,国产卡的性价比已经能打;训练这一侧,差距还在。所以国内的实际格局往往是训练用少量高端卡,推理铺大量国产卡。

这个格局决定了国内算力生意的形态:整柜方案未必照搬,但"卖系统不卖零件"这个逻辑,一定会被学过去。

现在轮到拼选址和拼电费了,芯片本身的差距,暂时不是最要紧的那个变量。

来源:NVL72 配置与定价来自英伟达公开发布(2024 年);客户集中度来自英伟达财报;机柜功耗来自公开技术白皮书。