同样一代Blackwell GPU,同样跑DeepSeek R1推理,一台机器单卡每秒能产出4130个Token,另一台只有941个。差距不是4.4倍这么简单——它意味着同样的电、同样的机房、同样的芯片采购预算,产出差了四倍多。

海外研究机构SemiAnalysis的开源推理基准InferenceX做过这组同芯片对照实验:GB200 NVL72与HGX B200,唯一变量是系统架构。NVL72靠72卡NVLink全互连,单卡吞吐最高达到B200的4.4倍。而B200服务器只支持8卡NVLink互连,一旦专家并行度超过8,通信就得跨出NVLink域,走上带宽低得多的以太网。

打开网易新闻 查看精彩图片

效率提升的主要来源不是单卡变快,而是互连域和系统架构对通信开销的压缩。这句话,基本概括了2026年国产算力领域最火的那个词:超节点。

从"给我多少卡"到"每秒产出多少Token"

用户对AI算力公司的提问变了。过去问的是"你能给我多少卡",现在问的是"你每秒能稳定产出多少有效Token,成本是多少"。提问方式变化的背后,是大模型从训练为主转向推理为主。

过去两年,大模型参数规模一路狂奔,从千亿级到万亿级,MoE架构成为主流。DeepSeek R1有671B参数、256个路由专家;Kimi K2.5达到1T参数、384个路由专家。每生成一个Token,模型内部就要触发几十甚至上百次跨卡通信。这种通信量级,传统服务器集群扛不住。

业内专家给出的判断是:大模型正在从能训练、能运行进入规模化生产阶段,问题不再是单卡峰值和卡数,而是系统能否稳定承载模型、持续产出有效Token,同时控制时延与总成本。训练是项目制的,训完即止;推理是运营制的,时延敏感,成本与收入直接挂钩。

中科曙光高级副总裁李斌表达了相似观点:行业衡量算力的标准变了,过去主要看单颗芯片的峰值性能,现在更看一套系统能持续输出多少有效算力。

改变来自两个方向的需求。模型侧,MoE架构驱动参数规模持续膨胀,前沿模型参数量快速突破万亿,参数和序列长度增加带来键值缓存激增,需要超大显存空间承载;推理过程是典型的通信敏感型计算,专家路由、Token分发、跨卡数据交换,对互连带宽和时延提出近乎苛刻的要求。应用侧,Agent的兴起让一次用户请求可能触发多轮模型调用、工具调用和并发任务,智能体推理需要生成比传统模型多近百倍的数据词元。

李斌指出,"Token消耗和并发压力都会上升,带来的跨卡通信,对带宽和时延都很敏感。"

供给侧的条件也在成熟。高速互连、液冷、分布式存储和系统管理软件的进步,让把更多计算资源装进一个更紧密的系统成为可能。超节点本质上做了一件事:把高速互连域从传统的8卡扩展到几十卡甚至上百卡,让卡间通信从网络传输,变成内存访问级别的低延迟。

业内专家把这波热度的本质说得很直白:基础设施竞争的计量单位从FLOPS变成每元、每毫秒能稳定产出多少有效Token。模型演进定义了需求的上限,系统能力决定了落地的下限,两者一旦匹配,超节点便从概念变成了产业共识。

四堵墙,和它们各自的解法

方向明确了,但把超节点做出来,远比想象中艰难。行业普遍用"四堵墙"来概括传统服务器集群面临的瓶颈:通信墙、功耗与散热墙、存储墙、复杂度墙。

超节点要突破这四堵墙,考验的不是某一项单点技术,而是计算、互连、供电、散热、存储、软件的系统级整合能力。真正的超节点绝非物理组合,据悉,前期仅芯片架构设计费用投入就可能超过亿元。

首当其冲的是通信墙。传统集群中卡间通信走网络传输路径,超节点则把高带宽互连域从8卡扩展到64卡以上,让卡间通信变成接近内存访问的低延迟操作。

存储墙与复杂度墙更考验体系化能力。中科曙光的思路是把通信、存储、散热和管理问题放到一个系统里协同优化:通信上采用超节点内部高速互连、超节点之间scaleFabric高速网络的分层架构;散热上浸没式相变液冷让PUE低至1.04;存储上ParaStor系统围绕大规模并发访问和检查点读写进行优化,并多次登顶全球性榜单。面对复杂度墙——系统规模越大,局部故障、软件适配和运维压力越容易被放大——曙光强调的下一阶段重点是故障快速隔离与恢复、跨架构应用迁移等问题。

功耗与散热层面,液冷已经成为超节点解决方案的标配。联想在这条路上走得相当扎实。据联想中国基础设施业务群服务器事业部总经理周韬介绍,联想"海神液冷"品牌已从通用服务器扩展到全部AI服务器,支持45度温水进水,日常水温无需额外冷却处理即可直接使用,大幅降低冷却环节的能耗。

液冷硬件设备的生产过程也是对供应链的考验。周韬提到,整机柜液冷产品一个机柜承重超过3吨,耗电达到数百千瓦,联想为此对工厂进行了承重加固、十兆瓦级供电改造。因为液冷快接头非常精密,灰尘和腐蚀很容易导致漏液,工厂甚至需要把生产环境的洁净度做到十万级。

互连域该做多大,厂商给出了不同答案

超节点仍处于发展的初期阶段。在与部分国内一线服务器厂商的沟通中,各家在"多大规模才合适"的问题上给出了不同答案。分歧的焦点在于:一级高速全互联域到底应该做多大?

在某行业专家看来,互连域存在收益收敛的边界。NVIDIA在GH200阶段的研究就验证过,互连域规模超过一定程度后,训练性能的边际提升趋于平缓,相对增加的复杂度、成本和故障面而言得不偿失。因此NVIDIA在GB200、Vera Rubin时代都在控制单一互连域规模,转而专注提升单系统效率。

联想的选择体现了同一逻辑。据周韬介绍,联想问天超节点选择单节点40张GPU的规模,理由是真正意义上的一级高速全互联域,无论是NVIDIA NVL72、AMD Helios还是其他方案,规模大多集中在几十卡到百卡以内,所谓数百卡乃至上千卡的系统,本质上已进入多级互联和Scale Out集群范畴。40卡既能在节点内获得较高通信效率,又避免超大规模互连在可靠性、运维上的挑战,同时通过标准网络灵活扩展至更大的集群。

曙光则选择"大小通吃":既有十万卡AI超集群曙光8000,也有40卡的scaleX40"箱式超节点",对应不同客户的需求与建设条件。

路线各异,但共识正在浮现:规模是手段而非目的,真正需要优化的一定规模约束下的系统效率。业内专家直言不讳地批评了一种现象——部分厂商刻意把互连域规模包装成超节点能力的代名词。"规模可以在参数表上一夜之间做上去,Token成本却必须在真实负载里一分一毫地省出来。"这句话,或许可以作为本轮超节点竞赛里最值得客户记下的一条选型提醒。

技术验证只是起点。超节点要真正规模化落地,工程化的挑战不可回避。从芯片架构设计到液冷产线的洁净度,从互连域规模的取舍到故障隔离与跨架构迁移,这场竞赛的计分方式已经不再是参数表上的数字,而是真实负载里省出来的每一分钱。