今年的算力展会上,超节点是最不缺关注的那类产品。各家比的东西也很直接:一个机柜,到底能塞下多少张卡。
看多了会发现一个现实问题,卡越塞越多,但这些超级机柜大多是专用形态,供电、液冷都得单独配,老数据中心往往接不住。
工博会上,天数智芯拿出的天垓300 IXL144,想解决的就是这件事。单柜144颗GPU、18颗CPU,约10.1TB显存,用的却是贴近标准的单机柜形态,现有机房条件匹配就能上。
超节点的门槛,不止在芯片上
大模型和智能体把算力需求一再推高。IDC的判断是,2026年中国智能算力规模约2576.5 EFLOPS,同比增长87.9%。需求是真的,超节点也因此从技术验证走到规模采购。
真到掏钱的时候,客户关心的反而不是峰值算力。机房要不要改造,已有模型和代码要不要重写,每百万Token的成本能不能降下来,这三件事决定了一套超节点能不能铺开。
换句话说,超节点拼到这一步,已经不只是拼芯片,而是拼整套方案在客户现场好不好落地。
机房改动尽量小
这是IXL144和不少现有整机柜方案最不一样的地方。
常见的整机柜超节点,机柜是专门设计的,液冷、供电也是专属配套,往往要专门机房,相当于“先建房、再上柜”,投入和周期都不小。
IXL144贴近常规机柜标准,供配电、承重、散热条件对得上,就能进现有机房;组网拓扑也支持一次规划、分步扩容,不用一开始就把钱砸满。对机房空间紧张、又不想新建的客户来说,这一点比单纯多塞几张卡更实在。
代码和模型,尽量不重写
迁移是另一道坎。天数智芯用的是自研通用GPU架构和软件栈,兼容CUDA,客户已有的模型、框架和开发经验基本能接着用。
通用GPU还有个好处,训大模型、做推理可以,金融估值、科学智能这类任务也能跑,不是只适配某一类AI负载,算力利用效率自然更好,适配、迁移工作也更好做。
底座天垓300,对标的是H100、H200
IXL144里的GPU,是天数智芯今年7月WAIC发布的旗舰天垓300,基于SIMT通用计算架构。它的对标对象,是英伟达Hopper这一代,也就是H100、H200。
官方给出的实测数据集中在几个主流场景:64k长上下文的Attention效能高出约10%,DeepSeek V4这类MoE场景计算效率超过70%;主流模型首字延迟降低约20%,Decode阶段通信延迟降低约13%。
需要说明的是,这些都是特定模型、特定场景下的对比,不是全场景的跑分碾压。但能在大模型最吃重的几个环节正面比较、甚至占优,对国产GPU来说已经说明问题。
144张卡,要像一张卡那样协同
卡多了,互联跟不上,算力就会空转。IXL144用整柜高带宽互联把144颗GPU连成一个统一内存域,单跳时延在100ns量级,高频的All-to-All通信尽量留在柜内,个别MoE场景有效带宽能提升约15%。10.1TB显存,则用来放模型权重、MoE专家和长上下文的KV Cache。
面向在线推理,它也按高并发、多业务和流量波动做了优化,重点看吞吐、时延和利用率。
最后算的是Token这笔账
前面这些,最终都要落到成本上。天数智芯给出的测算是,IXL144每百万有效Token的成本,比国际主流方案低40%。
这个数字是厂测口径,落到不同客户的真实业务上会有差异,还需要更多项目验证。不过天垓系列已经做到万卡级规模部署,服务380余家客户、落地超千个项目,系统交付和运维有实际经验打底。
“超节点不是单一产品,而是一项系统工程。”天数智芯副总裁邹翾说,IXL144只是整套方案里的第一个,面向不同算力规模和机房条件的产品已经布局好,后面会陆续推出。
超节点这门生意,最终还是要回到客户的机房和账单里。能不能让客户少改一点机房、少重写一点代码、少花一点Token的钱,比单柜塞了多少颗卡,更值得关心。
热门跟贴