过去两年,大模型架构最大的变化,是MoE(混合专家)模型的流行。MoE把模型切成数十上百个专家模块,每次推理只激活其中一部分,最顺手的部署方式就是“一卡一专家“,专家摊得越开,并行度越高。
行业给出的解决方案,便是超节点:依靠高带宽柜内互联,把几十上百颗GPU收拢进统一内存域,以此化解通信与显存的双重矛盾。自去年底到今年WAIC,华为、摩尔线程、沐曦等厂商陆续推出整机柜乃至跨机柜超节点方案,单机卡数纪录从256一路刷新至1024。AI芯片的竞争,已经跳出单卡性能比拼,演进为整套系统能力的较量。
但热闹的发布会背后,现实略显尴尬:能够真正实现规模部署、产生持续商业收入的超节点产品寥寥无几。
01
为什么很多超节点用不起来?
算力市场的增长预期是确定的。IDC预计,2026年中国智能算力规模达2576.5 EFLOPS,同比增长87.9%,2030年将达10524.3 EFLOPS,2025-2030年复合增速50.3%,显著高于通用算力27.7%的增速。旺盛的算力需求客观存在,但高需求不等于硬件产品就能够顺理成章完成商业转化。对企业客户而言,引入一套超节点,绝不是简单采购一批GPU硬件,而是要综合评估迁移适配、机房改造、长期运营的综合代价。从发布到规模部署,需要克服多个难题。
一是迁移成本。国产方案普遍宣称兼容CUDA,但兼容不等于无损迁移,算子覆盖、精度对齐、性能调优,每一项都是繁重的工程工作。不少客户的真实状态是:测试环境能跑,生产环境掉坑;纸面性能可观,实际负载打折。
二是部署门槛。当前主流整机柜超节点多为专属形态,配套专属液冷与供电,意味着“先建房、再上柜”,供电改造、承重加固、散热重构,决策链以半年计,投入以千万计。而中国真正掏钱的存量客户,金融、能源、制造的头部企业,大多有现成机房,但不可能为AI重建一座数据中心。产品定义时没考虑这点的方案,往往发布会即是巅峰。
三是运营与验证成本。超节点属于千万级甚至上亿的大额IT采购。客户不会仅凭纸面参数就下定决心,必须要有同规模、同业务场景下稳定运行的真实案例作为参考。这造成一个马太效应:没有案例的拿不到案例,有案例的越滚越多。行业里相当一部分产品发布,本质就是厂商在寻找第一个灯塔客户的过程。与此同时,市场真实业务场景也和部分产品的设计出发点出现错位。很多超节点产品的叙事围绕万卡大模型训练展开,但当下市场真正愿意掏钱的场景,更多是私有化部署、大规模在线推理。推理业务流量波动剧烈,客户不追求一次性把算力拉满,更看重算力可以分步扩容,避免硬件闲置浪费,还要控制每一轮Token产出的长期运行成本。
当液冷、高速互联这些底层硬件技术持续突破之后,单纯比拼硬件堆叠已经很难拉开差距。超节点的竞争重心,正在从物理硬件参数,向真实业务下的系统经济效能转移。
02
面向真实落地,如何优化系统经济效能?
从客户痛点出发,天数智芯选择了最契合场景落地的方案:不打造规格最大的机柜,而是打造更容易落地进门、综合成本更划算的算力柜子。10月12日,2026中国国际工业博览会现场,天数智芯发布系统化超节点布局的首款产品天垓300 IXL144。作为业界最高密度的单机柜GPU超节点,该方案单柜可集成144颗GPU和18颗CPU,配备约10.1TB显存。其价值不止于密度,更在于系统经济效能的整体改善。整套方案的设计出发点,就是回应客户关心的迁移、机房、运营等问题。
首先是依靠软硬件栈能力,压低业务迁移的实际代价。超节点从方案走向应用,客户首先要面对模型、框架和代码的迁移成本。硬件能力能否被快速使用,取决于软件栈对已有开发成果的支持,以及后续调优所需的工作量。天垓300 IXL144依托天数智芯自主通用GPU架构与自研软件栈,兼容CUDA生态,支持客户复用已有模型、主流框架及开发经验,降低迁移工作量与上线成本。作为通用GPU,同一底座既承载大模型训练与推理,也支撑金融估值、科学智能等任务,区别于仅适配特定AI负载的专用芯片,迁移成本与上线周期相应下降。更重要的是,Agent正在参与“造AI”本身,成为压低迁移成本的新路径。近期天数智算软件栈将迎来版本更新,进一步构建面向Agent协同的智能开发套件,把AI引入模型适配、部署与性能优化等环节,推动开发从人工操作为主向人机协同演进。当AI介入适配与调优,客户迁移与上线的人力成本、时间成本将得以进一步下降。天数智芯的软件迁移能力已经在多个行业的真实生产项目完成验证。截至目前,天数智芯已服务30多个行业的380多家商业化客户,落地部署超过1000个项目。
其次是机柜形态的取舍,优先适配存量机房现实条件。和行业部分采用宽体、高度定制化整机柜的思路不同,IXL144采用贴近常规机柜标准的单机柜形态。只要客户现有机房的供电、承重、散热条件能够匹配,这套设备就可以直接部署进存量机房,不需要为算力设备专门开展机房新建或者大规模基建改造。在算力扩容策略上,方案支持一次规划、分步扩展。企业可以根据自身业务发展节奏逐步叠加算力,不必一次性完成全部硬件采购,以此规避业务尚未起来,硬件已经全部就位带来的算力闲置风险,大幅降低项目前期投资压力。
最后是通过柜内互联与系统调度协同,改善长期运营效率。天垓300 IXL144内部实现高带宽整柜P2P互联,拥有100ns级单跳时延,原生Load/Store以及跨节点显存直访,将144颗GPU构建成具备统一内存语义的高带宽域。对于MoE模型非常关键的All‑to‑All高频交互,尽量约束在单机柜内部完成,减少跨机柜通信带来的时延损耗,在特定MoE All‑to‑All场景下有效带宽可以提升15%,资源利用率与单柜业务承载随之改善。
产品的系统调优,重点面向当下主流的大规模在线推理业务,针对高并发请求、多业务并行与流量波动等运行特点做深度优化,兼顾业务高峰期的承载能力和低谷阶段的算力利用效率。本地化团队在交付与服务环节还可提供必要的部署、运维与扩容支持,为大型算力投入提供长期保障。根据官方测算,该方案每百万有效Token的成本,相比国际主流方案能够下降40%,直接缓解客户长期业务运营成本压力。天垓系列已实现万卡级规模部署,天数智芯由此具备系统级交付与运维经验,也破解了行业普遍存在的验证成本难题,缓解“没有案例就拿不到新案例”的马太效应。
“超节点不是单一产品,而是一项系统工程,最终比拼的是系统经济效能。”天数智芯副总裁邹翾表示,“天垓300IXL144只是一个开始,是天数智芯整套系统化超节点方案中率先推出的第一个;面向不同算力规模、不同机房条件的完整产品布局已经形成,后续将在合适场合逐一呈现,系统展示我们对超节点的整体思考与技术布局。”
03
不止云端超节点:云‑边‑端分层算力布局
AI应用正在从云端走向现场,算力需求呈现分层化特征,端侧算力不是云端能力简单下放,而是独立且体量庞大的需求层级。云端承接大规模训练与复杂结果复判;大量对实时性、数据本地安全有要求的业务,则需要在端侧现场完成推理。
长期以来,端侧算力大多依靠专用硬件承载,算子库、编译器工具链能力薄弱,模型迭代升级之后往往难以移植,设备容易形成算力孤岛。由云端GPU厂商向下做端侧产品,核心优势来自架构同源:把成熟通用GPU架构与全套软件工具链下沉至端侧,摆脱传统端侧硬件的工具链短板;打通“云端训练、端侧部署、云端复判”的业务闭环,保障云端、端侧模型精度对齐,避免端侧成为算力孤岛。
工博会现场,天数智芯同步展出彤央端侧系列算力产品。智铠系列承担云端、边缘推理任务;全新彤央系列以算力模组、算力终端形态落地,服务具身智能、物理AI、本地离线数据审核等多样化场景。例如彤央TY1200算力终端,可离线运行大模型,完成投资材料分析、合同审核等数据敏感业务;也可以作为具身智能设备的“外挂大脑”,为物理AI提供本地实时推理能力。
依托“通用GPU+自研软件栈”底座,天数智芯已经在众多行业形成落地案例:工业领域完成时序大模型训练微调与大模型推理部署,赋能工艺优化;金融行业支撑多模态大模型、蒙特卡洛模拟、金融估值计算;能源矿业实现物探全流程千卡级部署、智慧矿山视频智能分析;城市治理完成交通长尾事件识别、园区存量摄像头智能巡检;医疗场景对接医院业务系统,落地病历质控、医保审核、ICU辅助决策等。
04
超节点下半场:从拼卡数到拼使用价值
回看这一年的超节点竞赛,厂商的路线已经分化成两条。一条路线追求超大规模,能够支撑超大参数模型训练。华为、曙光等把超节点做到跨机柜、千卡级,追求最大的算力规模,但这类方案配套专属液冷与供电,往往要求专门机房,供电、承重、散热都要改造,改造成本高、部署周期长。另一条路线选择通用单机柜形态,机房改造成本可控,但受限于空间、散热约束,单机柜内部可集成的GPU数量有限,超节点的算力密度上不去。这就构成了产业现实矛盾:高密度和机房友好,往往难以兼得。很多方案要么密度够,但必须改造甚至重建机房;要么适配存量机房,单机柜算力规模又存在明显短板。
天垓300 IXL144的144卡高密度方案,价值恰恰就体现在这个取舍之间。它没有走宽体定制机柜路线,而是在贴近行业标准机柜的物理边界之内,实现144颗GPU的高密度集成。既把单机柜算力密度拉到新高度,又最大程度保留对存量机房的兼容性,把机房改造成本压到最低。
超节点竞争的下半场,比拼的不再是谁能做出规格最大的硬件柜子,而是如何在硬件密度、基础设施适配、软件迁移成本之间找到最优解。IXL144代表的正是这样一种产品思路:不只为实验室跑分设计,面向千行百业存量数据中心,让高密度超节点真正实现“造得出,更用得起”。
热门跟贴