2026 年 10 月 12 日,2026 中国国际工业博览会在上海开幕。
天数智芯首次展示天垓 300 IXL144 超节点:单柜集成 144 颗 GPU、18 颗 CPU,配备约 10.1 TB 显存。
这是其系统化超节点布局的首个方案,也是业界最高密度的单机柜 GPU 超节点。
从单卡走向整柜,算力供给的单位正在变化。
对于大模型客户,密度是起点,互联效率、机房适配和软件迁移决定超节点能否真正用起来。
144 芯单柜:密度之外,看互联与部署
天垓 300 IXL144 超节点通过高带宽 P2P 互联,将 144 颗 GPU 组织成高带宽域。柜内单跳时延达到 100ns 级,原生 Load/Store 与跨节点显存直访提供统一内存语义。对于需要频繁交换数据的 MoE 模型,其互联参考设计在特定 All-to-All 场景下实现 15% 的有效带宽提升。
约 10.1TB 显存,为大模型权重、MoE 专家和长上下文 KV Cache 提供容量空间。计算、显存与互联被放在同一整柜方案中,目的是减少大规模推理时多卡通信带来的损耗。
机柜形态贴近常规标准。
在供配电、承重与散热条件匹配时,方案可以进入现有机房;灵活组网支持按规划分步扩展。对于正在扩容的客户,这关系到既有设施能否承接新算力。
迁移与运营,决定整柜的实际价值
通用 GPU 架构配合自研软件栈,兼容 CUDA 生态,已有模型、主流框架和开发经验可以复用。客户面对的不只是一次硬件替换,还包括模型迁移、应用适配和长期运维。
面向在线推理中的高并发请求、多业务并行和流量波动,方案围绕吞吐、时延与资源利用率优化。
据测算,每百万有效 Token 的成本较国际主流方案可降低 40%。这一指标指向的,是从采购成本进一步转向有效输出成本的核算。
彤央:将云端同源能力延伸到端侧
同场亮相的彤央,展示了天数智芯云边端产品矩阵的另一端。它与云端产品采用同源通用 GPU 架构;编译器、算子库和性能工具随之延伸至端侧,为端侧设备持续适配更新、更大的模型提供软件基础。
在这套路径中,模型可在云端训练、端侧部署,并回到云端复判、完成精度对齐。统一的软硬件基础,连接了云端迭代与现场实时响应,也为数据留在本地的业务提供部署选择。
现场,彤央 TY1200 算力终端借助本地大模型与业务规则,离线完成投资材料分析、合同审核等任务;面向具身智能设备,彤央还可作为“外挂大脑”,提供模型运行和实时推理能力。
从万卡部署到整柜方案
天垓系列已实现万卡级规模部署。
天数智芯产品进入 30 多个行业,服务 380 多家商业化客户,落地超过 1000 个项目。
继今年 1 月公布四代架构路线图、7 月发布天垓 300 后,此次亮相的天垓 300 IXL144 超节点,将旗舰 GPU 能力进一步延伸到整柜。
后续面向不同算力规模和机房条件的方案,也将继续检验这一系统化路径的适配能力。
云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。
热门跟贴