打开网易新闻 查看精彩图片

其二,通用GPU兼容主流生态,降低迁移上线成本。自主通用GPU架构与自研软件栈兼容CUDA生态,支持客户复用已有模型、主流框架及开发经验,降低迁移工作量与上线成本。作为通用GPU,同一底座既承载大模型训练与推理,也支撑金融估值、科学智能等任务,区别于仅适配特定AI负载的专用芯片,迁移成本与上线周期相应下降。其三,整柜互联,144颗GPU协同如一。高带宽整柜P2P互联、100ns级单跳时延、原生Load/Store与跨节点显存直访,将144颗GPU组成统一内存语义的高带宽域;约10.1TB显存为模型权重、MoE专家和长上下文KV Cache留出空间。模型所需并行资源更多在单柜内协同,高频All-to-All交互留在柜内、减少跨柜等待;互联参考设计在特定MoE All-to-All场景实现有效带宽提升15%,资源利用率与单柜业务承载随之改善。面向大规模在线推理业务,IXL144围绕高并发请求、多业务并行与流量波动等运行特点,以吞吐能力、响应时延和资源利用率为系统优化重点,兼顾业务高峰期的服务承载与低谷期的算力利用,着力提升多业务协同承载能力和长期运营效率。天数智芯同时关注算力全生命周期的使用效率。在交付与服务环节,本地化团队可提供必要的部署、运维与扩容支持,为大型算力投入提供长期保障;更核心的是系统经济效能的提升——通过计算、互联与调度的协同,让同等投入转化为更多有效算力。据测算,每百万有效Token的成本较国际主流方案可降低40%。天垓系列已实现万卡级规模部署,天数智芯由此具备系统级交付与运维经验。从今年1月公布四代架构路线图、7月WAIC发布天垓300、效能对标并超越Hopper架构国际主流方案,到此次展示天垓300 IXL144,旗舰GPU能力正从单芯片延伸至整机柜,并在真实机房中持续迭代。“超节点不是单一产品,而是一项系统工程,最终比拼的是系统经济效能。”天数智芯副总裁邹翾表示,“天垓300 IXL144只是一个开始,是天数智芯整套系统化超节点方案中率先推出的第一个;面向不同算力规模、不同机房条件的完整产品布局已经形成,后续将逐一呈现,系统展示我们对超节点的整体思考与技术布局。”

天数智芯 Iluvatar CoreX

天数智芯(09903.HK)是中国领先的通用GPU产品及AI算力解决方案提供商,致力于开发自主创新、国际领先的通用GPU产品,探索通用GPU赶超发展道路,加快建设自主产业生态,为我国经济社会高质量发展提供坚实算力底座。

天数智芯通用GPU产品涵盖天垓、智铠及彤央系列,具备优效能、易迁移、高通用优势,全面兼容国内外主流AI生态与深度学习框架。

未来,天数智芯将打造更可信、更高效、更绿色的算力引擎,赋能千行百业数字化转型,促进我国数字经济高质量发展。

(天数智芯 动态宝)