聊 AI 算力,大家早已习惯千卡、万卡这类计量单位。而央视在报道国内全新算力基础设施时,用了一句极具冲击力的描述:国产算力,“能装一个宇宙”。

打开网易新闻 查看精彩图片

10 月 18 日,央视《朝闻天下》“‘全’释硬科技” 专题,聚焦我国首个十万卡 AI 超集群。很多人第一眼会以为 “能装一个宇宙” 只是文学化的夸张修辞,但放到大模型训练场景里,这句话对应的是实打实的算力跃升。

放眼全球,当前用于前沿大模型训练的主流算力集群,普遍停留在万卡级别。十万卡,直接跨了一个数量级。 简单理解,算力集群规模,决定了大模型一次性能够承载的数据体量,以及可探索的模型参数上限。万卡集群能完成主流大模型训练,而十万卡集群,可以一次性吞吐海量多模态数据,同时并行测试多种模型架构,大幅压缩前沿大模型的研发周期。同样一个模型,万卡要数月完成的训练任务,十万卡集群可以大幅缩短迭代时间,也有能力去尝试参数量更大、能力更强的基础大模型。

很多人会有一个误区:搭建超大算力集群,核心就是采购足够多的 AI 加速卡。事实恰恰相反,硬件卡片只是基础,十万卡集群最大的难关,在于大规模多卡协同调度。

上万张卡同时并行运算,卡与卡之间的数据通信会产生巨大损耗。集群规模越大,通信延迟、数据同步、故障容错的难度成倍上涨。集群里任意一张卡出现异常,如果调度系统不够强,都有可能拖累整套训练任务中断。 能落地十万卡 AI 超集群,代表国内已经突破大规模算力组网、分布式调度、集群运维等整套工程化难题。不再只是单纯堆叠硬件,而是具备搭建、管理、稳定运行超大规模算力体系的全套能力,这也是央视将其定义为硬核科技成果的核心原因。

当然也要理性看待。十万卡集群落地,是国产算力基础设施里程碑式的突破,但这不代表算力所有瓶颈全部消失。除了集群组网,底层芯片持续迭代、软件栈优化、算力能耗控制、配套工具链完善,依旧还有很长的攻关之路。超大规模集群的落地,是给国产大模型研发,打开了更大的试验场。

十万卡 AI 超集群落地,你认为国产算力的规模瓶颈,算是被突破了吗? # 国产算力 #AI 超算 #大模型