本期看点

本期看点

当美国的芯片管制和算力封锁已经延伸到跨国租用算力这条远程通道的时候,一套完全脱离海外高端芯片的万亿参数大模型,给整个行业上了一课。中国AI正在上演一场 “降维打击”,美国人破防,芯片封锁到头来一场空!

中国AI正在上演一场 “降维打击”,美国人要破防了?

中国AI正在上演一场 “降维打击”,美国人要破防了?

很多人还在担心海外算力租赁通道被封死后,大模型训练会陷入无卡可用的困境,现实却已经走出另外一条完全不同的道路。

根据《新华网》的报道,美团发布LongCat‑2.0万亿参数大模型,整套预训练工作,全部在五万张国产算力卡集群上完成。

王仲远是美团大模型团队的负责人,长期深耕大模型架构与算力适配,带领团队很早就启动模芯协同项目,没有坐等外部算力资源,而是直面国产硬件的各类短板做深度改造。

行业里不少团队还在想尽办法寻找海外算力资源,这支团队却沉下心来,一点点解决万卡集群通信故障、显存不足等棘手工程难题。

威尔·德普,曾经任职于OpenAI,现在运营一家名为失业实验室的研究机构,他在11月12日对外发布一份技术取证报告。

报告对多款开源大模型权重做溯源分析,在好几款国内大模型当中找到了海外高端芯片留下的初始化痕迹,唯独LongCat‑2.0没有相关印记。

这件事本身并不代表其他模型存在违规,只是客观反映不同团队选择的训练底座各有区别。

《新浪财经》梳理的新规内容显示,11月中旬落地的管制新规,把印尼、马来西亚、新加坡等地区的数据中心也纳入监管范围,大规模向特定主体提供远程算力,就需要走申请许可流程。

管制的触角,已经从实体芯片货物,延伸到隔着网线就能获取的算力服务。

这种现象恰恰说明,单纯依靠拦截实物货品,已经很难完全阻挡算力流动,只能不断增加全球企业的合规负担。

打开网易新闻 查看精彩图片

很多外界的固有印象认为,国产算力硬件单卡指标比不上海外顶尖产品,做不了万亿参数规模的大模型。

美团团队遇到的现实困难也印证了这点,国产卡显存偏小,万卡规模下通信抖动故障率高,初期调试的时候,经常要通宵排查各类集群故障。

团队没有选择绕开困难,而是从模型架构层面做针对性改良,借助稀疏注意力、动态激活等技术,降低硬件层面的硬性门槛,硬生生跑通完整训练流程。

这件事带给行业的启示,并不是说国产算力已经全面实现超越,我们依旧要客观看到软件生态工具链还存在不小差距。

但它实实在在证明一条路径,就算拿不到海外高端芯片,依靠本土软硬件协同打磨,同样可以产出具备竞争力的大规模大模型。

过往不少观点把CUDA生态当成不可逾越的高墙,可当大量工程师沉下心,做算子适配、集群容错、模型架构创新,高墙也会慢慢出现缺口。

当然我们不能过度乐观,五万卡级别的国产集群成功跑出一个模型,不等于全行业都已经可以轻松复制这套成果。

万卡级集群的建设、运维、人才储备,依旧有很高门槛,后续还要有更多项目持续落地,才能真正把个例变成行业普遍能例。

管制可以增加外部资源获取的难度,却没有办法彻底掐断技术迭代,只会倒逼本土的硬件、算法、软件工程师深度抱团,完成整套闭环。

算力的竞争,从来不是只比拼单颗芯片纸面参数。

硬件、算法、架构、工程能力结合在一起,才是完整的战斗力。

外部的条条框框,短期会带来成本上升,长期会加速本土算力生态走向成熟。

打开网易新闻 查看精彩图片