王兴说AI是“必答题”,美团交出了一张完全用国产算力答出来的万亿参数答卷。
美团正式将LongCat-2.0的模型权重、推理引擎与核心技术文档向全球开发者开源。距离模型发布,仅过去一周。
同一天,华为昇腾、摩尔线程、沐曦股份等国产芯片厂商宣布完成对该模型的推理适配。这标志着中国AI产业首次有万亿参数大模型在“模型权重”和“算力底座”两个维度同时向全球开源社区开放,且完全依靠国产算力完成训练和推理全流程。
参数不是噱头,稀疏架构解决算力焦虑
LongCat-2.0采用MoE(混合专家)架构,总参数规模达到1.6万亿,但实际推理时平均仅激活约480亿参数。这种“知识储备巨大、按需调用算力”的设计,让模型既拥有海量记忆能力,又保持了推理的经济性。
模型原生支持一百万Token超长上下文输入,可以一次性处理百万字级的内容。
针对这个“长上下文”难题,LongCat-2.0在架构上有两项关键创新。
第一项是LongCat稀疏注意力机制,将传统Transformer的平方级计算开销优化为线性级,有效解决了百万级Token长文本的训练与推理效率问题。通俗地说,模型处理长文本时不再“逐字逐句地看”,而是智能筛选关键信息,速度大幅提升。
第二项是N-gram Embedding模块,在MoE稀疏度已接近百分之九十七的情况下,继续堆专家的收益十分有限。美团团队将一千三百五十亿参数投入该模块,强化了模型对代码结构和语义的理解,同时将这部分参数占总参数的比例控制在百分之十以内,兼顾了参数效率与结构稳定性。
五万张国产卡,验证了“国芯+国模”的可行性
如果说模型参数是“面子”,那五万张国产算力卡的集群就是LongCat-2.0最硬的“里子”。
过去行业普遍认为,国产算力卡在单卡性能、软件生态和集群稳定性上,难以支撑万亿参数模型的训练与推理。LongCat-2.0的出现验证了另一条路——国产算力不仅能“用”,而且能“做大”。
美团LongCat团队对国产算力的探索始于2023年,从千卡规模起步,逐步攻克算子适配、通信优化、分布式稳定性等基础难题,最终在五万卡集群完成万亿参数模型的全流程训练与推理。
将训练规模从千卡扩展到五万卡,团队面对三个核心难题。
稳定性方面,万卡级集群硬件故障和通信异常是常态。团队通过HCCL异常处理、弹性扩缩卡和自动故障恢复,将月均日故障率降低七成以上。
正确性方面,团队通过自研确定性算子、Bitwise一致性验证和参数检测,确保训练结果的可靠性。
效率方面,通过流水线调度、显存优化和算子级控核,训练算力利用率提升了一点五倍,稳态日吞吐超过一万亿Tokens。
开源加国产适配,盘活“存量算力”
LongCat-2.0的开源并非简单放出模型权重。美团同步开放了针对国产算力芯片深度优化的推理代码,并提供BF16、FP8及INT8等多精度版本,全面覆盖不同算力平台的部署需求。
美团的目标是“盘活存量国产算力”——让包括性能相对较低的国产芯片在内的存量算力,都能流畅运行万亿参数大模型。
为此,团队在底层做了大量协同优化工作。
超级内核方面,减少算子数量以降低启动开销,提升计算效率。
权重预取方面,将I/O延迟隐藏在前序计算中,缓解显存带宽瓶颈。
PD分离部署方面,将预填充和解码分离,预填充端通过缩小专家并行域与序列并行分担长序列计算压力,解码端以KV-cache切分降低单卡显存占用。
以华为昇腾为例,该模型总参数达1.6万亿,要在单卡显存仅64GB的昇腾A2上部署并兼顾高性能推理与百万级长序列,华为CANN推理团队采用PD分离架构做了针对性优化。摩尔线程则在自研MTT S5000及MUSA软件栈上完成全流程适配。
王兴:AI是“必答题”,不是“可选题”
今年股东大会上,有股东担忧美团对AI的投入较为激进。对此美团创始人王兴明确表示,AI转型是“必答题”而非“可选题”。所有公司都要面对两件事:产品中使用AI和工作中使用AI。王兴还表示,Agent对工作流程的影响“超出两年前的预期”,美团正在积极应对。
美团CFO陈少晖则透露,美团深刻感受到正处于一个时代性的浪潮中,希望通过投资关注和参与最前沿的技术变革。美团目前持有理想、智谱等上市公司股票,加上宇树科技等非上市公司,按账面价值总计可能超过六百五十亿元。
国产算力叙事的转折点
天使投资人、AI专家郭涛表示,美团龙猫模型1.0与2.0的升级体现在三大维度:参数规格升级、算力全栈国产化、场景适配Agent。
在笔者看来,LongCat-2.0的开源,技术价值或许还在其次,其产业生态价值才是关键。它验证了国产算力不仅能“用”,而且能“做大”;不仅能在实验室跑通,而且能在五万卡集群上稳定产出万亿模型。
当DeepSeek、美团们纷纷在国产算力上跑通万亿参数模型,中国AI产业在“算力自主可控”这条路上,已从“孤舟独行”迈向了“千帆竞渡”的新阶段。对于开发者而言,手中若有存量国产算力卡,不妨试试LongCat-2.0——这或许是你为数不多的、能亲手触摸到万亿参数时代脉搏的机会。
热门跟贴