7月27日月之暗面正式开源Kimi K3模型后,华为昇腾在第一时间完成了适配工作。

华为官方今日宣布,Kimi K3一经开源发布,昇腾即实现0day极速适配。时间点上看,模型开源次日便完成了这一流程。

打开网易新闻 查看精彩图片

在训练侧,昇腾基于MindSpeed MM在Atlas 800 A3、Atlas 900 A3 SuperPoD上完成减层训练基础功能适配,并在算子、并行加速、显存优化等方面进行了专项优化。推理侧则通过vLLM Ascend与SGLang开源推理引擎实现快速部署。昇腾950超节点支持FP8、MXFP8、MXFP4等全系列数值精度格式,原生支持Kimi K3的mxFP4量化权重。

Kimi K3总参数量达2.8万亿,是全球首个开源的3万亿级别模型,面向长程编程、知识工作和推理等前沿智能场景设计。Kimi官方此前公布了支撑该模型训练的三项Infra技术:MoonEP、FlashKDA和AgentEnv,覆盖从高性能通信、高性能算子到分布式RL环境的关键链路。其中FlashKDA此前已开源,MoonEP和AgentEnv随本次发布正式开源。