10 月 15 日，阶跃星辰把新一代旗舰模型 Step 5 Preview 正式开源，在AI 编程、软件工程、专业工作、金融等几条线上，都达到了前沿水准。

模型权重刚放出来，昇腾这边就已经基于 vLLM 推理引擎把 0Day 支持做好了——不是"后续适配"，是当天就能跑。

昇腾 Atlas 950 SuperPoD 液冷超节点直接把1024 卡拉成一个域，专门接这种稀疏 MoE + 百万上下文的重活，而且通过一整套深度优化，性能不输那个英俊的海外先进算力！

Step 5 Preview：600B 总参数量、27B 激活的全新架构模型

Step 5 Preview 走的是稀疏 MoE 路线：

• 总参数 600B

• 单 token 激活 27B

• 上下文窗口 1M token

• 支持图像、视频多模态输入

架构上，这代换成了新的 Sparse Attention：先靠 Indexer 挑 token，再在选中范围内算 self-attention；为了不让 Index 本身成为瓶颈，改成以 Region（8 个 token） 为单位压缩 Indexer Key，效率和效果一起保。

场景侧，主打 Agent、软件工程、金融这类长任务，全是实打实的生产力，而且各块性能和最前沿的模型打得有来有回，底子够硬。

打开网易新闻 查看精彩图片

Step 5 Preview与主流前沿模型在Agentic Benchmark上的性能对比

昇腾超节点：拆了通信墙，稳稳托举前沿模型

传统集群跑 MoE 模型最痛苦的就是卡要等数据。昇腾 Atlas 950 SuperPoD 的思路很直白——把千卡当成一台机器用。

核心规格：

• 1024 张昇腾 950 NPU 单域互联

• 1 EFLOPS FP8 / 2 EFLOPS FP4 算力

• 256TB 全局统一内存编址

• NPU 卡间 TB 级带宽，时延压到 3μs

底层是灵衢高速互联，1024 卡直接互访，不走 CPU 中转、不堆交换机。换成工程语言就是：All-to-All、MoE 路由、KV 搬运这些原来最拖后腿的链路，现在都能吃到域内带宽。

打开网易新闻 查看精彩图片

昇腾Atlas 950 SuperPoD液冷超节点

昇腾深度优化：算子、通信、框架一起发力

昇腾针对这款模型的优化可不是单点改 kernel，而是围绕 Step 5 Preview 的架构 + 950 的硬件特性做全链路：算子融合 → 通信调度 → 框架执行，软硬协同一条链打通。

1. 算子层：Ascend C + Triton 双线提速

• IndexerLogits / SparseAttn 走 Ascend C

950 新增的 FP8 算力直接用上，token 打分、TopK、Sort 融成一个算子；SparseAttn 用 vector 单元 SIMD 替掉 scalar 运算，搬运用成对 region 提带宽。

• Triton 融合 Kernel

qk norm、index key 压缩做成融合算子，加 AutoTune 自动找 Tiling，吃满 950 的 SIMT 能力。

• MoE 路由优化

Hash TopK 专家选择里把前处理和精度传递收一遍，少做跨层重复操作。

• MXFP8 量化

权重重排成 MXFP8，硬件单元直接反量化，精度几乎不动，950算力跑满。

2. 通信层：FullMesh + CLOS 一起开

950 超节点可以同时跑 FullMesh 和 CLOS，AllReduce / AllGather / ReduceScatter 等原语把性能拉满。

两个关键动作：

• Dispatch Server 级去重

同一 token 被多个同机专家选中时，跨服务器只发一份主副本，进服务器再分发，重复流量砍掉。

• Combine 双缓冲

专家算完先本地归并，两个输出 buffer 交替用——回传上一波的同时，下一波继续 Reduce，把等待时间压下去。

3. 框架层：把"空泡"挤掉

推理快不快，不光看算子，还得看调度有没有断流。

• MoE 序列并行：降冗余计算

• Vector / Cube / 通信多流并行：计算与访存交叠，填计算空泡

• NPU Graph：解码阶段纳入图执行，持久化 buffer + 输出复用，少临时分配

• MTP + tiling 下沉：把主模型/草稿模型间的断流消掉，device 空泡减少

• Prefill Indexer Key slot 预分配：层间动态搜 slot 改成预分配，冗余操作删掉

一句话：昇腾把非计算开销能压就压，把 950 的带宽和算力真的喂到了模型上。

想自己跑：部署指引在这 ↓

Step 5 Preview 昇腾量化版推理部署指导（vLLM Ascend）：

https://docs.vllm.ai/projects/ascend/en/latest/tutorials/models/Step-5-Preview.html

打开网易新闻 查看精彩图片