当行业还在争论模型能力的天花板时，DeepSeek选择把决定盈亏的那一层——推理框架——直接开源。伴随而来的，是一组此前只存在于内部账本上的运营数据。
10月20日，DeepSeek在微信公众号宣布，将内部推理框架DeepInfer全面开源，同步开源Token编解码组件deepseek-recipe，采用Apache 2.0许可。此时距离V4.1 Flash模型发布仅过去一个多月，DeepSeek便将其线上生产系统所依赖的推理引擎向全行业开放。
最受关注的是DeepSeek披露的一组线上运营数据：基于DeepInfer，单一集群的V4.1 Flash服务日吞吐量达到155万亿Token，按谷电价计算，每GPU每小时收入为38美元，约合人民币254元。在模型层竞争日趋同质化的背景下，这组数字把讨论从“模型有多强”拉回到了“每一Token的生意能否持续”。
这组收入数据的意义，需要放在一个更大的成本背景中理解。Gartner数据显示，2026年全球AI推理支出预计达到233亿美元，首次超过训练的190亿美元；在生产级AI系统中，推理环节占运营成本的比例高达80%至90%。推理不是一次性开支，而是随调用量线性增长的持续性成本。推理框架的效率，直接决定了这门生意的边际利润率。
DeepInfer的成本控制逻辑，核心在缓存。V4.1 Flash将KVCache分层存储：Agent流量的缓存保留时间达到3天，聊天机器人流量达到7天；短期复用的SWA KVCache保留在内存中，命中率超过98%。在推测解码环节，DSpark草稿模型每次提出5个Token，置信度机制筛选验证对象，将每步需检查的草稿Token数量削减约30%，生产负载下吞吐提升约4%至7%。缓存减少重复计算，推测解码压低单位Token的验证开销，两者叠加构成了DeepSeek所披露收入数据的工程基础。
兼容英伟达SM100（Blackwell）与华为昇腾950，是DeepInfer另一个值得留意的设计选择。在高端AI芯片供给仍受地缘因素扰动的环境下，将推理框架同时适配两条硬件路线，意味着开发者不必被单一芯片生态锁定。昇腾950PR已于2026年一季度发布，主打推理场景，DeepInfer的同步支持在时间节点上与国产推理芯片的商用节奏形成了呼应。
但开源并非毫无保留。DeepSeek明确表示，KVCache管理与负载均衡组件因与内部基础设施耦合较深，相关代码目前尚未完整开源；官方发布的性能基准全部在英伟达芯片上运行，确定性推理功能也仅限英伟达平台。这揭示了一个务实的开源策略：开放足以建立生态信任的核心调度与算子能力，但保留与自身集群深度绑定的“最后一公里”优化。对于真正希望复现同等效率的团队而言，这部分空白仍然需要自行填补。
推理框架的竞争版图上，vLLM和SGLang是当前通用开源服务的主流选择，但两者走的是广泛模型与硬件兼容的路线。DeepInfer不同：它只为DeepSeek模型深度优化，是“专用框架”对“通用框架”的一次效率验证。如果专用路径能够以开源方式逼近甚至超越通用方案的投入产出比，推理基础设施的选型逻辑将不再只是“哪个社区更大”，而会转向“哪个栈与我的模型和芯片最匹配”。
DeepSeek并未给出第三方独立测试数据，38美元/卡/小时的真实利润率仍需扣除折旧、网络与运维成本后才能确认。但方向已经清晰：推理框架正从后台工程细节，变成决定AI服务经济性的前台变量。
热门跟贴