DeepSeek 把自家在用的推理框架开源了。这套框架名为 DeepInfer,官方称其为“in-house inference framework”,即自研推理框架,目前已经完全开源。

打开网易新闻 查看精彩图片

它并非实验室里的演示项目。DeepSeek 表示,DeepInfer 正以高吞吐、低延迟支撑 DeepSeek-V4.1-Flash 的大规模服务,是实际生产环境里跑着的技术栈。

为什么要把生产栈拿出来?官方给出的理由很直接:帮助社区降低算力成本、减少能源消耗,让 AI 变得更可负担。换句话说,省下来的不只是钱,还有电。

代码托管在 GitHub 的 deepseek-ai 仓库下。对做推理部署的开发者来说,这是一份可以直接对照的生产级参考实现。