编程工具巨头 JetBrains 把自研编码模型 Mellum 2.1 完整开源:120亿参数、每个词只激活25亿,Apache 2.0 许可免费商用,代码和数据可以全部留在自己机器上。

一、一个专门解决「代码不敢上云」的模型

大厂模型再能干,很多公司仍有一道过不去的坎:代码是核心资产,一行都不能出内网。云上大模型再强,安全与合规那一关就能把项目直接卡死。JetBrains 这次给出的答案很彻底:把模型本身交给你。

10月8日,JetBrains 在官方博客发布 Mellum 2.1 并同步开源。这是它今年6月开源的 120 亿参数混合专家(MoE)模型 Mellum2 的重大后训练版本:总参数 12B、每个 token 只激活 2.5B,上下文窗口 131072 个 token,权重以Apache 2.0 许可挂在 Hugging Face 上,base、instruct、thinking 三个版本任取,商用零授权费。

打开网易新闻 查看精彩图片

Mellum 2.1 官方主视觉:2.5B 激活参数的智能体编程模型(图片来源:JetBrains 官方博客)

二、这次没动架构,动的是训练方法

严格说,Mellum 2.1 的网络结构和上一代一模一样,变化全部发生在预训练之后。最核心的一条:强化学习(RL)从原来「收尾阶段的一小段」,被提升为训练的主体。

为了喂饱这个阶段,JetBrains 自建了一套 RL 基础设施:可以同时运行数千个训练环境,整个训练过程累计启动了数百万个沙盒。任务覆盖数学、竞赛编程、科学、工具调用、软件工程五类;开源数据集先经过严格过滤——坏测试、无法验证的答案、难度失当的任务,统统剔除后才进训练。

效果直接体现在行为上。官方的原话是:Mellum2「快,但在仓库里干不了活」;而 Mellum 2.1 能自己探索代码库、编辑文件、再检查自己的改动——定位一个失败测试的根因、起草修复、验证结果,全程不需要人盯着。

这条路线对行业的启示很直白:智能体能力是练出来的,不是靠堆架构堆出来的。一个 12B 的小模型,靠大规模 RL 后训练,也能干以前要百亿级大模型才干得了的智能体活。

三、成绩单:小模型第一次把修bug能力打上47分

JetBrains 在完全相同的评测设置下,对比了 Mellum2、Qwen3.5-9B 和 Gemma 4 E4B 三款同级开源模型(均为 thinking 版)。

打开网易新闻 查看精彩图片

Mellum2.1 与同级开源模型的六项基准对比,青色柱为 Mellum2.1(图片来源:JetBrains 官方博客)

最抓眼的是SWE-bench Verified(真实开源仓库修 bug):Mellum2.1 拿下47.0,而上一代只有2.0——一口气涨了 45 分。它离 Qwen3.5-9B 的 50.0 只差 3 分,把 Gemma 4 E4B(23.0)甩开一倍多。

打开网易新闻 查看精彩图片

SWE-bench Verified 成绩:Mellum2.1 达 47.0,上一代仅 2.0(图片来源:JetBrains 官方博客)

其他几项同样能打:竞赛编程 LiveCodeBench v6 拿82.0,反超 Qwen3.5-9B 的 75.4;工具调用 BFCL v462.3对 58.5;数学 AIME83.3、科学推理 GPQA Diamond64.6、指令遵循 IFEval90.6,相比上一代分别提升 23.2、13.6 和 11.1 分。

打开网易新闻 查看精彩图片

LiveCodeBench v6 竞赛编程成绩:Mellum2.1 以 82.0 反超 Qwen3.5-9B(图片来源:JetBrains 官方博客)

基准(thinking 版)

Mellum2.1

上一代 Mellum2

Qwen3.5-9B

SWE-bench Verified(真实仓库修bug)

47.0

2.0

50.0

SWE-bench Pro(更难)

28.0

38.0

LiveCodeBench v6(竞赛编程)

82.0

69.4

75.4

BFCL v4(工具调用)

62.3

49.6

58.5

AIME(数学竞赛)

83.3

60.1

GPQA Diamond(科学推理)

64.6

51.0

IFEval(指令遵循)

90.6

79.5

四、速度账:显存按12B算,算力按2.5B算

MoE 的好处在这类模型上体现得最典型:占多少显存看总参数,跑多快看激活参数。Mellum2.1 只有 2.5B 激活,官方在单张 H200(FP8 精度)上的实测数据相当亮眼。

打开网易新闻 查看精彩图片

单张 H200(FP8)速度实测:服务器打满时 8533 token/秒(图片来源:JetBrains 官方博客)

单请求场景,开启多 token 预测(MTP)后输出557 token/秒,是 Qwen3.5-9B(241)的 2.3 倍;服务器打满时吞吐8533 token/秒,接近 Qwen3.5-9B 的两倍,是同组最快。对部署方来说,这意味着一台单卡工作站,就能给整个团队的编码智能体当「干活的子智能体」。

五、怎么跑起来:三档方案对号入座

部署方式

门槛 / 成本

现状

本地 BF16 直跑

约 24GB 显存(单卡)

Hugging Face 已开放下载

量化版 GGUF

按 4-bit 估算约 7GB 级,16GB 显存游戏本可跑

官方称即将推出(llama.cpp / Ollama / LM Studio)

vLLM 服务化

单卡 H200 实测吞吐 8533 token/秒

MTP 推测解码组件即将推出

云上托管 API

官方未提供,想用需自部署

• 现在就能跑:Hugging Face 搜 JetBrains/Mellum2.1,用 vLLM 或 Transformers 起服务,BF16 权重约占 24GB 显存;

• 等等更香:GGUF 量化版和 vLLM 的 MTP 推测解码组件官方称即将推出,量化后 16GB 显存的消费级显卡有望直接装下;

• 想清楚再上:它没有官方托管 API、没有现成定价,想用就得自己运维——这既是门槛,也是「数据不出门」的底气。

选型建议一句话:企业内网编码智能体、隐私敏感的自动化流水线,Mellum2.1 值得进候选;要开箱即用,云上托管大模型仍是默认答案。更现实的玩法是混搭——规划、评审交给云端旗舰,批量执行交给本地小模型,成本直接打下来。

六、冷水也得泼一泼

• 成绩全是官方自测,尚无第三方榜单背书,实际到手里可能打折;

• 越难的任务差距越明显:更难的真实工程题 SWE-bench Pro 上,Mellum2.1 只有 28.0,明显落后 Qwen3.5-9B 的 38.0;

• 部署门槛仍在:BF16 要 24GB 显存,量化版还没放出来,个人玩家还得再等等;

• 定位是执行者,不是主力:别指望它替代旗舰模型做架构设计,它的角色是「快、便宜、可控的干活的」。

七、同期值得关注

• 英伟达被曝洽购 Reflection AI:金融时报10月11日消息,谈判或以「人才兼并」模式绕开反垄断审查,剑指其开放权重模型技术(Beam 10月5日刚发布);

• 联想天禧 TianxiCode 登顶 SWE-bench-Live:71% 的问题解决率排名全球第一,国产代码智能体框架首次登顶该榜;

• 谷歌发布 AI Edge Foresight:配合 Flutter 与 EmbeddingGemma 2,把多步预测推理整体搬上手机端侧,断网也能连续决策;

• 腾讯元器宣布 11 月 9 日停服:10月29日起停止创建新智能体,给所有依赖大厂 AI 平台的开发者提了个醒——选平台先看数据能不能迁走。

一句话总结今天的趋势:大模型在云上卷价格,小模型在本地卷「能不能干活」。当 47 分的修 bug 能力装进一台单卡工作站,「代码不出门」这件事,第一次有了便宜又体面的答案。