JetBrains 发布了 Mellum2.1,这是一个为编码智能体和快速子智能体打造的开源模型。Mellum2.1 是 JetBrains 推出的 12B 混合专家思考模型,每个 token 激活 2.5B 参数。它以 Apache 2.0 许可在 Hugging Face 上发布。架构与 Mellum2 保持不变。此次升级几乎完全来自真实软件环境中的强化学习(RL)。最终得到的是一个体积小、可自托管、能探索代码仓库、编辑文件并检查自身改动的模型。

TL;DR

规模:总计 12B,激活 2.5B(64 个专家,激活 8 个),131,072 token 上下文

运行方式:通过 vLLM 或 SGLang 在你自己的 GPU 上运行(速度在 1 块 NVIDIA H200 上测试)。GGUF 构建从 7.0 GB 起,适用于 llama.cpp、Ollama 和 LM Studio。

性能:在列出的 17 项基准测试中,有 15 项击败 Mellum2;在对阵 Qwen3.5-9B 时,17 项中赢下 5 项

最佳:LiveCodeBench v6 上得分 82.0,领先 Qwen3.5-9B(75.4)和 Gemma 4 E4B(69.4)

最差:Terminal-Bench 2.1 上得分 17.4,低于 Qwen3.5-9B(21.7)

结论(最佳):仅凭 2.5B 激活参数就取得强劲的编码分数和高吞吐量。

结论(最差):在困难的智能体软件任务和知识方面仍落后于 Qwen3.5-9B。

什么是 Mellum2.1?

Mellum2.1 是 Mellum2 Thinking 的下一个版本,JetBrains 于 2026 年 6 月将其开源。发布的检查点是 Mellum2.1-12B-A2.5B-Thinking。这是一个推理模型,在回答前会输出其思维链。JetBrains 瞄准 3 种用途:智能体工作器、通用推理助手和私有自托管部署。

Mellum2.1 的架构如何工作?

该模型有 28 层和 64 个专家。路由器为每个 token 激活 8 个专家。注意力使用分组查询注意力,32 个查询头和 4 个 KV 头。每 4 层中有 3 层使用 1,024 token 的滑动窗口。上下文长度为 131,072 token,词表有 98,304 个 token。权重以 bfloat16 发布。

Mellum2.1 是如何训练的?

几乎所有新工作都投入到了后训练中。RL 从短暂的最终阶段变成了训练的主要部分。JetBrains 在数学、竞技编程、科学、工具使用和软件工程中加入了 RL 任务。它过滤了开放 RL 数据集中的损坏测试、无法验证的答案,以及过于简单或不可能完成的任务。对于软件工程,模型在真实代码仓库中训练,配备 shell 和文件编辑工具。当测试通过时,它会获得奖励。训练在数千个环境中启动了数百万个沙箱。

Mellum2.1 在基准测试中表现如何?

JetBrains 在思考模式下用同一套流程评估了 Mellum2.1、Mellum2、Qwen3.5-9B 和 Gemma 4 E4B。所有分数均由 JetBrains 自行报告。

最大的跃升在智能体编程方面。SWE-bench Verified 从 2.0 升至 47.0。SWE-bench Pro 从 0.0 升至 28.0。Terminal-Bench 2.1 从 0.6 升至 17.4。智能体运行使用了开源 Pi v0.73.1 测试框架,上下文为 114K token。

Mellum2.1 在 LiveCodeBench v6(82.0)、HumanEval+(91.5)、MBPP+(79.4)和 BFCL v4(62.3)上领先该组。Qwen3.5-9B 仍在 SWE-bench Verified(50.0)、SWE-bench Pro(38.0)、AIME 25/26(86.7)和 GPQA Diamond(77.8)上领先。安全性也有所提升:HarmBench 从 21.5 降至 8.5,数值越低越好。

流程很重要,需要考虑。Qwen 自己的模型卡列出 LiveCodeBench v6 为 65.6,GPQA Diamond 为 81.7。JetBrains 对同一模型测得 75.4 和 77.8。

Mellum2.1 有多快?

后训练未改动架构,因此速度与 Mellum2 一致。在 1 块 H200 上、高负载下,JetBrains 称 Mellum2.1 的 token 服务量几乎是 Qwen3.5-9B 的 2 倍。对于单个请求,多 token 预测(MTP)使其快约 1.6 倍。用于 vLLM 投机解码的 MTP 头被列为即将推出。

如何在本地运行 Mellum2.1?

完整模型在 vLLM 上以 --reasoning-parser qwen3 提供服务。工具调用需添加 --enable-auto-tool-choice --tool-call-parser hermes。JetBrains 推荐 temperature 0.6、top_p 0.95 和 top_k 20。

JetBrains 的发布说明提到 GGUF 构建正在进行中。一个 GGUF 仓库已列出 5 个文件:

BF16:24.3 GB(参考)

Q8_0:12.9 GB,96.1% 最高 token 匹配率

Q6_K:10.9 GB,93.9% top-token 匹配

Q4_K_M:8.1 GB,88.0% top-token 匹配(推荐)

MXFP4_MOE:7.0 GB,85.6% top-token 匹配

Mellum2.1 vs Qwen3.5-9B vs Gemma 4 E4B

FeatureMellum2.1Mellum2 ThinkingQwen3.5-9BGemma 4 E4BArchitectureMoE, 64 experts, 8 activeMoE (same as 2.1)Hybrid Gated DeltaNet + gated attentionDense with per-layer embeddingsTotal params12B12B9B (language model)8B with embeddingsActive / effective params2.5B active2.5B active9B (dense)4.5B effectiveContext131,072131,072262,144 native, up to 1,010,000128KModalityTextTextText, image, videoText, image, audioLicenseApache 2.0Apache 2.0Apache 2.0Apache 2.0LiveCodeBench v6*82.069.475.469.4SWE-bench Verified*47.02.050.023.0Terminal-Bench 2.1*17.40.621.73.4BFCL v4*62.349.658.552.5GPQA Diamond*64.651.077.853.1AIME 25/26*83.360.186.745.0

*基准测试行:JetBrains 的共享流水线,thinking 模式,来自 Mellum2.1 模型卡。厂商自己的模型卡为 Qwen3.5-9B 和 Gemma 4 E4B 报告了不同的数字。

关键要点

Mellum2.1 是一个 12B MoE thinking 模型,2.5B 激活参数,采用 Apache 2.0 许可。

在真实代码仓库中进行 RL 将 SWE-bench Verified 从 2.0 提升到 47.0。

它在受测组中领先于 LiveCodeBench v6(82.0)和 BFCL v4(62.3)。

Qwen3.5-9B 仍在 SWE-bench Pro、GPQA Diamond 和 AIME 上胜出。

7.0 GB 到 8.1 GB 的 GGUF 让本地编码子智能体变得实用。

查看模型权重、GGUF 构建、技术博客和 Mellum2 技术报告。所有功劳归于该项目的研究人员。也欢迎在 Twitter 上关注我们,别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。

The post JetBrains Releases Mellum2.1: A 12B MoE Open Model for Coding Agents appeared first on MarkTechPost.