Nanbeige LLM Lab 已在 Hugging Face 上以 Apache 2.0 许可证发布 Nanbeige4.3-33B。Nanbeige4.3-33B 是一个 33B 稠密语言模型,专为智能体编程和办公式“协作”任务构建。该实验室隶属于招聘平台 BOSS 直聘。它还发布了 Nanbeige4.3-33B-Base,用于自定义后训练。该模型支持 524,288 token 的上下文窗口。在实验室自己的表格中,它在 20 项基准测试中的 17 项上领先于 3 个接近 30B 的开源模型。
TL;DR
规模:33B 参数,稠密(非 MoE),524,288 token(512K)上下文,BF16 权重。
运行环境:多 GPU 服务器。模型卡中的 SGLang 和 vLLM 配方使用 4 路张量并行。BF16 权重约需 66 GB(我们的计算)。列出了 1 个社区量化版本。
性能:在 Nanbeige 自己与 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B 的对比中,20 行里有 17 行领先。
最佳:Terminal-Bench 2.1 上为 80.9,而 Qwen3.8-27B 为 73.0。
最差:Terminal-Bench 4.0 上为 23.8(其最低分)。它在 SWE-Bench Pro 上也落后于 Qwen3.8-27B,为 60.3 对 61.7。
什么是 Nanbeige4.3-33B?
Nanbeige4.3-33B 是 Nanbeige4.3 系列的旗舰“教师”模型。该实验室公布的策略是先构建一个强大的教师模型。随后计划将智能体技能蒸馏到更小的模型中,从 Nanbeige4.3-3B 开始。
Nanbeige4.3-33B 是如何构建的?
config.json 声明了标准的 LlamaForCausalLM 架构。没有专家路由,因此全部 33B 参数都会在每个 token 上运行。
52 层,隐藏维度 7,168
56 个查询头和 8 个键值头(分组查询注意力),头维度 128
FFN 中间维度 22,016,词表 166,912 token
RoPE theta 为 120,000,000,最大位置数 524,288
聊天模板提供 3 个控制项。enable_thinking 切换推理,默认开启。preserve_thinking 保留先前轮次的推理。Nanbeige 推荐将其用于多轮工具使用和代码智能体。传入 tools 可启用工具调用,推荐使用 XML 调用格式。
Nanbeige4.3-33B 在基准测试中表现如何?
Nanbeige 将该模型与 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B 进行了对比。每个模型都在其最高思考强度下运行,共享超参数和测试框架。本节所有分数均为自报。
智能体编程:它在 Terminal-Bench 2.1 上得分 80.9,而 Qwen3.8-27B 为 73.0。DeepSWE 差距最大:65.5 对 42.5。在 Terminal-Bench 4.0 上,它得分 23.8,而 Gemma4-31B 得分为 0.0。
智能体协作:它在 Automation Bench 上得 54.2,对比 38.3;在 JobBench 上得 44.8,对比 34.5。在 YC-bench 上,模拟收入达到 $1,025,437,对比 $641,290。
推理:它报告在 AIME 2026 上得 95.2,在 AA-LCR 上得 84.0。
它在 20 行中输了 3 行。Qwen3.8-27B 在 SWE-Bench Pro(61.7 对 60.3)和 GDPval(86.4 对 84.8)上领先。在 Nanbeige 的表格中,Gemma4-31B 在 GPQA Diamond 上领先,91.3 对 89.5。
Base 模型在全部 8 项报告任务上均优于 Gemma4-31B-Base。示例包括 MMLU-Pro(66.9 对 59.3)和 GPQA(62.0 对 41.5)。
返回</button><button class="btn" id="nbgNext">下一步 </button><button class="btn ghost" id="nbgPlay">自动播放</button></div>
<div class="spec">
<div><b>52</b><span>层</span></div>
<div><b>56 / 8</b><span>查询 / KV 头(GQA)</span></div>
<div><b>7,168</b><span>隐藏层大小</span></div>
<div><b>524,288</b><span>最大位置数</span></div>
</div>
</div>
<div class="pane" id="p2">
<div class="seg" id="nbgSeg">
<button class="on" data-c="coding">智能体编程</button>
<button data-c="cowork">智能体协作</button>
<button data-c="reason">推理</button>
<button data-c="base">Base 模型</button>
</div>
<div class="legend" id="nbgLegend"></div>
<div id="nbgBars"></div>
<p class="note">所有分数均由 Nanbeige 在其 Hugging Face 模型卡上自报,各模型均在其最高思考强度下使用共享测试框架。未经独立验证。</p>
</div>
<div class="pane" id="p3">
<div class="calc">
<div>
<div class="field"><label>上下文长度 <b id="nbgCtxL">131,072 tokens</b></label><input type="range" id="nbgCtx" min="0" max="6" step="1" value="4"></div>
<div class="field"><label>并发序列数 <b id="nbgSeqL">1</b></label><input type="range" id="nbgSeq" min="1" max="8" step="1" value="1"></div>
<div class="seg" id="nbgW"><button class="on" data-w="2">权重 BF16</button><button data-w="1">权重 8-bit</button></div>
<div class="seg" id="nbgK"><button class="on" data-k="2">KV cache BF16</button><button data-k="1">KV cache FP8</button></div>
<p class="note">根据 config.json 计算:52 层 × 8 个 KV 头 × 128 维 × 2(K 和 V)× 每个值的字节数。在 BF16 下,每个 token 为 212,992 字节(约 208 KiB)。权重使用 33B 参数。不包含激活值和框架开销。</p>
</div>
<div class="stack">
<div class="kv"><span>预估 GPU 显存</span></div>
<div class="total" id="nbgTot">0 GB</div>
<div class="stackbar"><i id="nbgBw" style="background:#5fd3bd"></i><i id="nbgBk" style="background:#7c8cf8"></i></div>
<div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#5fd3bd;border-radius:2px"></i> 权重</span><b id="nbgWv"></b></div>
<div class="kv"><span><i style="display:inline-block;width:9px;height:9px;background:#7c8cf8;border-radius:2px"></i> KV cache</span><b id="nbgKv"></b></div>
<div class="kv"><span>每块 80 GB GPU(理想适配)</span><b id="nbgGpu"></b></div>
<p class="note">模型卡中的 SGLang 和 vLLM 配置使用 4 路张量并行。</p>
</div>
</div>
</div>
<div class="pane" id="p4">
<table>
<tr><th>Nanbeige 表格中的行</th><th>Nanbeige 列出</th><th>官方模型卡</th><th></th></tr>
<tr><td>Muse-Glimmer-30B,SWE-Bench Pro</td><td class="bad">36.9</td><td>51.2(Meta)</td><td><span class="flag">疑似对调</span></td></tr>
<tr><td>Gemma4-31B,SWE-Bench Pro</td><td class="bad">51.2</td><td>36.9(Meta 报告)</td><td><span class="flag">疑似对调</span></td></tr>
<tr><td>Gemma4-31B,GPQA Diamond</td><td class="bad">91.3</td><td>84.3(Google)</td><td><span class="flag">冲突</span></td></tr>
<tr><td>Muse-Glimmer-30B,Terminal-Bench 2.1</td><td class="bad">61.8</td><td>51.7(Meta)</td><td><span class="flag">测试框架?</span></td></tr>
<tr><td>Qwen3.8-27B,GPQA Diamond</td><td>89.2</td><td>89.2(Qwen)</td><td>一致</td></tr>
<tr><td>Muse-Glimmer-30B,AIME 2026</td><td>94.7</td><td>94.7(Meta)</td><td>一致</td></tr>
</table>
<p class="note">Nanbeige 用各自的 harness 重新运行了每个模型,这解释了一些差距。其他限制:仅文本输入、每个 token 都进行稠密计算,且 Nanbeige4.3-3B 尚未发布。</p>
</div>
<div class="ft"><span>来源:<a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B" target="_blank" rel="noopener">Nanbeige 模型卡</a> · <a href="https://huggingface.co/Nanbeige/Nanbeige4.3-33B-Base" target="_blank" rel="noopener">基础模型卡</a> · 竞品 HF 模型卡</span><span class="brand">© Marktechpost</span></div>
</div>
<script>
(function(){
var R=document.getElementById('mtp-nbg43');
function resize(){try{parent.postMessage({type:'mtp-nbg43-resize',height:R.offsetHeight+40},'*')}catch(e){}}
// 标签页
R.querySelectorAll('.tab').forEach(function(t){t.addEventListener('click',function(){
R.querySelectorAll('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on');
R.querySelectorAll('.pane').forEach(function(p){p.classList.remove('on')});
document.getElementById(t.dataset.p).classList.add('on');
if(t.dataset.p==='p2')drawBars(cur);
setTimeout(resize,50);setTimeout(resize,400);
})});
// 流程
var steps=[
'<b>基础模型。</b>Nanbeige4.3-33B-Base 是一个稠密的 LlamaForCausalLM 检查点。Nanbeige 报告称其在全部 8 项列出的任务上均优于 Gemma4-31B-Base,例如 MMLU-Pro 66.9 对 59.3。',
'<b>教师智能体。</b>后训练模型默认进行思考(<code>enable_thinking</code>)。<code>preserve_thinking</code> 会为多轮工具使用保留先前的推理。Nanbeige 推荐使用 XML 工具调用格式。',
'<b>智能体 harness。</b>Nanbeige 在 Terminus 2、mini-swe-agent v2.4.6 和 Claude Code harness 中对其进行了评估。推荐的智能体采样参数:temperature 1.0、top_p 0.95、最大新生成 token 数 65,536。',
'<b>蒸馏。</b>33B 模型是 Nanbeige4.3 系列的教师模型。计划中的首个学生模型是 Nanbeige4.3-3B。未给出发布日期。'
];
var s=0,timer=null;
function setStep(i){s=(i+4)%4;R.querySelectorAll('.node').forEach(function(n,k){n.classList.toggle('on',k<=s)});
document.getElementById('nbgRail').style.width=((s+1)*25)+'%';document.getElementById('nbgDetail').innerHTML=steps[s];resize()}
R.querySelectorAll('.node').forEach(function(n){n.addEventListener('click',function(){stop();setStep(+n.dataset.s)})});
function stop(){if(timer){clearInterval(timer);timer=null;document.getElementById('nbgPlay').textContent='自动播放'}}
document.getElementById('nbgNext').onclick=function(){stop();setStep(s+1)};
document.getElementById('nbgPrev').onclick=function(){stop();setStep(s-1)};
document.getElementById('nbgPlay').onclick=function(){if(timer){stop();return}this.textContent='暂停';timer=setInterval(function(){setStep(s+1)},2200)};
setStep(0);
// 柱状图
var M={n:['Nanbeige4.3-33B','#5fd3bd'],q:['Qwen3.8-27B','#7c8cf8'],m:['Muse-Glimmer-30B','#f0a35e'],g:['Gemma4-31B','#6aa9f4']};
var D={
coding:[['Terminal-Bench 2.1',80.9,73.0,61.8,47.2],['DeepSWE',65.5,42.5,4.4,2.7],['SWE-Bench Pro',60.3,61.7,36.9,51.2],['SkillsBench',61.1,56.4,39.7,28.9],['Terminal-Bench 4.0',23.8,6.3,1.6,0.0]],
cowork:[['Automation Bench',54.2,38.3,15.2,9.7],['JobBench',44.8,34.5,16.6,9.0],['GDPval',84.8,86.4,75.8,71.4],['Toolathlon-Verified',70.4,68.5,47.2,27.8],['DeepPlanning',63.3,49.2,21.4,19.4]],
reason:[['AIME 2026',95.2,94.5,94.7,89.2],['GPQA Diamond',89.5,89.2,83.5,91.3],['AA-LCR',84.0,82.0,83.3,72.0]],
base:[['MMLU-Pro',66.9,null,null,59.3],['GPQA',62.0,null,null,41.5],['GSM8K',92.9,null,null,88.9],['Math',57.3,null,null,43.6],['CMMLU',86.8,null,null,76.9]]
};
var cur='coding';
function drawBars(c){cur=c;var keys=c==='base'?['n','g']:['n','q','m','g'];
var names=c==='base'?{n:'Nanbeige4.3-33B-Base',g:'Gemma4-31B-Base'}:{};
document.getElementById('nbgLegend').innerHTML=keys.map(function(k){return '<span><i style="background:'+M[k][1]+'"></i>'+(names[k]||M[k][0])+'</span>'}).join('');
var idx={n:1,q:2,m:3,g:4},h='';
D[c].forEach(function(r){h+='<div class="bench"><div class="bn">'+r[0]+'</div>';
keys.forEach(function(k){var v=r[idx[k]];h+='<div class="brow'+(k==='n'?' me':'')+'"><span class="lb">'+(names[k]||M[k][0])+'</span><div class="track"><div class="fill" data-w="'+v+'" style="background:'+M[k][1]+'"></div></div><span class="v">'+v.toFixed(1)+'</span></div>'});
h+='</div>'});
var box=document.getElementById('nbgBars');box.innerHTML=h;
requestAnimationFrame(function(){requestAnimationFrame(function(){box.querySelectorAll('.fill').forEach(function(f){f.style.width=f.dataset.w+'%'})})});
resize();setTimeout(resize,300)}
R.querySelectorAll('#nbgSeg button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgSeg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');drawBars(b.dataset.c)}});
drawBars('coding');
// 计算
var CT=[8192,16384,32768,65536,131072,262144,524288],wb=2,kb=2;
function fmt(n){return n.toLocaleString('en-US')}
function calc(){var ctx=CT[+document.getElementById('nbgCtx').value],seq=+document.getElementById('nbgSeq').value;
document.getElementById('nbgCtxL').textContent=fmt(ctx)+' tokens';document.getElementById('nbgSeqL').textContent=seq;
var w=33e9*wb/1e9,kv=52*8*128*2*kb*ctx*seq/1e9,t=w+kv;
document.getElementById('nbgTot').textContent=t.toFixed(1)+' GB';
document.getElementById('nbgWv').textContent=w.toFixed(1)+' GB';document.getElementById('nbgKv').textContent=kv.toFixed(1)+' GB';
document.getElementById('nbgGpu').textContent=Math.ceil(t/80)+' × 80 GB';
document.getElementById('nbgBw').style.width=(w/t*100)+'%';document.getElementById('nbgBk').style.width=(kv/t*100)+'%'}
['nbgCtx','nbgSeq'].forEach(function(id){document.getElementById(id).addEventListener('input',calc)});
R.querySelectorAll('#nbgW button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgW button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');wb=+b.dataset.w;calc()}});
R.querySelectorAll('#nbgK button').forEach(function(b){b.onclick=function(){R.querySelectorAll('#nbgK button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');kb=+b.dataset.k;calc()}});
calc();
window.addEventListener('load',resize);window.addEventListener('resize',resize);setTimeout(resize,200);
})();
</script>
</body></html>
" style="width:100%!important;height:600px;border:0!important;background:transparent!important;display:block;" loading="lazy">
它与竞争对手自家的模型卡相比如何?
规格 Nanbeige4.3-33B Qwen3.8-27B Muse-Glimmer-30B Gemma 4 31B 开发者 Nanbeige LLM Lab(BOSS 直聘)Qwen(阿里巴巴)Meta Superintelligence Lab Google DeepMind 参数量 33B 稠密 27B 稠密语言模型加视觉编码器 约 29.6B 稠密,含约 1.8B 视觉编码器 30.7B 稠密 上下文 524,288 262,144 原生,最高 1M 131,072+256K 输入模态 文本 文本、图像、视频 文本、图像 文本、图像 许可证 Apache 2.0 Apache 2.0 Apache 2.0 Apache 2.0 Terminal-Bench 2.1 80.9* 73.0 51.7 未披露 SWE-Bench Pro 60.3* 61.7 51.2 未披露 GPQA Diamond 89.5* 89.2 83.5(AA)84.3 AIME 2026 95.2* 未披露 94.7 89.2 本地硬件建议 4 卡张量并行方案 未披露 约 4-bit 下 24 GB 或 32 GB 显存 消费级 GPU 和工作站
*由 Nanbeige 自行报告。竞品数值来自各实验室自己的 Hugging Face 模型卡。
Nanbeige 表格中部分竞品数据与这些实验室公布的数据不一致:
Meta 报告 Muse-Glimmer-30B 在 SWE-Bench Pro 上为 51.2,Gemma4-31B 为 36.9。Nanbeige 列出的则相反。
Google 列出 Gemma 4 31B 在 GPQA Diamond 上为 84.3。Nanbeige 的表格显示为 91.3。
Meta 报告 Muse-Glimmer-30B 在 Terminal-Bench 2.1 上为 51.7。Nanbeige 测得为 61.8。
不同的测试框架可以解释部分差距。SWE-Bench Pro 那一对看起来是写反了。在独立复现出现之前,这些行应视为暂定数据。
如何部署 Nanbeige4.3-33B?
模型卡提供了 Transformers、SGLang 和 vLLM 方案。其服务器示例使用 4 路张量并行,并搭配 Qwen3 推理和工具调用解析器。推荐的智能体设置为 temperature 1.0、top_p 0.95 和 65,536 最大新 token 数。推理和聊天使用 temperature 0.6 和 262,144 最大新 token 数。
根据 config.json 推算,BF16 权重约需 66 GB。KV 缓存以 BF16 计每 token 增加约 208 KiB。因此完整的 524,288 token 序列大约需要 112 GB 的 KV 缓存。截至发布时,没有 Hugging Face Inference Provider 托管该模型。
要点
33B 稠密,Apache 2.0,512K 上下文,纯文本。
自行报告在 Terminal-Bench 2.1 上为 80.9,在 DeepSWE 上为 65.5。
在 Nanbeige 自己的表格中领先 20 行中的 17 行。
多个竞品数值与官方模型卡冲突。
作为即将推出的 Nanbeige4.3-3B 的教师模型构建。
查看模型权重、Base 模型以及 X 上的发布帖。也欢迎在 Twitter 上关注我们,别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等?联系我们
文章 Nanbeige Releases Nanbeige4.3-33B, a 33B Open Agentic Coding Model 首次出现在 MarkTechPost 上。