AI Radar — 每天的 AI 热点、模型与教程

NVIDIA 刚刚发布了 Nemotron 3.5 Super VL，这是一个为常驻企业智能体打造的开源视觉语言模型。Nemotron 3.5 Super VL 是 NVIDIA 的一款 120B 参数混合专家模型，每个 token 激活 12B 参数。它能读取文本、图像、文档和视频，然后在一个模型中完成推理、调用工具和编写代码。对开发者而言，1 个开源检查点即可替代一个独立的文本模型外加一个独立的视觉模型。NVIDIA 还发布了 2 个边缘模型：Nemotron 3.5 Bolt 74B-A9B 和 Bolt E4B。

TL;DR

规模：总参数 120B，激活参数 12B（MoE）。上下文最高 1M token。

运行环境：使用 NVFP4 检查点时，可在 1x DGX Spark、1x H200、2x H100 或 1x GB200 上运行。同时还发布了 BF16 检查点。

性能：推理、智能体编程和文档视觉能力强劲。NVIDIA 声称单 GPU 吞吐量比开源同类产品最高提升 5 倍。

最佳：GPQA-Diamond 上 89.90（NVFP4）。

最差：tau3-bench banking 上 17.78（NVFP4）。

什么是 Nemotron 3.5 Super VL？

它是一个开源多模态智能体模型。权重以 OpenMDW-1.1 许可证发布。NVIDIA 还在 NeMo Gym 中发布了开源数据集、训练配方和 RL 环境。

模型卡列出的输入为文本、图像和视频，输出为文本。视频仅限最长 2 分钟的 MP4 片段。推理能力可通过聊天模板开启或关闭。

架构是如何工作的？

主干网络交错堆叠 Mamba-2、混合专家和注意力层。每个 MoE 层包含 512 个路由专家。C-RADIO 视觉编码器和连接器将图像、文档页面和视频帧送入语言主干。

速度来自四项技术：

多 token 预测：原生草稿器提出多个 token，在 1 次前向传播中完成验证。

LiLiCorr：面向 DGX Spark 的投机草稿器，token 生成最高提速 2.3 倍。

NVFP4 结合量化感知蒸馏：在 Blackwell 上使用 4 位权重和激活，在其他平台上使用 4 位权重和 16 位激活。

上下文复用：前缀缓存可在智能体的多轮交互间保留注意力缓存和 Mamba 状态。

该模型从 Nemotron 3 Ultra 蒸馏而来。NVIDIA 团队表示，它大约在 26 万亿 token 上训练。后训练使用了约 380 万个样本，并在数十个环境中进行了强化学习。持续预训练新增了 100 亿 Indic token。

它在基准测试中表现如何？

以下所有分数均由 NVIDIA 报告，来自模型卡上的 NVFP4 checkpoint。

领域基准测试分数推理GPQA-Diamond89.90编程SWE-bench Verified71.07编程Terminal-Bench 2.160.80网页智能体BrowseComp77.5指令遵循IFBench71.50图表CharXiv reasoning79.88文档MMLongBench-Doc62.82计算机使用OSWorld-Verified52.3长程智能体tau3-bench banking17.78

在智能体 harness 评测中，Super VL 击败了 Nemotron 3 Ultra。它在 Hermes Bench 上得分为 63.44%，而后者为 56.33%。在 LangChain 评测中，它的得分为 87.05%，而后者为 84.3%。Ultra 的总参数量约为其 4.6 倍。

NVIDIA 团队报告称，通过 Baseten 端点，在 Artificial Analysis 智能体任务上每秒输出超过 600 个 token。其图表显示，相比 Inkling Small 有 5 倍的速度差距。

</div>

<div class="stage" data-i="1">C-RADIO<small>视觉编码器</small></div><div class="arr"></div>

<div class="stage" data-i="2">混合 MoE<small>Mamba-2 + attention</small></div><div class="arr"></div>

<div class="stage" data-i="3">MTP 解码<small>+ LiLiCorr</small></div><div class="arr"></div>

</div>

</div>

<p class="note">NVIDIA 报告的分数，来自模型卡。橙色条标记最弱的结果。</p>

</div>

<p class="legend">厂商自报分数。Super VL 使用 NVFP4。各 harness 不同：Inkling-Small 的 SWE-bench 使用仅 bash 的 harness。</p>

</div>

<button class="chip on" data-h="0">1x DGX Spark<small>vLLM · LiLiCorr</small></button>

</div>

<p class="note">命令摘自 Hugging Face 模型卡，已作删减。生产环境请使用那里的完整参数集。</p>

</div>

<div class="ft"><span>来源：NVIDIA 博客、NVIDIA 技术博客、Hugging Face 模型卡</span><span class="br">© Marktechpost</span></div>

</div>

(function(){

var R=document.getElementById('mtp-nsvl');

function $(s){return R.querySelector(s)}

function $$(s){return Array.prototype.slice.call(R.querySelectorAll(s))}

function resize(){try{parent.postMessage({mtpEmbed:'nsvl',h:R.offsetHeight+40},'*')}catch(e){}}

/* tabs */

$$('.tab').forEach(function(t){t.addEventListener('click',function(){

$$('.tab').forEach(function(x){x.classList.remove('on')});t.classList.add('on');

$$('.panel').forEach(function(p){p.classList.remove('on')});

var k=t.getAttribute('data-t');$('#p-'+k).classList.add('on');

if(k==='bm')drawBars(cur);if(k==='cp')drawCmp();if(k==='ov')count();

setTimeout(resize,60);

})});

/* counters */

function count(){$$('.stat b').forEach(function(b){var n=+b.getAttribute('data-n'),s=b.getAttribute('data-s')||'',t0=null;

function f(ts){if(!t0)t0=ts;var p=Math.min((ts-t0)/900,1),e=1-Math.pow(1-p,3);b.textContent=Math.round(n*e)+s;if(p<1)requestAnimationFrame(f)}requestAnimationFrame(f)})}

count();

/* MoE cells */

var cells=$('#mtp-cells'),N=120;for(var i=0;i<N;i++){var c=document.createElement('div');c.className='cell';cells.appendChild(c)}

var cs=$$('.cell'),tk=1;

route();setInterval(route,1100);

/* pipeline */

var D=[

<b>输入。</b> 文本、RGB 图像（jpeg、png）以及最长 2 分钟的 MP4 视频。文档可以作为带文本的页面图像传入。所有内容共享一个最大 1M tokens 的上下文窗口。

<b>C-RADIO 视觉编码器 + 连接器。</b> 将图像、文档页面和视频帧转换为语言主干可以处理的表示。这些部分在量化后保持 BF16。

<b>混合 MoE 主干。</b> 交错的 Mamba-2、MoE 和注意力层。每个 MoE 层有 512 个路由专家，每个 token 激活 120B 参数中的 12B。从 Nemotron 3 Ultra 蒸馏而来。

<b>快速解码。</b> 原生多 token 预测为单次验证起草多个 token。在 DGX Spark 上，LiLiCorr 起草器带来最高 2.3 倍的 token 生成速度提升。

<b>输出。</b> 文本回答、推理（通过 enable_thinking 切换）和工具调用。NVIDIA 报告称，在 Baseten 上运行 Artificial Analysis 智能体任务时，输出速度超过每秒 600 个 token。

var si=0,timer=null,st=$$('.stage');

function show(i){si=(i+5)%5;st.forEach(function(s,k){s.classList.toggle('on',k===si)});$('#mtp-detail').innerHTML=D[si];$('#mtp-step').textContent='Step '+(si+1)+' of 5';setTimeout(resize,30)}

st.forEach(function(s){s.addEventListener('click',function(){show(+s.getAttribute('data-i'))})});

$('#mtp-next').addEventListener('click',function(){show(si+1)});

$('#mtp-prev').addEventListener('click',function(){show(si-1)});

$('#mtp-play').addEventListener('click',function(){var b=this;if(timer){clearInterval(timer);timer=null;b.textContent=' Auto-play'}else{timer=setInterval(function(){show(si+1)},2200);b.textContent='❚❚ Pause'}});

show(0);

/* benchmarks */

var B=[['GPQA-Diamond',89.90,89.52],['CharXiv reasoning',79.88,80.82],['BrowseComp',77.5,78],['SWE-bench Verified',71.07,71.10],['IFBench',71.50,70.86],['MMLongBench-Doc',62.82,62.82],['Terminal-Bench 2.1',60.80,66.70],['OSWorld-Verified',52.3,51.14],['tau3-bench banking',17.78,18.88]];

var cur='nv';

function drawBars(c){cur=c;var h='';B.forEach(function(r,i){var v=c==='nv'?r[1]:r[2];h+='<div class="bar"><span class="nm">'+r[0]+'</span><div class="track"><div class="fill'+(i===B.length-1?' low':'')+'" data-w="'+v+'"></div></div><span class="val">'+v.toFixed(2)+'</span></div>'});

$('#mtp-bars').innerHTML=h;requestAnimationFrame(function(){requestAnimationFrame(function(){$$('#mtp-bars .fill').forEach(function(f){f.style.width=f.getAttribute('data-w')+'%'})})});setTimeout(resize,60)}

$$('.seg button').forEach(function(b){b.addEventListener('click',function(){$$('.seg button').forEach(function(x){x.classList.remove('on')});b.classList.add('on');drawBars(b.getAttribute('data-c'))})});

/* 对比 */

var C=[['GPQA Diamond','89.90','86.6','89.5'],['SWE-bench Verified','71.07','72.0','80.2'],['IFBench','71.50','76.1','82.2'],['CharXiv reasoning','79.88','77.2','77.4'],['BrowseComp','77.5','63.8','77.4']];

function drawCmp(){var h='';C.forEach(function(r){h+='<div class="row"><div class="rt">'+r[0]+'</div>'+

'<div class="b me"><span class="nm">Super VL</span><div class="track"><div class="fill" data-w="'+r[1]+'"></div></div><span class="val">'+r[1]+'</span></div>'+

'<div class="b"><span class="nm">Qwen3.5-122B-A10B</span><div class="track"><div class="fill q" data-w="'+r[2]+'"></div></div><span class="val">'+r[2]+'</span></div>'+

'<div class="b"><span class="nm">Inkling-Small</span><div class="track"><div class="fill i" data-w="'+r[3]+'"></div></div><span class="val">'+r[3]+'</span></div></div>'});

$('#mtp-cmp').innerHTML=h;requestAnimationFrame(function(){requestAnimationFrame(function(){$$('#mtp-cmp .fill').forEach(function(f){f.style.width=f.getAttribute('data-w')+'%'})})});setTimeout(resize,60)}

/* 部署 */

var H=[

['<b>1x DGX Spark (GB10)。</b>文本与图像，在 vLLM 中支持 1M token 上下文窗口。NVIDIA 建议所有 Spark 部署都使用 LiLiCorr drafter。','vllm serve nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 \ --max-num-seqs 1 --trust-remote-code \ --speculative_config.model nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr \ --speculative_config.num_speculative_tokens 7 \ --speculative_config.method dflash \ --reasoning-parser nemotron_v3'],

<b>1x H200。</b>文本、图像和视频，1M token 上下文，MTP 带 3 个草稿 token。命令与 2x H100 相同，张量并行度为 1。

<b>2x H100。</b>文本、图像和视频，1M token 上下文，MTP 带 3 个草稿 token。在非 Blackwell GPU 上以 W4A16 运行。

<b>1x GB200。</b>文本、图像和视频，1M token 上下文，MTP 带 5 个草稿 token。在 Blackwell 上完整的 W4A4 NVFP4。也有 SGLang 和 TensorRT-LLM 方案。

function hw(i){$$('.chip').forEach(function(c,k){c.classList.toggle('on',k===i)});$('#mtp-hwd').innerHTML=H[i][0];$('#mtp-code').textContent=H[i][1];setTimeout(resize,30)}

$$('.chip').forEach(function(c){c.addEventListener('click',function(){hw(+c.getAttribute('data-h'))})});hw(0);

window.addEventListener('load',resize);window.addEventListener('resize',resize);setTimeout(resize,300);

})();

</script>

</body>

</html>

它和类似的开源模型相比如何？

特性Nemotron 3.5 Super VLQwen3.5-122B-A10BInkling-SmallNemotron 3 Ultra开发者NVIDIAAlibaba QwenThinking Machines LabNVIDIA总参数 / 激活参数120B / 12B122B / 10B276B / 12B550B / 55B上下文最高 1M原生 262,144，可扩展至 1,010,000模型卡未披露在 1M 下评测（Ruler @1M）输入文本、图像、视频文本、图像、视频文本、图像、音频未披露许可证OpenMDW-1.1Apache 2.0Apache 2.0OpenMDW-1.1参考硬件1x DGX Spark、1x H200、2x H100 或 1x GB200 8-GPU 张量并行服务示例未披露未披露GPQA Diamond89.9086.689.5未披露SWE-bench Verified71.0772.080.2（仅 bash 测试框架）65 至 70.4（跨 5 个测试框架）IFBench71.5076.182.282CharXiv 推理79.8877.277.4未披露BrowseComp77.563.877.4（含上下文管理）未披露Terminal-Bench60.80（v2.1）49.4（v2）64.7（v2.1，最佳测试框架）54（v2.0）

分数由各厂商自行报告。测试框架和基准测试版本各不相同，因此对几分之差应谨慎看待。

开发者如何部署它？

Super VL 已在 Hugging Face、OpenRouter、ModelScope 上提供，并可作为 NVIDIA NIM 使用。支持的运行时为 Blackwell 和 Hopper 上的 vLLM、SGLang 和 TensorRT-LLM。本地路径包括 llama.cpp 和 Unsloth。

在生产环境中，Dynamo recipes 增加了 KV 感知路由。在 16 块 B200 GPU 上、每用户每秒 50 tokens 的条件下，NVIDIA 报告可服务用户数提升 8 倍。首 token 延迟下降 85%。

定制化通过 NeMo AutoModel 进行 SFT 和 LoRA，通过 NeMo RL 进行强化学习。NVIDIA 引用了早期结果：

Scale AI 用于 Skydance 供应商信用处理：推理成本降低 40 倍，延迟降低 5 倍。

Ramp 收据转 JSON 提取：预计吞吐量提升最高 50%，延迟降低 10 倍。

AI21 用于 Alice 威胁情报：准确率提升 40%。

Nemotron 3.5 Bolt 模型是什么？

Nemotron 3.5 Bolt 74B-A9B 面向本地智能体。NVIDIA 的发布说明称其从 Super VL 蒸馏而来。原生 2-bit 量化使其在 RTX 和 DGX Spark 系统上仅需 24GB 内存即可运行。NVIDIA 表示，它在 PinchBench 上于同类开源模型中排名第 1。在开源模型中，它在 BrowseComp 上排名第 2。它现已在 Hugging Face 上提供，支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。

Bolt E4B 4GB 将于 10 月 23 日推出。它面向 GeForce RTX、Jetson 以及 RTX 或 DGX Spark 上的语音助手和嵌入式智能体。

要点

120B MoE，12B 激活参数，1M 上下文，以 OpenMDW-1.1 协议开源权重。

1 个模型即可处理文本、图像、文档、视频、工具和代码。

NVFP4 检查点可在单台 DGX Spark、H200 或 GB200 上运行。

GPQA-Diamond 得分 89.90，但在 tau3-bench banking 上仅为 17.78。

Bolt 74B-A9B 将 24GB 本地智能体模型带到 RTX PC 上。

查看技术报告、模型卡和使用手册。所有功劳归于该项目的研究人员。另外，欢迎在 Twitter 上关注我们，别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等！你在 Telegram 上吗？现在你也可以在 Telegram 上加入我们。

文章《NVIDIA 发布 Nemotron 3.5 Super VL：一个 120B 开源多模态智能体模型》首发于 MarkTechPost。

NVIDIA 发布 Nemotron 3.5 Super VL，120B 开源多模态 Agent 模型

1 个独立信源

相关条目