vLLM Semantic Router 团队发布了 Decision 3.0，一个多模态决策模型系列。Decision 3.0 多模态决策模型可读取文本、JSON 和图像，然后针对它们回答带类型的问题。共有 5 种规模，从 0.8B 到 27B，全部采用 Apache-2.0 许可。对开发者而言，这是一种无需解析生成文本即可对请求进行分类、路由和门控的快速方式。
TL;DR
规模：5 个模型：d3-lite（0.85B）、d3-nano（2.21B）、d3-mini（4.54B）、d3-flash（8.39B）、d3（26.09B）。上下文长度：未披露。
运行环境：延迟在 1 块 AMD Instinct MI325X GPU 上测得。BF16 权重；未列出官方量化版本。
性能：27B 的 d3 在其模型卡中同时领跑文本和视觉表格，但基于内部评估。
最佳：KIE（CORD+FUNSD）文档抽取上达到 97.7（d3）。
最差：R-Bench-M 上为 34.1（d3）。
总结：
最佳：一个 9B 模型现在击败了上一代的 27B。
最差：分数为自报数据，对照的是实时榜单数据。
什么是 Decision 3.0？
Decision 3.0 是来自 vLLM Semantic Router 的一组开放决策模型，返回概率而非文本。你传入一个状态（文本或 JSON）、可选图像以及命名问题。每个问题是一个 Choice、一个 Yes/No，或一个量表上的 Score。模型在一次调用中回答所有问题，并为每个答案返回一个概率。
这是面向路由器和护栏的“系统一”模式。无需提示 LLM 并解析其输出，你得到的是可设定阈值的校准分数。
d3 如何工作？
每个模型都是对 Qwen 基座的微调。27B 的 d3 基于 Qwen3.8-27B。较小的 4 个基于 Qwen3.5 检查点，分别为 0.8B、2B、4B 和 9B。
每种规模都带有视觉编码器：d3-lite 中为 0.10B，d3-nano 和 d3-mini 中为 0.33B，d3-flash 和 d3 中为 0.46B。请求可接受多张 PNG、JPEG 或 WebP 图像，每张最高读取 1.6 兆像素。每个问题都能看到所有图像。
每个问题都会对输入单独进行一次前向传播。安装目标为 transformers==5.17.0，可选的 flash-linear-attention 包可加速线性注意力层。加载需要 trust_remote_code=True。
Decision 3.0 在基准测试上表现如何？
通过模型卡，研究团队给出了 Jev Decision Index 0.3.1，这是一个对 TypeSafe 的 Jev 决策系统开源复现进行排名的榜单。d3 的数字是团队内部评估结果。
在文本上，d3 得分为 64.1，领先于 Perplexity Decider v1.1（62.8）和 Jev（60.1）。有一点需要注意：Torchcast Decision 27B 的公开套件得分更高（65.1 对 64.9）。在视觉榜单上，d3 得分为 71.6，Perplexity Decider v1.1 为 70.6。
规模方面的表现是最突出的部分。d3-flash（9B）得分为 59.0，高于 Decision 2.0 的 27B 版本（55.9）。在公开套件上，相对 Decision 2.0 的提升幅度从 +8.0（27B）到 +15.1（0.8B）不等。
不过，各规模级别的领先地位并不一致：
d3-mini（4B）和 d3-flash（9B）在各自的文本和视觉榜单上都处于领先。
d3-lite（0.8B）在文本上领先，但在视觉上排名第 3（41.1，落后于 JPT-0.8B 的 42.1）。
d3-nano（2B）在视觉榜单上领先，但在文本上落后于 LiquidAI d1-3B（35.8 对 40.1）。
在公开视觉任务上，d3 在 InfographicVQA 上得分为 97.3，在 Mind2Web 上为 89.9，两者均为近似重建版本。它在 MMMU-Pro 视觉（46.2）和 Hateful Memes 内容审核（44.6）上表现较弱。
这些模型的速度如何？
以下中位数均为在 1 块 AMD Instinct MI325X 上、一次处理 1 个请求的耗时，按各模型卡所列：
d3-nano：文本 21.7 ms，带图像 92.0 ms
d3-lite：文本 23.5 ms，带图像 60.7 ms
d3-mini：文本 28.5 ms，带图像 115.0 ms
d3-flash：文本 29.7 ms，带图像 171.8 ms
d3：文本 84 ms，带图像 342 ms
所有模型均在 AMD Instinct MI325X GPU 上训练。
d3 与其他决策模型相比如何？
Featured3（vLLM SR）Perplexity Decider v1.1Decision 2.0 Vega-27BLiquidAI d1-3B参数26.09B26B（Hugging Face 列表）29.37B3.12B基础模型Qwen3.8-27BQwen3.8-27BQwen3.8-27BLFM2.5-VL-3B输入文本、JSON、图像文本、图像文本、JSON文本、JSON、图像上下文未披露每次决策 8,192 个 token32,768 个 token32,768 个 token许可证Apache-2.0Apache-2.0Apache-2.0LFM 1.0Decision Index（自家模型卡）64.1（v0.3.1，内部）61.56（未注明版本）56.5（v0.2.1）48.57（v0.2.1）Index 0.3.1 榜单（依据 d3 模型卡）64.162.855.940.1视觉榜单 0.3.171.670.6未披露（仅文本）未披露中位延迟（自家模型卡）文本 84 ms，1 块 MI325X未披露71.4 ms，1 块 GPU9 ms，1 块 MI325X
关键要点
5 个 Apache-2.0 决策模型，参数量从 0.8B 到 27B，全部支持图像输入。
在内部评测中，d3（27B）在其文本（64.1）和视觉（71.6）表格中均排名第一。
9B 的 d3-flash（59.0）击败了 Decision 2.0 的 27B（55.9）。
0.8B 和 2B 模型并非在每项榜单上都领先。
在 1 块 MI325X 上，文本延迟中位数为 21.7 至 84 ms。
欢迎查看 Hugging Face 合集、d3 模型卡以及 vLLM Semantic Router GitHub 仓库。所有功劳归于该项目的研究者。另外，欢迎在 Twitter 上关注我们，也别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等！你在用 Telegram 吗？现在你也可以在 Telegram 上加入我们了。
文章《What is Decision 3.0? vLLM Semantic Router’s New Open Decision Models》首发于 MarkTechPost。