vLLM Semantic Router 团队发布了 d3-ultra,这是一个采用 Apache-2.0 许可的 27B 多模态决策模型。d3-ultra 决策模型不生成文本。它只读取一次输入,然后为每个问题的每个答案返回一个概率。对开发者而言,这意味着只需 1 次开源权重调用即可完成路由、分类、视觉定位和视频检查。
TL;DR
规模:26.09B 参数(稠密,包含一个 0.46B 的视觉编码器);每个问题 131,072 tokens 的上下文。
运行环境:在 1 块 AMD Instinct MI325X 上以 BF16 权重测试;目前尚未列出官方量化版本。
性能:在团队自己的私有测试中,6 个决策模型里 SR-Text 得分最高。
最佳:SR-Text 工具与自动化得分为 97.8(机会校正准确率)。
最差:SR-Box(9 个领域)为 54.6%,比同系列的 d3-turbo 低 5.0 分。
什么是 d3-ultra?
d3-ultra 是来自 vLLM Semantic Router 的 System One 决策模型,用概率回答带类型的问题。它是 Decision 3.0 家族的最新成员,该家族覆盖 0.6B 到 27B。
你发送一个状态(文本或 JSON,外加图像或视频)和一组问题。每个问题都有一个类型:
选择:从多个选项中选 1 个。
是 / 否:返回“是”的概率。
评分:按一个量表打分。
框选:在图像或视频片段中定位某个对象。
跟踪:在整个视频中跟踪一个目标。
图像也可以放在问题和选项里。一道测验题可以先展示一张照片,然后提供 4 张蚀刻图作为答案。
d3-ultra 如何工作?
核心思想是只读一次状态。模型对每个请求只读取一次输入,并基于这一次读取回答所有问题。
配置显示其骨干网络采用 Qwen3.5 架构,共 64 层。其中 48 层是线性注意力层,16 层是全注意力层。模型卡未说明其基础检查点。vLLM 的配方称,同系列的 d3 是从 Qwen3.8-27B 训练而来。
框选答案始终只返回 1 个框并附带置信度。置信度接近 0 意味着目标不在图中。超过 131,072 tokens 的问题会以 max_length_exceeded 失败;不会有任何内容被静默截断。
d3-ultra 在基准测试中表现如何?
研究团队在 2 项内部测试中将 d3-ultra 与 GLiDE V1.2、d1-ultra、d3-turbo、d3 和 Jev 1.14 进行了比较。
SR-Text 包含 10,411 个文本请求、73,495 个问题。其中大部分是用新题目复现来自 34 个公开基准测试的技能。另有 4,896 个问题来自 43 个新任务族,例如 SQL 校验和工单路由。分数经过随机校正:0 为随机水平,100 为满分。
d3-ultra:87.2
GLiDE V1.2:85.1
d1-ultra:83.4
d3-turbo:83.1
d3:81.4
Jev 1.14:73.1
除艺术和人类品味外,d3-ultra 在所有领域领先。在这两项上,d1-ultra 得分为 90.8,d3-ultra 为 89.6,差距在误差范围内。
SR-Box 包含 5,678 个 Box 问题,覆盖 10 个领域的 4,984 张图像。IoU 达到 0.5 或以上即判定框正确。d3-ultra 在 10 个领域上得分为 58.2%,在 9 个领域上为 54.6%。d3-turbo 得分为 60.0% 和 59.6%。Jev 1.14 得分为 45.7% 和 46.9%。团队表示 d3-turbo 在自然图像上更强,而 d3-ultra 在图表上领先。
延迟:在 1 块 AMD Instinct MI325X 上使用 AutoModel,1 个关于照片的问题耗时 304 ms。255 个问题耗时 2.16 s,每增加一个问题约 7.3 ms。
如何部署 d3-ultra?
共有 4 种途径:
Transformers:使用 transformers==5.17.0,调用 AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True)。可选的 flash-linear-attention 包可提供快速 GPU 内核。
vLLM Semantic Router Engine:vllm-sr serve -e vllm-sr/d3-ultra,于 2026 年 10 月 25 日在 PR #5449 中加入。
免费 API:卡片显示 decision.vllm-sr.ai 提供 d3-ultra 服务,并附有免费密钥。
演示:官方 Hugging Face Space。
d3-ultra 对比 GLiDE V1.2、d1-ultra、Jev 1.14 和 d3-turbo
Featured3-ultrad3-turboGLiDE V1.2d1-ultraJev 1.14DevelopervLLM Semantic RoutervLLM Semantic RouterFastino LabsLiquid AITypeSafeParameters26.09B26.09B26B 未披露未披露Context per question131,07232,768 默认;131,072(启用 long_context)40,000 默认32,768 262,144 Weights / license开放,Apache-2.0开放,Apache-2.0开放,Fastino Community License仅托管仅托管,专有Inputs文本、JSON、图像、视频文本、JSON、图像、视频文本、JSON、图像文本、图像文本、图像Box / trackBox + trackBox + trackNoNo仅 BoxSR-Text(由 vLLM-SR 自报)87.283.185.183.473.1SR-Box,10 个领域58.2%60.0%不支持不支持45.7%Public index score已提交,尚未上榜70.2 Jev DI(自行估算)71.5 Decision Index 0.4.165 AA Decision Index 57 AA Decision Index Price免费 API,自托管免费 API,自托管$0.04 / M 输入$0.042 / M 输入$0.042 / M 输入
要点
d3-ultra 是一个 27B 的 Apache-2.0 决策模型,从不生成文本。
它只读取一次输入:针对 1 张照片的 255 个问题耗时 2.16 s。
它在团队的 SR-Text 测试中以 87.2 位居榜首,领先于 GLiDE V1.2 的 85.1。
它在 Box grounding 上落后于 d3-turbo:58.2% 对 60.0%。
所有基准测试数字均为在私有测试集上自行报告。
查看模型卡、GitHub 仓库、Decision 3.0 合集和 Hugging Face Space。另外,欢迎在 Twitter 上关注我们,别忘了加入我们的 150k+ ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub 仓库或 Hugging Face 页面或产品发布或网络研讨会等?联系我们
文章 vLLM Semantic Router Releases d3-ultra: A 27B Open Multimodal Decision Model 首发于 MarkTechPost。