Baseten 发布了 joey-1，这是其内部研究实验室 Base Labs 推出的 2B 模型。joey-1 决策模型返回一个标签和一个校准后的概率，而不是生成的文本。它面向高吞吐量的路由、分类和护栏检查。Baseten 将其定价为每百万输入 token 0.01 美元，并在 Hugging Face 上以 MIT 许可开放权重。
TL;DR
规模：2B 参数，基于 Qwen3.5-2B 后训练。最大序列长度 16,384 token（Baseten 称在专用部署上可达 262k）。
运行方式：Baseten Model APIs，或在 1 块 CUDA GPU 上自托管（未披露显存）。未列出官方量化版本。
性能：据 Baseten 称，在 Jev Decision Index 0.4 公开划分上，是 4B 以下的最佳模型。
最佳：在 Jev Decision Index 0.4（公开划分）上得 63.30，在 230 个模型中排名第 37。
最差：在同一划分上落后其 9B 同门 elephant-1 达 8.94 分（63.30 对 72.24）。
结论：最佳：每 100 万 token 0.01 美元即可获得 20 ms P50 决策延迟。最差：通用知识不如其更大的同门模型。
什么是 joey-1？
joey-1 是 Baseten 旗下 Base Labs 推出的 2B 决策模型，可在 1 次前向传播中回答带类型的问题。你发送一个状态（文本或图像）和 1 个或多个问题。模型会为每个问题的每个选项返回一个概率。它不会写出需要你的应用去解析的自由格式文本。
它支持 3 种问题类型：
choice：选择 1 个具名选项，例如哪支团队负责某个工单。
yes/no（API 中为 noul）：返回 yes 的概率。
score：有序等级，从最低开始，例如紧急程度。
joey-1 是该系列的第 3 个成员。Baseten 上周发布了 mammoth-1（27B）和 elephant-1（9B）。这 3 个模型共享训练数据和 /v1/systemone API，因此切换只需改 1 行。
joey-1 如何工作？
Base Labs 对 Qwen3.5-2B 进行了语言模型的完整微调后训练。视觉编码器保持冻结。全注意力层使用块双向掩码。所有问题都从 1 次共享前缀预填充中回答，因此额外问题增加的成本很小。
来自模型卡的训练细节：
数据：621 万个决策示例。混合比例：58.3% 核心决策技能，16.1% 安全，16.1% 评判与专家领域，9.5% 公开数据。
目标：交叉熵加上一个 Brier 校准项，并带有一个经过训练的“我不知道”选项。
配方：1 个 epoch，43,390 步，峰值学习率 1e-5，bf16。
硬件：2 个节点，每个节点 8 块 H100 GPU。
校准让你可以设置置信度阈值。不确定的回答可以升级到 elephant-1、mammoth-1 或人工处理。
joey-1 有多快、多便宜？
Baseten 报告称，对于平均 2,000 token 的请求，P50 端到端延迟为 20 ms。这比 elephant-1（49 ms）快约 2.5 倍。博客的 TL;DR 还声称比同类决策模型快 5 倍，但没有点名是哪些模型。
模型 API 每 100 万输入 token 收费 $0.01；输出和缓存输入标价为 $0.00。elephant-1 收费 $0.035，mammoth-1 收费 $0.10。
Baseten 的示例：每月 1000 万张支持工单，每张约 500 token，即 50 亿 token。在 joey-1 上约需 $50，而在 mammoth-1 上需 $500。
joey-1 在基准测试上得分如何？
以下所有分数均为 Baseten 模型卡上的自报数据。
在 Jev Decision Index 0.4 公开划分上，joey-1 得分为 63.30。这在 230 个模型中排名第 37，是 4B 以下模型的最高分。Jev Decision Index 是 Hugging Face 上的一个社区排行榜。
在同一划分上，Cloudflare 的 27B Clef 得分为 61.71，Jev 1.14 得分为 60.70。
joey-1 在每个领域都落后于 elephant-1。它在 5 个领域中的 4 个上击败了 Jev 1.14，包括语言、工具和检索。
在 Baseten 复刻的 Artificial Analysis Decision Index 上，joey-1 得分为 62.9，而 mammoth-1 为 65.9。
joey-1 与其他小型决策模型的对比
Featurejoey-1elephant-1Perplexity Decider Flash v1.2Cloudflare Clef-FlashDeveloperBaseten (Base Labs)Baseten (Base Labs)PerplexityCloudflareParameters2B9B4B9BBase modelQwen3.5-2BQwen3.5-9BQwen3.5-4BQwen3.5-9BLicenseMITMITApache-2.0Apache-2.0InputsText, imagesText, imagesText, imagesText, JSON, images, videoMax context16,384 (Model APIs); 262k on dedicated16k (Model APIs); 262k on dedicated262,144 (trained to about 32k)16,384 defaultAPI price per 1M input tokens$0.01$0.035$0.01Not disclosedJev Decision Index 0.4 (public)*63.3072.2460.06Not disclosedReported latency**20 ms P5049 ms P50Not disclosed38.8 ms medianSelf-host hardware1 CUDA GPUNot disclosedAbout 9 GiB BF16 weights on a CUDA GPUTested on 1 H200Weights accessPublicPublicPrivate repo, token requiredPublic
*所有模型的 Jev 0.4 分数均来自 Baseten 的 joey-1 模型卡。**延迟数据不可直接比较。Baseten 在其平台上测量端到端延迟；Cloudflare 报告的是其自己的 Decision Index 0.2.1 运行结果。
如何部署 joey-1？
Model APIs：在 /v1/systemone 调用 decision-models/baseten-joey-2b-latest。零数据保留默认开启。
专用部署：Baseten 表示这些部署可解锁 262k 上下文、微调权重以及与 LLM 工作负载共置。
自托管：从 Hugging Face 下载并运行 setup.sh。它需要 1 块 CUDA GPU 以及 PyTorch 2.8 / CUDA 12.8 镜像。
你可以使用微调 cookbook 在 Baseten Training Jobs 上微调 joey-1。joey-1 也已在 OpenRouter 上架，价格为每 100 万输入 token $0.01。
关键要点
joey-1 返回的是标签加校准概率，而非文本。
Baseten 报告 P50 延迟为 20 ms，价格为每 100 万输入 token $0.01。
在 Jev Decision Index 0.4 公开榜上得分 63.30：4B 以下最强模型。
落后 elephant-1 8.94 分；最适合作为第一线路由器。
MIT 权重已发布于 Hugging Face；可在 1 块 CUDA GPU 上自托管。
查看博客文章、模型卡、模型库页面和微调 cookbook。也欢迎在 Twitter 上关注我们，别忘了加入我们 15 万+ 的 ML SubReddit 并订阅我们的 Newsletter。等等！你在 Telegram 上吗？现在你也可以在 Telegram 上加入我们。
需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等？请联系我们
文章《Baseten 发布 joey-1：一个 2B 决策模型，每 100 万 token 收费 0.01 美元》首次出现在 MarkTechPost 上。