Supersonic Labs，一家来自巴西的小型 AI 实验室，发布了 Julia 1。它是一个紧凑的决策模型，不是聊天机器人。你传入上下文、一个问题，以及 2 到 20 个候选答案。它挑选其中一个，并为每个选项返回一个概率。该模型有 144.3M 参数，可在普通 CPU 上运行。

它可部署吗？可以。权重以 Apache 2.0 协议发布在 Hugging Face 上，可在本地通过 Python 3.11+ 在 CPU 或支持 BF16 的 GPU 上运行。ONNX 构建版本还可通过 WebGPU 在浏览器中运行。托管 API 已宣布但尚未开放。

Julia 1 的功能

Julia 1 通过一个 API 处理三种决策类型：

choice：从 2 到 20 个已描述的选项中挑选一个标签（分类、路由）。

score：在有序评分标准上返回预期索引，例如低、中、高。

noul：返回某个是或否陈述为真的概率。

结果按调用方的选项顺序返回，并附带完整的 softmax 概率。诸如 billing 之类的调用方 ID 会原样返回。该模型不生成文本。

架构与训练预算

Julia 1 基于 JHU CLSP 的 mmBERT-small 起步，这是一个 140M 参数的多语言 ModernBERT 编码器，在 1,800+ 种语言上训练。Supersonic Labs 保留了编码器和分词器，添加了一个决策头，并在决策格式的样本上进行训练。该实验室声明 Julia 1 不是微调后的 Qwen 模型。运行时支持 8,192 个合并 token，但已发布的基准测试使用了 1,024 token 的限制。

训练和实验的云 GPU 总支出约为 R$540（US$104.08）。FP32 权重占用 550.5 MiB。私有训练流程未发布。采用该实验室自有基础架构的 Julia 2 正在开发中。

基准测试结果

2026 年 9 月 24 日的评估在 H200 BF16 上以严格编码运行。对比基线是 TypeSafe 的 Jev，使用的是 Jev 基准测试协议中的参考值，而非一次新的 Jev 运行。

类型化决策：73.15%（1,463/2,000）对比参考值 72.70%。

AG News，4 个标签：94/100 对比参考值 91%。

DAIR Emotion，6 个标签：86/100 对比参考值 48%。

Banking77，72 个标签：64/100 对比参考值 87%。这是明显的失败。

MASSIVE，18 个场景：跨 52 个地区的宏观准确率 71.50%；pt-PT 86.25%，en-US 86.75%。

分类试点每次仅使用 100 个示例。9 月 25 日的一次 CPU 运行复现了大部分数字：Typed Decisions 上为 72.55%，Banking77 上为 60/100，有 3 次弃权。

设备端延迟

该实验室发布了各设备的测量数据。在 Apple M4 上，每次调用一个决策的中位数为 33.15 ms。在通过 ONNX Runtime 运行的三星 SM-X510 平板上，中位数为 203 ms，峰值 RSS 为 393.1 MB。在 Intel Core i5-1235U 上，AG News 决策的中位数为 107.83 ms。Banking77 耗时 3,713.54 ms，因为它会先缩小 72 个标签的范围。

在 X 上，@supersonicai 声称 Julia 1 在 i5 笔记本上的分类速度比 Jev 快 5 倍。请谨慎对待这一说法。Jev 试点测量的是从法国调用的名为 Jev 的托管服务，因此延迟并非同类可比。

推出 Julia-1：

我们的首个几乎可在任何设备上运行的分类模型。

了解更多 https://t.co/YJCdEeIBSo pic.twitter.com/3cizsbG9ZB

— Supersonic Labs (@supersonicai) 2026 年 9 月 26 日

交互式讲解

Julia 1 与最接近的竞品对比

特性Julia 1TypeSafe JevGLiNER2.5 Multi开发者Supersonic LabsTypeSafe AIFastino访问方式开源权重托管 API，早期访问开源权重许可证Apache 2.0专有Apache 2.0参数量144.3M未披露287M基础编码器mmBERT-small未披露mDeBERTa-v3-base决策类型选择、评分、是/否类型化结构化决策分类、NER、关系、记录每次调用选项数2 到 20（更多用 Router）最多 255每个 schema 的标签列表可在 CPU 上本地运行是否否每 1M tokens 输入价格$0.025（计划中的 API）$0.042免费（自托管）AG News 试点94%91%70%DAIR Emotion 试点86%48%44%Banking77 试点64%87%61%

来源：Julia 1 模型卡、TypeSafe 发布帖、GLiNER2.5 Multi 模型卡、Jev 基准试点。Julia 1 试点与 Jev 和 GLiNER 运行是分开进行的。

局限性

Julia 1 比较的是你提供的答案。它不能用于缺失事实、代数或多步计算。Router 在缩小范围时可能会丢弃正确的标签。它并非可直接替换的 Transformers 流水线，也没有 Hugging Face 推理提供商为其提供服务。Supersonic Labs 建议在你自己的问题上进行评估，并在重大决策中保留人类参与。

关键要点

Julia 1 是一个 144.3M 参数、Apache 2.0 的决策模型，可在 CPU 上运行。

一个 API 覆盖 2 到 20 个选项的选择、有序评分和是/否决策。

它在 4 个试点中的 3 个上击败了 Jev 参考，但在 72 标签的 Banking77 上大幅落后。

在 Apple M4 上，每次决策的中位延迟为 33.15 ms。

训练在云 GPU 上花费约 104 美元；计划推出 0.025 美元/MTok 的 API。

查看 Model Weights、ONNX/WebGPU 构建和技术细节。所有功劳归于该项目的研究者。另外，欢迎在 Twitter 上关注我们，别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等！你在 Telegram 上吗？现在你也可以在 Telegram 上加入我们了。

需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等？联系我们

文章 Supersonic Labs Releases Julia 1: A 144.3M-Parameter Open Decision Model That Runs on a CPU 首发于 MarkTechPost。