前沿云端 LLM 承载着高昂的运营成本，且成本可能意外波动；依赖此类第三方模型还会引入脆弱性，因为提供商可以随时修改、拒绝或弃用访问权限。此外，专有模型针对特定工作流的定制能力有限，同时对隐私、数据控制和透明度构成风险。另外，并非每项任务都需要前沿级别的智能：小型专用智能体在特定任务上同样胜任，且运行成本显著更低，因为许多常规或较小的工作负载可以在设备端高效处理。随着每参数智能持续快速提升，我们希望站在这一趋势的前沿——迈向高性能、注重隐私、自托管的模型。

Tether AI Research 推出BotPsy，一个 0.8B 参数模型 推出BotPsy，一个 0.8B 参数模型，专为函数调用和智能体工作流设计，基于 Qwen3.5-0.8B 构建，适合设备端部署。BotPsy 是一个“个人助理”，使用工具为用户执行各种简单任务，涵盖网络搜索与研究、旅行与生活方式、商业与金融、业务与客户运营、设备与车辆控制、文件与文档、日历，以及电子邮件与消息等领域。由于其参数规模较小，它最适合低至中等难度的任务。BotPsy 在其规模上实现了最先进（SOTA）的工具使用和智能体性能，在我们测试过的所有不超过 1.2B 参数的模型中表现最佳（图 1 和图 2）。它为安全的设备端工作流而设计，在保持用户数据私密的同时，提供卓越的指令遵循可靠性和效率。作为一个小模型，BotPsy 仍会犯错，不适用于高风险用途；请阅读预期用途与局限性了解更多信息。

🤗模型（safetensors）| 📦GGUF（bf16、Q8、Q4）

Bar chart of tool-use and agentic benchmark scores for BotPsy-0.8B and four comparison models
图 1：BotPsy-0.8B 显著优于其基础模型，并在六项工具使用和智能体基准测试中的五项领先，包括对阵 Qwen3.5-2B-Think（规模为其 2.5 倍）；仅在 Claw-Eval 上 Qwen3.5-2B-Think 略胜一筹。
Bar chart of knowledge and instruction-following benchmark scores for BotPsy-0.8B and four comparison models
图 2： 知识：与同等规模的模型相比，工具使用训练保持并提升了 BotPsy 的通用知识，但整体知识仍主要随参数规模扩展。指令遵循：BotPsy 擅长遵循明确指令和多轮任务，但随着指令累积，其表现会下降，并且在低资源语言上落后。

版权投诉

我们将对版权侵权通知采取适当行动。如果您认为您的作品被以侵犯您知识产权的方式使用或复制，请发送电子邮件至[email protected]识别并描述受版权保护的作品和涉嫌侵权的内容，以提交侵权通知。

核心亮点

基准测试结果

  • 性能达到其基础模型的两倍：BotPsy 在关键基准测试上将 Qwen3.5-0.8B-Think 的智能体能力大致提升了一倍：BFCL v4 从 23.4 升至 44.0，ACEBench 从 30.1 升至 58.7，τ-bench 从 23.2 升至 51.5（零售、电信和银行子集的平均值）。
  • 同类最佳智能体：在全部六项工具使用和智能体基准测试（BFCL v4、ACEBench、τ-bench、ToolSandbox、Claw-Eval 和 BrowseComp-Plus）上，BotPsy 均优于 ≤1.2B 参数权重级别中的领先模型（Qwen3.5-0.8B-Think、LFM2.5-1.2B-Think、MiniCPM5-1B-Think）。
  • 超越更大的同系列模型：在六项基准测试中的五项上，BotPsy 在所有受测模型中得分最高，在 BFCL v4（44.0 对 37.7）、ACEBench（58.7 对 55.4）、τ-bench（51.5 对 46.5）、ToolSandbox（64.6 对 41.2）和 BrowseComp-Plus（4.5 对 2.8）上击败了规模为其 2.5 倍的 Qwen3.5-2B-Think。仅在 Claw-Eval 上 Qwen3.5-2B-Think 领先（48.9 对 46.5）。

模型能力

  • 在多轮工作流中更可靠：在 τ²-bench 上，智能体必须进行长时间的客户对话、遵循严格的策略并代表客户行事，它在电信领域得分 82.5，领先于 Qwen3.5-2B-Think（69.3）。在 BFCL v4 的多轮任务上，它相比基座模型从 7.5 提升到 46.1，几乎是 Qwen3.5-2B-Think（23.8）的两倍。按应用分组，其多步得分在商业与服务领域（58.3 对次优的 Qwen3.5-2B-Think 47.4）以及设备与系统管理领域（46.1 对 31.9）均领先于所有受测模型。
  • 知道何时（不）调用工具：会行动的智能体也必须知道何时不行动。在 BFCL v4 的幻觉测试中——该测试检验模型在没有合适工具时是否会拒绝——BotPsy 得分 86.1，为所有受测模型最高。在 ACEBench 的特殊用例中，即请求不完整、包含错误参数或无法由给定工具满足时，它得分 51.3，相比其基座模型的 13.7 大幅提升。
  • 在保留知识的同时遵循指令：BotPsy 专精于工具使用，同时保留通用能力。指令遵循能力显著提升，IFEval 从 59.7 升至 90.8，IFBench 从 22.0 升至 55.9，为所有受测模型中 IFBench 最高分。通用知识也有所提升，GPQA Diamond 从 33.2 升至 38.1，MMLU-Pro 从 41.6 升至 48.9。在这四项基准测试上，BotPsy 均优于我们测试的所有 1.2B 参数及以下的其它模型。

安全性、效率与部署

  • 比同类领先模型更安全：在涵盖六个危害类别的自动化红队测试中，BotPsy 产生不安全回复的比例为 21%，而其基座模型为 36%。这是所有 1.2B 参数及以下模型中最低的比例（LFM2.5-1.2B-Think：35%；MiniCPM5-1B-Think：47%）。在提示注入攻击下——这对读取不可信工具输出的智能体尤为重要——不安全率从其基座模型的 46% 降至 31%。
  • 更高效的推理与更少的循环：在所有五个模型都能正确回答的问题上，BotPsy 在 GPQA Diamond 上以约少 3 倍的推理 token 得出答案（3,690 对 11,563），在 MMLU-Pro 上少 2.7 倍（1,912 对 5,105）。在所有 IFBench 尝试中，其陷入重复推理循环的比例从 22.9% 降至 1.4%，触及 32k token 上限的运行从 28.3% 降至 0.2%。更短、更果断的推理应能降低端侧延迟。
    • 开源且开箱即用：BotPsy 将以 Apache 2.0 许可证下的开源权重发布，供研究和教育用途。它将提供三种精度（bf16、Q8、Q4），以 Hugging Face safetensors 形式以及用于 QVAC SDK 和 llama.cpp 的 GGUF 文件形式提供。

更广阔的愿景

在 BotPsy 的基础之上，Tether Data, S.A. de C.V.（“Tether AI Research”，即“我们”）未来的开发将专注于扩展端侧智能体能力，以无缝集成更广泛的硬件和本地服务。Tether 的 Hypersearch 将演进为支持更强大的去中心化点对点（P2P）查询，进一步确保绕过企业追踪器的私密、加密网页搜索。QVAC Fabric 的本地微调机制将得到优化，以更深入地适应用户个人偏好、工作流和专用工具环境。未来的迭代将允许智能手机界面在离线-在线转换期间，将繁重计算任务平滑地委托给家用 PC 或可信的安全 P2P 节点。隐私协议将持续强化，以保证所有个人数据、凭据和决策严格保留在本地硬件上。将引入协作功能，允许在可信本地网络中进行安全的智能体间通信，而不损害用户机密性。最终，这些进步将巩固 BotPsy 作为一个完全自主、能力强大的个人 AI 生态系统，让用户完全掌控自己的数字生活。

方法论

BotPsy 基于 Qwen3.5-0.8B，按顺序经过四个阶段的后训练：监督微调（SFT）、多教师同策略蒸馏（MOPD），以及两轮强化学习（RL）。每个阶段都以上一阶段的最佳检查点为起点，并受益于不同的学习信号：对参考轨迹的模仿、更大教师模型的 token 分布，以及基于规则的工具调用奖励（见图 3）。

Diagram of the four-stage BotPsy training recipe
图 3：BotPsy 训练配方。学生模型经历四个阶段。三个专家 Qwen3.5-4B 教师模型各自针对一项技能进行 RL 训练，在蒸馏阶段为其提供指导。

训练流程：四个阶段，三类反馈

我们的方法采用四个阶段的训练，从三类信号中学习：示范、专家教师和可验证奖励。

从示范中学习（SFT）

我们首先在工具使用对话上进行全参数监督微调。这些对话包括来自模拟环境的多轮智能体轨迹、重放的单次、并行和多步调用，以及不应调用任何工具的情形。

从教师中学习（MOPD）

接下来，学生模型通过同策略蒸馏（OPD）进行训练：它生成自己的回复，由一位专家教师对每个 token 提供反馈，并以逐 token 的反向 KL 散度作为训练信号。为构建这些教师，我们首先对三个 Qwen3.5-4B 模型进行 RL 训练，使其分别专精于工具使用、通用推理和指令遵循。训练期间，每个提示都被路由到其中一位教师。这一阶段主要旨在恢复在 SFT 阶段有所退化的知识和指令遵循能力，尽管工具使用指标也有所提升（见图 4）。

Line chart of mean tool-use, instruction-following and knowledge scores after each training stage
图 4：每个训练阶段后各能力组的平均得分。SFT 提升了工具使用，但使知识和指令遵循降至基础模型以下；蒸馏将两者都拉回基础模型以上，而 RL 阶段在三个方面都带来进一步提升。

从规则和环境中学习（RL 阶段）

最后，模型使用 DAPO [1] 进行强化学习训练，仅从规则和验证器计算出的奖励中学习。第一轮聚焦于工具调用，并辅以指令遵循和 STEM 多项选择题。与 Tool-N1 [2] 一样，工具调用奖励首先检查推理和工具调用格式。然而，不同于 Tool-N1 的二元正确性奖励，它本着 ToolRL [3] 的精神给出细粒度的部分得分，将预测的工具名称、参数名称和参数值与真实值进行匹配。

第二轮将训练混合扩展到通用领域的可验证任务：数学、代码、知识（多项选择）题、指令遵循、结构化输出，以及模拟工作环境中的多步工具使用。尽管该混合不包含多轮对话，它仍进一步提升了多轮函数调用能力。

数据构成

训练的每个阶段使用不同的数据混合（图 5）。SFT 阶段主要聚焦于工具使用，并为后续阶段奠定基础。MOPD 混合结合了工具使用、知识和指令遵循数据，既进一步提升函数调用能力，也恢复 SFT 阶段带来的通用领域性能回退。第一个 RL 阶段再次主要聚焦于工具使用，而第二个 RL 阶段则将重心转向通用领域数据（指令遵循、知识、数学和代码），保留较小比例的工具使用。

Stacked bar chart of the training-data mix for each of the four stages
图 5：各阶段训练数据的大致构成，按能力分组。

结果

工具使用与智能体

BotPsy 的工具使用性能大约是其 Qwen3.5-0.8B 基座的两倍，并且在六个智能体基准测试中的五个上都是五个模型中最强的：BFCL v4（44.0 对 23.4）、ACEBench（58.7 对 30.1）、τ-bench（51.5 对 23.2）、BrowseComp-Plus（4.5 对 1.9）和 ToolSandbox（64.6 对 30.5）。在这五项上，它也领先于 Qwen3.5-2B-Think——一个规模为其 2.5 倍的模型（分别为 37.7、55.4、46.5、2.8 和 41.2；见表 1）。在 Claw-Eval 上，Qwen3.5-2B-Think 领先（48.9 对 46.5）。

基准测试 BotPsy-0.8B
ours		 Qwen3.5-0.8B-Think
base · 1×		 Qwen3.5-2B-Think
2.5×		 LFM2.5-1.2B-Think
1.5×		 MiniCPM5-1B-Think
1.25×
BFCL v4¹ 44.0 23.4 37.7 28.1 22.8
ACEBench² 58.7 30.1 55.4 39.4 24.5
τ-bench³ 51.5 23.2 46.5 6.5 28.8
Claw-Eval⁴ 46.5 39.3 48.9 31.6 31.0
BrowseComp-Plus⁵ 4.5 1.9 2.8 0.2 0.8
ToolSandbox⁶ 64.6 30.5 41.2 45.7 28.1
平均 45.0 24.7 38.8 25.3 22.7

表 1：工具使用与智能体基准测试（0–100，越高越好）。每行最佳分数以粗体标出，次佳分数以下划线标出；倍数表示相对于 BotPsy-0.8B 的参数量。平均值为六项基准测试的未加权均值。详见评测脚注了解评测设置的细节。

知识

工具使用训练没有损害通用知识：GPQA Diamond 从 33.2 升至 38.1，MMLU-Pro 从 41.6 升至 48.9，在参数量不超过 1.2B 的模型中表现最佳（LFM2.5-1.2B-Think：35.0 和 39.4；MiniCPM5-1B-Think：15.8 和 40.0）。知识仍然主要随参数量增长，Qwen3.5-2B-Think 的得分远高于此（59.9 和 65.5）。因此，BotPsy 的设计目标是调用工具来获取它不知道的事实，而不是充当知识模型。

基准测试 BotPsy-0.8B
ours		 Qwen3.5-0.8B-Think
base · 1×		 Qwen3.5-2B-Think
2.5×		 LFM2.5-1.2B-Think
1.5×		 MiniCPM5-1B-Think
1.25×
GPQA Diamond⁷ 38.1 33.2 59.9 35.0 15.8
MMLU-Pro⁸ 48.9 41.6 65.5 39.4 40.0

表 2：通用知识基准测试（0–100，越高越好）。每行最佳分数以粗体标出，次佳分数以下划线标出。详见评测脚注了解评测设置的细节。

指令遵循

BotPsy 是五者中遵循明确指令表现最好的：IFEval 90.8（base 59.7；Qwen3.5-2B-Think 80.0），IFBench 55.9（base 22.0；Qwen3.5-2B-Think 40.9）。在测试八种语言、三轮对话中指令遵循能力的 Multi-IF 上，它得分 67.2，与 Qwen3.5-2B-Think（66.9）和 LFM2.5-1.2B-Think（68.2）相当。它起步最强（第一轮 84.3，为五者中最高），但随着指令累积下降更快（第三轮 51.0，而这两个模型分别为 56.5 和 56.2）。低资源语言仍是弱项：印地语（24.5）和俄语（57.6）远低于英语、中文、法语、西班牙语、意大利语和葡萄牙语达到的 72–80。

基准测试 BotPsy-0.8B
ours		 Qwen3.5-0.8B-Think
base · 1×		 Qwen3.5-2B-Think
2.5×		 LFM2.5-1.2B-Think
1.5×		 MiniCPM5-1B-Think
1.25×
IFEval⁹ 90.8 59.7 80.0 85.6 78.4
IFBench⁹ 55.9 22.0 40.9 33.9 40.6
Multi-IF¹⁰ 67.2 43.2 66.9 68.2 53.4

表 3：指令遵循基准测试（0–100，越高越好）。每行最佳分数以粗体表示，次佳以下划线表示。详见评估脚注了解评估设置的细节。

多轮对话

最大的相对提升出现在多轮、有状态交互中，BotPsy 在五个多轮基准测试中的四个上领先（图 6）。在 BFCL v4 多轮上，它从 7.5 升至 46.1，几乎是 Qwen3.5-2B-Think（23.8）的两倍；在 ACEBench Agent 上从 7.9 升至 28.3（Qwen3.5-2B-Think：16.2）。在 τ²-bench 上，它在零售场景中相对基座翻倍（67.8 对 33.9，略微领先于 Qwen3.5-2B-Think 的 65.5），并在电信场景达到 82.5，该场景中智能体需在多轮对话中引导用户完成故障排查（MiniCPM5-1B-Think：74.0；Qwen3.5-2B-Think：69.3）。它在单次调用（BFCL non-live：83.0）以及在没有合适工具时不调用工具（BFCL hallucination：86.1）这两方面也是五个模型中最可靠的。

Bar chart of multi-turn agentic benchmark scores for BotPsy-0.8B and four comparison models
图 6：多轮智能体任务：BFCL v4 多轮、ACEBench Agent、τ²-bench（零售、电信）和 τ³-bench（银行）。BotPsy 在五个基准测试中的四个上领先；在 τ³-banking 上，所有模型均低于 5。

薄弱环节

BotPsy 的薄弱环节是开放式搜索，以及少数几个 Qwen3.5-2B-Think 仍然领先的领域。BotPsy 的 BrowseComp-Plus 得分为 4.5，是五个模型中最好的，但绝对值偏低；在 BFCL web search（14.0）和 memory（16.3）上，它落后于 Qwen3.5-2B-Think（19.8 和 26.1）。在 Claw-Eval 上，BotPsy 相对其基座有明显提升（46.5 对 39.3），但仍略低于 Qwen3.5-2B-Think（48.9）。在 ACEBench 的特殊情况（不完整或错误请求）上，Qwen3.5-2B-Think 也领先（58.0 对 51.3），尽管 BotPsy 在该项上远高于其基座（13.7）。τ³-banking 是 BotPsy 唯一未领先的多轮基准测试：没有模型超过 5（BotPsy 4.1，与其基座持平；Qwen3.5-2B-Think 4.8）。

适用场景：应用级性能细分

BotPsy 能处理多种用例和场景。图 7 按应用组拆分基准测试场景，将简单场景（单轮、单次工具调用）与复杂场景（多轮或多工具）区分开。本节引用的总体分数是所有场景的平均值；图 7 的底行是七个组的未加权平均值，因此其数字有所不同。

单次工具调用在各处都表现良好

在每个有足够样本量的应用组中，简单场景得分均为 70–79（Communication & Social 仅有 6 个）。总体而言，BotPsy 得分为 75，比其基础模型（54）高约 21 分，并略高于 Qwen3.5-2B-Think（70）。

Horizontal bar chart of per-app-group scores for simple and complex scenarios across five models
图 7：按应用组分列的各场景平均得分（0–100，越高越好），简单场景（左）和复杂场景（右）。n 表示每组中简单/复杂场景的数量；底行为七个组的未加权平均值。

最大提升出现在多步任务中

在复杂场景中，BotPsy 总体得分为 39.5，而其基础模型为 17.9，Qwen3.5-2B-Think 为 30.8。提升最大的是 Communication & Social（61 对基础模型的 13）、Commerce & Services（58 对 27）和 Device & System Management（46 对 15）。Qwen3.5-2B-Think 仅在 Personal Productivity & Work 中领先（64 对 58，38 个场景，主要是 Claw-Eval），而 MiniCPM5-1B-Think 在 Communication & Social 中略微领先（61.5 对 60.5）。多步任务得分仍低于单次调用，这仍是更难任务的主要限制。

多步信息检索是薄弱环节

复杂的 Information Retrieval & Research 场景得分为 15（单次调用：79）。其中大多数是 BrowseComp-Plus 深度研究问题，对这一规模范围内的所有模型来说都仍然很难（基础模型：9；Qwen3.5-2B-Think：14）。

推理效率

BotPsy 以远少于其基础模型的推理量得出正确答案，并且在多轮智能体任务中使用的轮次更少。这与我们在整个训练过程中对推理效率的明确关注相一致。以下所有比较均基于相同的问题或任务（即所有五个模型都正确回答或解决的那些），因此难度差异不会影响这些数字。推理 token 使用各模型自己的分词器计数。

Scatter plots of accuracy against reasoning tokens per correct answer on four benchmarks
图 8：在 GPQA Diamond、MMLU-Pro、IFEval 和 IFBench 上，正确率与每个正确答案所消耗的推理 token 数的关系。token 数是在全部五个模型都答对的问题上测量的；正确率则是在所有问题上统计的。左上角更优；虚线为帕累托前沿。

更短的推理，更高的正确率。与其基座模型相比，BotPsy 在 GPQA Diamond（3,690 对 11,563）、MMLU-Pro（1,912 对 5,105）、IFEval（3,148 对 4,433）和 IFBench（4,204 对 11,576）上每个正确答案所消耗的推理 token 数减少了 1.4–3.1 倍，同时在全部四项上的得分都更高（图 8）。它并非在所有方面都是最短的模型：LFM2.5-1.2B-Think 在 MMLU-Pro、IFEval 和 IFBench 上写出的推理更短，MiniCPM5-1B-Think 在 IFEval 和 IFBench 上更短，但它们在每一项上的正确率都低于 BotPsy。

Scatter plots of pass rate against assistant turns per solved task on tau2-bench retail and telecom
图 9：在 τ²-bench 零售和电信任务上，通过率与每个已解决任务所对应的助手轮次数的关系。轮次数是在全部五个模型都能解决的任务上测量的；通过率则是在所有任务上统计的。左上角更优；虚线为帕累托前沿。

在多轮智能体任务上比基座模型使用更少的轮次。在全部五个模型都能解决的 τ²-bench 任务上，BotPsy 所需的助手轮次少于其基座模型（图 9）：

  • τ²-retail：10.7 轮，基座模型为 11.7 轮（少 9%），Qwen3.5-2B-Think 为 10.6 轮。
  • τ²-telecom：13.1 轮，基座模型为 17.6 轮（少 26%），Qwen3.5-2B-Think 为 13.8 轮（少 5%）。

与此同时，它通过的任务数量是基座模型的 2.0 倍（零售）和 2.6 倍（电信）。MiniCPM5-1B-Think 在零售任务上使用的轮次更少（8.7），但仅通过了 9.9% 的零售任务。

预期用途与局限性

BotPsy 的开发旨在推进最先进水平，并支持研究和教育用途。基于我们工作开发的模型可能适用于以下领域的任务：设备与系统管理（设置、文件与文档、时钟与闹钟）、个人生产力与工作（日历与任务、电子邮件、协作工具）、通信（消息传递）、信息检索与研究（网页搜索、天气、新闻）、媒体与生活（视频、音乐、食谱与健身、照片）以及商业与服务（地图与出行、金融、购物与配送）。由于其参数数量较少，它最适合低到中等难度的任务。

BotPsy 主要以英语进行训练和测试，英语是推荐使用的语言。它还在 Multi-IF 上进行了评估，该基准涵盖另外七种语言（中文、法语、印地语、意大利语、葡萄牙语、俄语和西班牙语）：它在其中大多数语言上表现良好，但在印地语和俄语上得分低得多。BotPsy 是一个小型语言模型，会犯错。它不适用于安全关键或高风险的自动化决策，也不适用于涉及金钱、个人信息、健康及其他敏感话题的应用。

引用 

@misc{botpsy2026,
  title  = {BotPsy: On-Device Personal Assistant with a Sub-Billion-Parameter Agentic Language Model},
  author = {{Tether Data, S.A. de C.V. d.b.a. Tether AI Research}},
  year   = {2026},
  note   = {Hugging Face blog}
}

参考文献

[1] Yu, Qiying, et al. "DAPO: An Open-Source LLM Reinforcement Learning System at Scale."Advances in Neural Information Processing Systems38 (2025): 113222–113244.

[2] Zhang, Shaokun, et al. "Nemotron-Research-Tool-N1: Exploring Tool-Using Language Models with Reinforced Reasoning."International Conference on Learning Representations(2026).

[3] Qian, Cheng, et al. "ToolRL: Reward is All Tool Learning Needs."Advances in Neural Information Processing Systems38 (2025).

评估脚注

  • 所有分数均为百分比（越高越好）。
  • 所有模型均在思考（推理）模式下进行评估。
  • 所有使用外部 API 的基准测试均运行于2026 年 11 月 3 日。
  • ¹ BFCL v4：总分使用官方加权公式计算（40% 智能体、30% 多轮、10% Live、10% Non-Live、10% 幻觉），取 3 次运行的平均值。
  • ² ACEBench：总体准确率。所有模型均在函数调用（FC）模式下评估；取 2 次运行的平均值。
  • ³ τ-bench：τ²-bench（零售、电信）与 τ³-bench（银行）的平均值，不含航空；取 3 次运行的平均值。
  • ⁴ Claw-Eval：官方平均任务得分，其中每个任务得分为 安全性 × (0.8 × 完成度 + 0.2 × 鲁棒性)；取 3 次运行的平均值。
  • ⁵ BrowseComp-Plus：准确率，所有模型最多 30 步。
  • ⁶ ToolSandbox：8 个设置上的平均相似度得分。
  • ⁷ GPQA Diamond：全部 198 道题的准确率，取 3 次运行的平均值，启用思考。
  • ⁸ MMLU-Pro：准确率。
  • ⁹ IFEval、IFBench：提示级严格准确率。
  • ¹⁰ Multi-IF：取 3 次运行的平均值。