摘要：我们如何构建一个智能体，使其能够超越人类语言进行思考，却仍能通过语言在外部环境中行动？现代 LLM 智能体仍然通过文本进行推理和交互，而潜在推理提供了一种高效的内部媒介，但缺乏原生工具访问能力和推理透明度。我们通过混合推理智能体（HybridAgents）将这两个方向连接起来，它在统一的生成过程中于潜在推理和基于文本的交互之间动态切换。在架构上，轻量级的 HybridLink 实现了文本模式与潜在模式之间的无缝转换，而智能体的连续工作记忆则在多轮交互中保留无损的混合上下文。这些设计在保留工具集成的智能体能力的同时，使潜在思维可直接被检视。基于这一架构，我们进一步开发了用于混合推理的专用后训练算法：HybridSFT 通过教会主干模型与 HybridLink 协同工作，稳定工具集成的混合生成；随后 HybridRL 通过学习何时在潜在空间中思考、何时通过文本行动，来扩展推理能力。我们在 3 个模型规模上、跨 11 个基准测试评估了 HybridAgent，涵盖数学、科学、医学、搜索和智能体推理。与涵盖基于文本和潜在方法的前沿 LLM 智能体及智能体框架相比，HybridAgent 的性能持续提升 10.4%，同时实现 35.5%-54.7% 的 token 减少、1.8x-2.6x 的推理加速以及 2.7x-3.7x 的成本节省。代码和数据可在此 https URL 获取。
| 注释： | 45 页，12 张图 |
| 学科： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.18861[cs.CL] |
| （或 arXiv:2610.18861v1[cs.CL]为此版本） | |
| https://doi.org/10.48550/arXiv.2610.18861 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Jiaru Zou [查看邮箱]
[v1]2026 年 10 月 13 日星期二 17:59:31 UTC（8,500 KB）