Liquid AI 发布 LFM2.5-24B-A2B：2B 激活参数端侧 Agent 模型

LFM2.5-24B-A2B是一个 24B 参数的推理模型，仅有 2B 激活参数，专为在设备上运行快速、私密的智能体而打造。它先思考再作答，能调用工具，并可在主流智能体框架内完成多步任务。由于每个 token 仅激活 2B 参数，每个推理 token 的成本都很低，因此你可以在自己的硬件上持续运行智能体。

• 同类最佳智能体：在智能体和工具使用任务上与 Qwen3.6-35B-A3B 相当，而后者总参数和激活参数均多出约 50%，在 LiveClaw 上得分为 48.09，对比 38.19。
• 以 MoE 速度进行推理：始终先思考再作答。每个 token 仅激活 2B 参数，每个推理 token 的成本都很低。
• 高效推理：在 Apple M5 Max 上达到 184 tok/s，在单块 NVIDIA B300 GPU 上输出最高可达 21K tok/s。

我们如何用 2B 激活参数构建一个推理智能体

LFM2.5-24B-A2B 基于LFM2-24B-A2B构建，并保留其架构：40 层，每个 MoE 块 64 个专家、top-4 路由，以及门控短卷积与 GQA 的相同混合结构。上下文窗口从 32K 扩展到 131K token，并通过原地 tokenizer 扩展将词表从 65K 翻倍至 128K token，以改善非拉丁语系的 tokenization。与其前代不同，它是一个纯推理模型，在给出最终答案前会生成显式的思维链。

预训练从约 17T token 扩展到约 33T token。中期训练随后加入 2T token、32K 上下文，侧重推理、数学、代码、指令遵循和多语言文本，以及 300B token、131K 上下文，侧重长上下文数据。工具调用和多轮轨迹贯穿这两个阶段。后训练分五个阶段将基础模型转变为智能体：

1. 监督微调（SFT）
2. 教师专业化
3. 多领域同策略蒸馏（MOPD），非智能体：在非智能体任务上蒸馏专业化教师模型。
4. MOPD，智能体：第二个蒸馏阶段，聚焦智能体任务。
5. 智能体强化学习（Agentic RL）：在智能体框架内训练模型，例如OpenClaw、Hermes Agent、Pi和OpenCode。

基准测试结果

我们将 LFM2.5-24B-A2B 与 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning 在 16 项基准测试上进行了评估，涵盖工具使用与智能体工作流、知识、指令遵循、数学和编程。它是这组中规模最小的模型，却能与总参数和激活参数多出约 50% 的 MoE 模型相抗衡。

*所有模型均使用 vLLM 进行评估，并采用各基准测试推荐的生成参数。

对于你的应用而言，其优势在于工具使用和指令遵循。LFM2.5-24B-A2B 在八项工具使用与智能体基准测试中的五项（AutomationBench、BFCLv4、ToolSandbox、LiveClaw 和 τ³-Bench Banking）上领先或与竞争对手持平，而在 AutomationBench 上，其得分是第二名模型的三倍多。它还在全部三项指令遵循基准测试中领先。更大的模型在知识密集型基准测试（如 GPQA Diamond、HLE 和 AA-Omniscience）以及编程基准测试（如 SWE-Bench Verified (OpenCode) 和 SciCode）上仍保持优势，因此对于知识密集型工作负载，请将 LFM2.5-24B-A2B 与检索或网络搜索搭配使用。

这些结果使 LFM2.5-24B-A2B 成为需要在你的设备上推理、调用工具并可靠运行的智能体的坚实基础。

CPU 和 GPU 上的推理速度

LFM2.5-24B-A2B 在发布首日即获得整个推理生态系统的支持，包括 llama.cpp、MLX、vLLM、SGLang 和 ONNX。

边缘推理。LFM2.5-24B-A2B 是所比较的 MoE 模型中最快的，在 M5 Max 上解码速度达 184 tokens/s，在 Ryzen AI Max+ 395 上达 114 tokens/s。这比第二名模型快多达 1.7 倍，同时占用内存最少。

GPU 推理。LFM2.5-24B-A2B 是其规模级别中最快的模型，在单张 B300 上高并发时每秒输出超过 21K tokens。

如何使用 LFM2.5-24B-A2B

当你需要能在你的设备上推理、调用工具并可靠运行的智能体时，就选择 LFM2.5-24B-A2B。

安装最新版本的transformers（兼容transformers>=5.0.0）：

pip install -U transformers

然后加载并运行模型：

from transformers import AutoModelForCausalLM, AutoTokenizer, TextStreamer

model_id = "LiquidAI/LFM2.5-24B-A2B"
model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    dtype="bfloat16",
#   attn_implementation="flash_attention_2" <- 在兼容的 GPU 上取消注释
)
tokenizer = AutoTokenizer.from_pretrained(model_id)
streamer = TextStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)

prompt = "What is C. elegans?"

input_ids = tokenizer.apply_chat_template(
    [{"role": "user", "content": prompt}],
    add_generation_prompt=True,
    return_tensors="pt",
    tokenize=True,
)["input_ids"].to(model.device)

output = model.generate(
    input_ids,
    do_sample=True,
    temperature=0.1,
    top_k=50,
    repetition_penalty=1.05,
    max_new_tokens=512,
    streamer=streamer,
)

在你的智能体框架中使用它

在本地将 LFM2.5-24B-A2B 部署在任何兼容 OpenAI 的后端之后，然后把你的智能体框架指向它。例如，使用 Hermes Agent：

hermes config set model.provider custom
hermes config set model.base_url http://localhost:8080/v1
hermes config set model.default LFM2.5-24B-A2B
hermes config set model.context_length 131072
hermes config set model.api_mode chat_completions
hermes config set agent.tool_use_enforcement true

端口取决于你的服务后端：llama.cpp 和 MLX 使用8080，vLLM 使用8000，SGLang 使用30000，LM Studio 使用1234。查看模型卡了解 OpenClaw 和 Pi 配置，以及我们的指南了解完整设置。查看我们的发布博客获取视频示例。

开始使用 LFM2.5-24B-A2B

LFM2.5-24B-A2B 和 LFM2.5-24B-A2B-Base 均为开源权重，现已在 Hugging Face 上提供：

• 下载： LFM2.5-24B-A2B-Base和LFM2.5-24B-A2B在 Hugging Face 上。
• 在你的框架中使用：遵循我们的指南了解如何运行本地智能体，例如 OpenClaw、Hermes Agent 和 Pi。
• 微调：用我们的微调教程将 LFM2.5-24B-A2B 适配到你的任务。

我们迫不及待想看到你构建的东西。

引用

如果你使用这项工作，请引用发布博客：

@article{liquidAI202624BA2B,
  author  = {Liquid AI},
  title   = {LFM2.5-24B-A2B: Built for Fast On-Device Agents},
  journal = {Liquid AI Blog},
  year    = {2026},
  note    = {www.liquid.ai/blog/lfm2-5-24b-a2b},
}