Meta FAIR 推出了 Self-Improving Memory,一种让 AI 智能体管理自身记忆的方法。模型首先发现自己的记忆指令,然后将这些技能训练进其权重中。共同作者包括来自华盛顿大学和约翰斯·霍普金斯大学的研究人员。

TL;DR

方法:基础模型是 Kimi-K2.6,一个 1T 参数的 MoE,激活参数 32B,上下文 256K。蒸馏在注意力投影上添加了一个 LoRA 适配器(rank 64)。

运行环境:训练硬件未披露。Kimi-K2.6 服务需要多 GPU 节点;Vast.ai 推荐 8x H200。存在原生 INT4 权重。

性能:自发现的记忆提示词在 3 个任务上平均得分 56.0,而最佳人工编写的提示词为 44.6。

最佳:Codebase,使用优化提示词达到 64.3,比最佳手写 harness 高 20.6。

最差:Spectrum 蒸馏仅增加 2.9 分(在通用运行上为 46.5,而 SFT 为 43.6)。

什么是 Self-Improving Memory?

Self-Improving Memory 是 Meta FAIR 的一种两阶段方法,教智能体模型管理基于文件的记忆。智能体通过一系列子任务工作。每个子任务从空上下文开始。只有通过文件工具编辑的持久记忆目录会延续下来。

两个提示词控制该记忆。OFFLOAD 在子任务后更新记忆。LOAD 在下一个子任务前检索笔记。通用版本将策略留给模型。研究帖子中的一项初步研究发现,没有单一的手写策略能在每个任务上获胜。

harness 优化是如何工作的?

在第一阶段,一个元智能体重写 LOAD 和 OFFLOAD 提示词。搜索从 4 个人工编写的种子开始:Summary、Retrieval、Skill 和 Hypothesis。每个候选运行完整任务流 5 次。按平均得分排名前 4 的成为修订的父代。

对于每个父代,元智能体读取轨迹、得分和最终记忆目录。然后它提出修订后的提示词。选择使用元智能体无法看到的留出集。

发现的提示词是具体的。一个 Database 提示词说要先读取 GUARDRAILS.md,然后读取 SCHEMA.md,再回答。最佳的 Codebase 设计使用一个快速入门文件、一个索引修复注册表和单独的修复文件。

harness 蒸馏如何将收益转移到权重中?

阶段 2 遵循 Discover-Demonstrate-Distill 流水线。任务智能体使用优化后的提示运行训练子任务。每次模型调用都会被记录。随后,研究团队将历史记录中的优化提示换回通用提示。

这种替换之所以有效,是因为该行为在通用指令下仍然成立。示例包括保留 QUICKSTART.md、REGISTRY.md 和 SCHEMA.md 文件,以及在聚合前验证连接键。模型使用 LoRA 微调,rank 为 64,作用于注意力投影层。损失仅覆盖助手 token,包括推理和工具调用。每个任务权重相同。

元智能体和任务智能体是同一个 Kimi-K2.6 模型。因此,模型是在它自己发现的记忆技能上训练的。

基准测试显示了什么?

测试使用 3 个持续学习基准任务:Database(SQL)、Codebase(仓库修复)和 Spectrum(无线电扫描)。测试子任务遵循设计好的阶段变化。因此,结果衡量的是对相同任务新实例的泛化能力。

测试分数DatabaseCodebaseSpectrum平均无记忆7.531.821.920.4压缩39.836.934.637.1通用框架32.333.542.536.1最佳人工编写47.943.742.144.6优化框架53.864.349.956.0在通用轨迹上 SFT31.637.543.637.6在优化轨迹上 SFT(通用提示)37.745.146.543.1

来源:图 4 和图 5,Self-Improving Memory 博客。所有行均为 Kimi-K2.6。

优化框架在全部 3 个任务上都超过了最佳人工编写的种子。Codebase 提升最大,为 20.6 分。搜索噪声较大:44 个生成的修订中有 37 个未能超过此前最佳。Database 和 Spectrum 在第一代就达到峰值。Codebase 持续提升到第 4 代。

蒸馏之后,每个模型都运行通用框架。蒸馏模型在 10 个匹配种子上平均为 43.1。在通用轨迹上 SFT 达到 37.6。这是 5.5 分的提升,即 14.6%。

它与 ALMA、MemEvolve 和 Harness-Zero 相比如何?

近期有几种方法在智能体记忆或框架上进行搜索。Self-Improving Memory 搜索记忆提示,然后将其蒸馏到权重中。基准测试不同,因此头条数字不能直接比较。

特性 | 自我改进记忆 | ALMA | MemEvolve | Harness-Zero | Org | FAIR at Meta、UW、JHU | Xiong、Hu、Clune | OPPO AI Agent Team、LV-NUS | Peking University、Google、HKUST | 搜索内容 | LOAD/OFFLOAD 记忆提示 | 以 Python 代码形式的记忆设计 | 记忆架构与内容 | 完整智能体 harness | 训练权重 | 是,LoRA rank 64 | 否 | 否 | 是,LoRA SFT | 模型 | Kimi-K2.6(智能体与元智能体) | GPT-5 元智能体,GPT-5-nano/mini 任务智能体 | GPT-5-mini(外加 DeepSeek V3.2、Kimi K2) | Qwen3.5-9B 学生模型 | 基准测试 | Continual Learning Bench(3 项任务) | ALFWorld、TextWorld、Baba Is AI、MiniHack | GAIA、WebWalkerQA、xBench-DeepSearch、TaskCraft | SpreadsheetBench Verified、AppWorld、USPTO Retrosynthesis | 主要结果 | 56.0 对比最佳人类 harness 的 44.6;蒸馏后 43.1 | 53.9% 对比无记忆的 41.1%(GPT-5-mini) | 最高提升 17.06% | 移除 harness 后从 23.3% 提升至 44.3% | 代码 | 未发布 | GitHub | GitHub | GitHub

Harness-Zero 是最接近的匹配,但它使用一个单独的智能体来纠正学生模型。Self-Improving Memory 跳过了这一步。

关键要点

Kimi-K2.6 编写的记忆提示优于人类编写的:56.0 对比 44.6。

代码库提升最大:64.3,上升 20.6 分。

蒸馏保留了部分增益:43.1 对比使用通用提示的 37.6。

44 次元智能体修订中有 37 次失败,因此评估和选择很重要。

查看博客文章、X 帖子以及 Continual Learning Bench 论文。你可以通过我们的 GPULeaderboard.com Chrome 扩展在此查看部署选项和规格。

另外,欢迎在 Twitter 上关注我们,别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。

需要与我们合作推广你的 GitHub Repo 或 Hugging Face 页面或产品发布或网络研讨会等?联系我们

文章《Meta FAIR Self-Improving Memory 在 Continual Learning Bench 上达到 56.0》首次发布于 MarkTechPost。