Google Cloud AI Research 与 UNC-Chapel Hill、Stanford 和 Washington University in St. Louis 合作,发布了 RRSI(Regularized Recursive Self-Improvement)。它让 LLM 智能体重写自己的 harness:提示词、工具、记忆、控制流和子智能体。模型权重从不改变。RRSI 约束改进循环本身,因此收益能在智能体从未针对优化的基准测试上保持。
可部署吗?可以,作为一个研究框架。代码采用 Apache 2.0 许可,需要 Python 3.10+,并接受任何 LiteLLM 模型字符串。默认假设在 Vertex AI 上使用 Claude Opus 4.8。
为什么自我改进的 Harness 会过拟合
Harness 演化循环会提出编辑、在固定的 evolve 集上评分并保留胜者。每一轮都复用相同的任务,因此循环可以记住它们。RRSI 研究列出了 3 种失败模式:基准特定拟合、追逐噪声和复杂度累积。每一种都会拉大 evolve 集分数与真实迁移之间的差距。
RRSI 如何工作
RRSI 让每个 harness 组件都可编辑。它改为对搜索的移动方式进行正则化。
提议侧
退火编辑预算:余弦调度让早期轮次可以捆绑多个编辑。后期轮次只允许单个可归因的更改。
证据感知信用:每个候选都记录其组件、假设、diff、分数变化和成本变化。提议者读取这份账本,因此被证伪的想法不会被重试。
结构化探索:当进展在噪声带内停滞时,预算转向该运行从未触及的组件。
选择侧
泄漏审查器:在任何评分之前拒绝任务名称、实体、答案或基准特定逻辑。
噪声调整下限:收益必须超过在未更改的基础 harness 上测得的方差。
成本规则:额外的推理 token 必须由测得的收益来支付。
剪枝:不再产生收益的组件成为删除目标。
研究团队将这些类比为经典正则化器。编辑预算对应 L0,剪枝对应 Lasso(L1),成本规则对应 Ridge(L2)。
8 个基准测试上的结果
Terminal-Bench 2.1(evolve 划分):74.2% 到 80.2%。
SWE-bench Verified(从未用于选择):82.0% 到 83.8%。
分布外:JobBench +4.7,GDPval +3.5,APEX-Agents +3.7 分。
EngDesign(evolve)+4.9;Frontier-Eng +4.3 奖牌分。
Harvey LAB:在 evolve 划分上 +1.1,在其留出划分上 +2.3。
全部 6 个留出划分均有提升。以 Gemini 3.5 Flash 作为策略时,Terminal-Bench 2.1 从 64.6 升至 78.7。SWE-bench Verified 从 76.8 升至 79.0。
该框架也更轻量。在 agentic workspace 实例上,RRSI 每次试验使用 2.42M 策略 token。未正则化的演化使用 3.80M。摘要中报告为减少 30%;项目页面称减少 36%。
RRSI 与最接近的竞品对比
分数来自 RRSI 研究论文的表 1。所有方法共享相同的起始框架、策略、evolve 划分和候选预算。
FeatureRRSIMeta-HarnessAHETTHEHarnessXCore ideaRegularized proposal and selectionAgentic proposer over code, scores and traces of all prior candidatesObservability-driven loop; edits paired with verified predictionsEvolves harness during test time, no gold labelsModular typed primitives, trace-driven adaptationModel weightsFrozenFrozenFrozenFrozenFrozenCost rule and pruningYesNo*No*No*No*Harvey LAB evolve score90.593.090.791.191.8OOD average (H0 = 39.7)43.640.639.238.039.7
*依据 RRSI 研究团队。OOD 平均值是 JobBench、GDPval 和 APEX-Agents 的均值,根据表 1 计算得出。
Meta-Harness 在 Harvey LAB evolve 划分上领先。RRSI 的 evolve 增益最小,但却是唯一 OOD 平均值比 H0 高出 1 分以上的方法。
交互式讲解器
RRSI 如何正则化智能体自我改进
模型保持冻结。框架(提示词、工具、记忆、控制流)会演化,但每一次编辑都必须通过正则化器。
1. 运行一轮
2. 编辑预算
3. 接受门
4. 结果
选择一个候选编辑,然后按 Run。观察 RRSI 在哪里将其拦下。
通用工具修复
硬编码任务名
增益在噪声范围内
消耗大量 token 的增益
过时组件
▶ Run
ProposerReads full edit ledger, shrinking edit budget
Leakage criticScreens diff before scoring
EvaluateRun on evolve set
GateNoise floor + cost rule
Harness Ht+1Accepted, then pruning check
候选示例仅作说明。它们触发的规则正是 RRSI 论文中描述的规则。
// edit ledger: component | hypothesis | Δscore | Δcost | verdict
bt = ⌈ bmin + (bmax − bmin) · ½(1 + cos(πt / T)) ⌉
bmax(每个候选的编辑数,早期)5
bmin(每个候选的编辑数,晚期)1
T(轮数)16
早期轮次可以捆绑协调的编辑以发现机制。晚期轮次只做单一的、可归因的改动。
第 0 轮第 T−1 轮
论文中的余弦调度(公式 4)。滑块数值用于探索;论文在附录 D 中列出了自己的设置。
ΔS,相对于当前最优的得分增益(分)2.0
ΔC,token 成本变化(%)20
δ,重复基线运行产生的噪声带(分)1.5
β0 + β1ΔS 成本允许量:β1(每分 %)8
?噪声调整下限:得分下降不得超过当前最优以下 δ
?明确增益:ΔS > δ,否则适用论文的带内规则
?成本规则:ΔC ≤ β0 + β1ΔS
…
示例性阈值(此处 β0 固定为 5%)。在 RRSI 中,δ 在未改动的基线框架上估计,β 值在 evolve 集上调优,然后冻结。
全部 8 个基准测试
对比先前方法
Token 成本
数据:RRSI 论文 · GitHub · 项目页面由 Marktechpost 构建
快速开始
复制代码已复制请使用其他浏览器
git clone https://github.com/google-research/rrsi.git && cd rrsi
pip install -e ".[dev]"
python3 rrsi.py --domain coding baseline
python3 rrsi.py --domain coding run
每一轮在独立的 git worktree 中起草 2 个候选,对它们进行筛选,评估两者,并将分支快进到胜者。coding 实例还需要 Docker 和 harbor。新领域通过单个适配器模块接入。
关键要点
RRSI 演化提示词、工具、记忆和工作流,而模型权重保持冻结。
泄漏批评器、噪声下限、成本规则和剪枝决定哪些编辑被保留。
Terminal-Bench 2.1 在 Claude Opus 4.8 上从 74.2% 升至 80.2%。
从未用于选择的 SWE-bench Verified 从 82.0% 升至 83.8%。
Apache 2.0 代码在 GitHub 上;研究级,非 Google 官方产品。
查看论文、代码和技术细节。所有功劳归于该项目的研究人员。另外,欢迎在 Twitter 上关注我们,别忘了加入我们拥有 15 万+ 成员的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们了。
需要与我们合作推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等?联系我们
文章 Google Research Open-Sources RRSI: AI Agents That Improve Their Own Harness Without Overfitting 首次出现在 MarkTechPost 上。