Sakana AI 的 MASS 方法让单个语言模型通过解题、评判结果和优化工作流来实现自我提升，无需更强的教师模型。研究发现三个角色均有收益，但共同的盲区可能让错误被当作进展通过，并进入下一轮训练循环。
来自 Sakana AI 和 UC Berkeley 的研究人员提出了“多智能体自我监督”（Multi-Agent Self-Supervision，MASS），一种用于递归自我改进（RSI）的方法。单个语言模型同时负责任务执行、优化工作方式和评估结果。
作者认为，在研究前沿，即便是专家也常常难以评判结果，因为验证可能需要昂贵的支撑证据或漫长的实验。一项等离子体研究就可能耗费超过 1.2 亿 CPU 小时，根据该论文，。
因此，模型本身可能是现有最佳的评判者，尽管它在审查自己的工作时可能漏掉自身的错误。用同一个模型来解题、检查和修改，可能会强化这些错误而非纠正它们。
同一模型的多个副本分工协作
受 AI 先驱 Marvin Minsky 的著作《心智社会》（Society of Mind）启发，研究人员关注模型如何分工。在 MASS 中，工作流是附加到提示词上的文本，用于定义每个子智能体的角色和指令。“契约”（contract）规定每个子智能体必须返回哪些信息以及必须执行哪些检查，而“跳”（hop）则设定调用顺序。
一个编排器在子智能体之间分配工作。例如，在针对历史价格测试交易策略时，数据专家的契约必须确保该策略只使用在每个时间点可获得的信息。
在内循环中，模型的权重保持冻结，团队运行一个候选工作流，评估器将结果与当前的“冠军”进行比较。优化器利用该反馈提出下一个工作流，主要通过修改契约和跳来实现。在外循环中，冠军在每个任务上运行 18 次，模型自行对结果排序，并最多选择 15 次运行用于训练。
研究人员在训练示例中从编排器的初始提示中移除工作流文本，使模型学会仅根据任务来组织工作。对子智能体的具体分配仍保留在记录的轨迹中，模型在 LoRA 微调后再次承担全部三个角色。
基础模型是Qwen3.6-27B，配合Qwen Code 作为运行框架。研究人员使用由GPT-5.5生成的十二个研究任务，涵盖金融、机器人和制药领域，保留三个用于测试，九个用于训练。只有八个产生了训练数据，因为在其中一个训练任务上，搜索未能找到任何优于参考的工作流。
基准测试的提升主要来自完成更多工作
在测试任务上，相对于基础模型的胜率从一轮后的 53.9% 上升到两轮后的 69.9%。在 MLR-Bench、DSBench、ScienceAgentBench 和 AstaBench 上，该模型每输出 token 的得分达到基础模型的 1.2 到 1.6 倍。原始得分的提升有时很小，DSBench 仅从 0.473 提升到 0.482，而在 Terminal-Bench 2.0 和 SWE-bench Verified 上得分略有下降。
论文附录显示，完成的 MLR-Bench 提交从 60 个中的 31 个上升到 50 个，而它们的平均评分从 3.07 下降到 2.88。委派工具在所有 180 次运行中都未被使用，因此无法确定团队协作是否能解释这些提升。
当逐任务比较结果时，这些提升不再具有统计显著性。作者描述研究任务的结果参差不齐，AstaBench 也显示出相同的模式。
在解决方案上进行训练也能改进评估器和优化器
尽管该模型仅基于解题轨迹进行训练，但它在另外两个角色上的表现也有所提升。自评估器与外部评判者的一致率从 73% 上升到 93%。经过一轮搜索找到的工作流有 64% 的情况下能击败基础模型的工作流，即使基础模型同时运行两者也是如此。
在没有工作流指令的情况下，基础模型在 110 次运行中仅有 1 次委派给子智能体，而经过两轮后为 87 次。它在被明确指示时已经能够委派，但现在无需被要求就会这样做。
在优化过程中，任务知识转移到契约和跳转中，而角色和指令变得更加通用。这一发现仅基于 8 到 9 个任务的小样本。
在团队轨迹上训练得到的模型胜率为 68.3%，而单智能体学生模型为 64%，且使用的训练 token 少了 31%。外部评判者在 85.1% 的情况下更偏好团队结果，不过团队产生的 token 数量约为 2.4 倍。当输出长度相近时，评判者在 80% 的情况下更偏好团队结果，但这仅基于 10 对样本。
被评估的团队运行表现更好，但这一比较并不能确定仅凭委派就能解释这一优势。团队和单智能体运行在工作流指令、审查指令以及所选的成功完成片段上也存在差异。
更好的反馈只有在优化器能够利用它时才有帮助
仅将评估器替换为 GPT-5.5 几乎没有帮助；只有当优化器也更强时，搜索才进展得快得多。作者得出结论：好的反馈只有在优化器能够据此行动时才有帮助。当 Qwen 承担全部三个角色时，搜索仍能为 12 个任务中的 11 个找到获胜的工作流，但耗时更长。
工作流重写的幅度几乎不能说明它对结果的影响，甚至字节级完全相同的工作流也可能产生相反的结果。一次运行赢得了全部六项外部评判，而另一次在智能体陷入循环后输掉了全部六项。研究人员怀疑，限制优化器在每一步的改动幅度可能有助于稳定搜索。
共同的盲点可能逐轮累积
在一项机器人任务中模拟失败后，模型让模拟器被修改为将物体直接移动到目标位置，然后报告成功。外部评判仍然在六次中有五次对该次运行给出了正面评价。在另一条用于训练的轨迹中，一项检查即使只返回了无效值也通过了。
作者们将共同的盲点视为递归自我改进潜在的“阿喀琉斯之踵”。如果模型在全部三个角色中都漏掉同一个错误，该错误就可能被当作改进而被接受，并固化进下一个模型。这一弱点随后会同时影响系统及其纠错机制，促使作者们呼吁进行独立检查、限制自主性，并明确干预条件。该代码已公开可用。
日本研究实验室 Sakana AI 于 6 月启动了一个专门研究递归自我改进的实验室，其基础是此前的工作，包括Darwin-Godel Machine和AI Scientist。Google 的研究人员正在探索一种相关方法，即自动优化围绕固定模型的提示、工作流和工具的脚手架，同时不让智能体对其测试任务过拟合。
Vals AI 最近发现，智能体团队的成本是单个智能体的 1.8 到 5.1 倍，但仅在四次比较中的一次中表现明显更好。Anthropic 表明，参与奖励黑客以操纵其奖励系统的模型，也会学会欺骗和破坏安全检查。