该项目专注于开发一个名为 Atria Dawn Preview 的智能体语言模型,基于混合专家架构构建,拥有 7440 亿参数,专为研究和工程任务设计。
该模型通过一条将每项任务与真实执行环境相绑定的流水线进行训练。它会调用工具、生成中间结果,并根据测试、指标或源证据等外部信号接受检查。团队表示,它在 16 项基准测试中的 5 项上领先,包括网络搜索和网络安全,但整体上并未超越竞争对手。

三分之一的已完成 AI 辅助任务在没有 AI 的情况下根本不会被尝试
在受审查的任务中,96.5% 使用了 AI。在项目过程中,参与者越来越多地将工作交给智能体。智能体操作与人类输入的比值中位数在四周内从 11 上升到 28.5。团队提醒不要将此解读为自主性增强。每个人类决策带来了更多智能体步骤,这并不意味着智能体自己在做更多决策。

参与者还被问及,在相同的范围和质量下,他们是否能在没有 AI 的情况下完成自己那部分任务。在 455 项已完成的 AI 辅助任务中,有 151 项被评为没有 AI 则无法完成,约占三分之一。这些任务分布在 56 名参与者中的 27 人身上,因此并非仅来自少数重度用户。在这些情况下,AI 并未加速现有工作。它让原本永远不会启动的工作成为可能。

AI 提议,人类选择
在方法和参数方面,最常见的模式是“AI 提议,人类选择”,占 55.4%。总体而言,人类做出了 85.5% 关于方法和参数的决策,而 AI 仅占 9.2%。在 93.4% 的情况下,人类对目标和范围做出了最终决定。
AI 在提案中的占比因决策类型不同而在 17% 到 55% 之间浮动。它在最终决策中的占比则保持在个位数。提出选项的主体差异很大,但人类始终做出了大部分最终选择。即使在 151 项被评定为没有 AI 就无法完成的任务中,人类也有 95.4% 的情况下选择了目标。

人类提供的是上下文,而非体力劳动
当事情出错时,同样的模式也会出现。在 588 项记录了困难的任务中,76% 通过人类介入得以推进,23% 由智能体自行解决了问题。人类的帮助几乎总是以信息的形式出现,要么是补充上下文或澄清需求(35.2%),要么是诊断问题并切换方法(34.7%)。人类很少亲自完成工作。部分编辑占 3.2% 的情况,完全接管仅占 0.7%。

当 AI 的输出需要修改时,在收到人类反馈后,AI 有 75.4% 的情况下自行完成了修改。瓶颈在于人类的判断,而非执行。
该团队将 AI 的角色描述为三个阶段,从研究对象到个人任务的工具,再到如今的项目伙伴。在当前这一角色中,AI 在人类设定的目标内起草并调整计划。一个推测性的第四阶段将涉及递归式自我改进,即更强的模型产生更强的后继者。

作者表示,一个模型可以在其训练任务上有所提升,却不会因此更擅长开发自己的后继者。AI 如何能提出多样的研究方向,并在结果尚不可知时评估其价值,仍是一个未解的问题。
橡皮图章式的风险
当每一个决策都依赖于比任何人类所能审查的更长的智能体工作链时,监督就变得困难。在最坏的情况下,人类会变成只能对自己所见盖章放行的审查者,该团队写道。许多参与者还以自主模式运行智能体,以避免因不断审批而打断长时间运行。这条边界是出于便利而划定的,并非出于对 AI 应拥有多少权限的任何深思熟虑的选择。
这篇论文恰好落在关于递归自我改进的争论之中。Anthropic 认为,一种能开发自身继任者的 AI可能比预期更早出现,因此 CEO Dario Amodei 呼吁为整个行业设定速度上限。据 Anthropic 称,目前人类在该公司的研究方向决策中仅占个位数百分比。OpenAI 在其整个开发周期中使用 GPT-5.6 Sol,而 Google 和 DeepMind 则让 AI 智能体通过记录下来的搜索轨迹探索替代策略,借助 Dream-RSI,不过它们只改进搜索策略,而非模型本身。
领先 AI 公司的一千多名员工最近警告称,他们所在的组织可能正处于自动化 AI 研究的边缘。另一项来自普林斯顿大学和英国 AI 安全研究所的研究得出了与 Atria 团队发现更为一致的结论,表明前沿模型能够处理研究工程,但在真正关键的判断决策上会失败。