想想你是如何与一位新员工共事的。在他们入职的第一周,你会给他们一些范围明确的小任务,比如分诊一个 bug 报告或更新一份文档。很快你就会给他们更大的任务,最终你会交给他们一个宏大的目标,让他们自己想办法去攻克。他们仍然会带着澄清性的问题或评审请求来找你,只是随着时间推移频率越来越低。

智能体已经足够出色,你可以用同样的方式让它们上手,而且就像优秀的新员工一样,它们正在变成主动的问题解决者。像 Muse、Instinct 和 OpenAI 的dots让主动型智能体流行起来,它们在后台运行,朝着更大的目标推进,而不是等待提示。Hone说得最直接,将其 Engines 描述为“被分配目标而非任务”的 AI。目标让这些智能体能够承担需要数天或数周才能完成的更难问题。

主动型智能体在不确定你想要什么时仍会向你确认,或在某件事发出前需要你的批准。当你的直接下属在工作中变得非常出色时,你可能会发现自己成了瓶颈,智能体也是如此。随着它们承担更多目标,你的注意力成为稀缺资源。我们认为,要构建能善用这种注意力的主动型智能体,有两件事至关重要:记忆和用户体验。

主动型智能体

主动型智能体会对其环境中的事件做出响应,这些事件来自三个地方:

  • 现实世界事件,比如一封新邮件或一个新打开的拉取请求。
  • 开发者设定的时间表,比如更新智能体记忆的夜间任务,或每周清扫陈旧拉取请求的任务。
  • 智能体设定的时间表,比如提醒明天跟进某个讨论串,或用户要求的每日简报。

Proactive agent triggers: real-world events like a new email or an opened pull request, developer schedules like a nightly memory update or a weekly stale pull request sweep, and agent schedules like a follow-up tomorrow or a daily brief a user asked for

文中贯穿的示例来自我们在内部于 LangChain 运行的两个主动型智能体:

  • GTM Agent,我们的销售智能体,监视新线索和回复,发送每日简报,并起草外发邮件。
  • Robin(前身为 Open SWE),我们的工程智能体,起草拉取请求并评审每一个新的拉取请求。

这些智能体对全部三种触发类型都会运作。举几个例子:Robin 的评审始于一个现实世界事件——一个新打开的拉取请求,而 GTM Agent 的每日简报按时间表运行它在用户提出请求后自行创建。我们把两个智能体都构建在托管式深度智能体(Managed Deep Agents)之上,如今超过 70% 的运行来自定时调度而非临时的人工提示。

主动型智能体会自行决定何时来找你,而每一次主动联系都会消耗你的一些注意力。它必须做到主动而不惹人烦。对于一个监控你收件箱的高管助理智能体来说,这意味着要标记老板关于明天发布会的消息,同时又不标记每一份新闻简报。智能体只有知道什么对你重要,才能区分这两者,而这种认知来自记忆。

记忆让智能体随时间变得更好

记忆是智能体随时间学到的信息。当主动型智能体因定时调度或某个事件而醒来时,并没有你发出的提示告诉它你想要什么。它可以通过连接器(比如你的收件箱或日历)拉取最新上下文,但它学到的关于你偏好的信息来自记忆。记忆也是它把工作做得更好的方式,而这项工作的一大部分就是判断什么值得来打扰你。

记忆从何而来

智能体的记忆来自三类信号,每一类对应不同的时间点。我们继续以高管助理为例。它的目标是让你的收件箱保持可控,因此当新邮件到来时,它会起草回复并标记出需要你处理的邮件。

  • 种子(过去):先例和已有上下文。你可以在首次运行之前就为记忆播种,例如从你的已发送文件夹中提取,这样助理一开始就知道你如何写作、与谁共事。
  • 反馈(现在):你对智能体所提建议的回应。当你改写一份草稿或给出理由拒绝它时,智能体会更了解你的表达风格。
  • 结果(未来):智能体行动之后发生了什么。当它起草的邮件收到回复时,智能体就学到了什么做法有效。

The memory lifecycle: a seed fills the memory files, the agent proposes, you give feedback, the agent acts, outcomes follow, and dreaming, a background job, writes feedback and outcomes back into memory

维护记忆很难

存储记忆是容易的部分,因为记忆往往简单到只是一个文件。随着记忆增长而保持其有用性则更难,因为智能体会依据它记住的任何内容行事。由此会出现三个问题:

  • 显著性:判断什么值得保存,以及每条信息有多重要。
  • 过期:知道信息何时过时,比如一个已经过去的发布日期。
  • 重复:将新信息合并到已存储的内容中,而不是保存第二份副本,以免之后与第一份产生矛盾。

许多主动型智能体通过“做梦”来处理这一点,即一个定时的后台任务,会通读智能体近期的轨迹并更新其记忆在下一次运行之前。

另一个难点是判断记忆是否真的有帮助。一种方法是挑选出一个设计良好的记忆系统应当改善的结果,并跟踪它们。对于行政助理来说,这可能是它的草稿需要多长时间才能获得批准,或者它发出的邮件获得回复的频率。对于任何主动型智能体来说,你实际对其主动联系采取行动的比例也值得关注。

记忆赋能自主性

最好的新员工是可培养的。他们乐于接受反馈,并能快速攀升陡峭的学习曲线,因此很快就不再重复你已经纠正过的错误。一位导师曾告诉我,你可以通过能放心让一名员工从你手中接走多少重要工作,来判断他的价值。

智能体也是如此,而记忆正是建立信任的关键。一个能记住你反馈的智能体不会再犯同样的错误,这为它赢得更多自主权,也让它在你不在环内时更有用。对于行政助理来说,这可能意味着一旦你不再修改它提议的时间,就可以让它自行预订会议。

主动型智能体的用户体验设计

主动型智能体会在未被要求的情况下主动联系,通常是提出一个待回答的问题或一个待批准的操作。它如何呈现这些内容,决定了你是会与它互动还是将其静音。对于我们的内部智能体来说,有三件事最为重要。

高信噪比

智能体应当只呈现有价值的内容。一封新邮件到达并不一定意味着智能体应当对它采取任何行动。GTM Agent 的审核界面会将对话分为等待你处理的、需要起草回复的,以及完全不需要回复的。

Slack 线程也需要同样的判断。一个智能体在你与同事交谈时突然插话是很烦人的,因此在 Robin 中我们使用Jev作为判断何时应该加入对话的决策模型。这让 Robin 可以观察对话,在有内容可补充时参与,而不是强行插入,或只在有人记得 @ 它时才行动。

Agent action matrix: acting on something worth acting on is a useful action, not acting when nothing matters is useful silence, acting on what does not matter is noise, and not acting on what does is a missed opportunity

为评审而构建

每次签到都应该能快速评审,因为评审正是你的反馈回流到记忆中的方式。这种反馈让智能体习得你的品味和判断力,而对于开放式工作,这往往是它能获得的最重要上下文,且很少被写下来。你愿意合作的智能体也会获得更多这样的反馈。目标工程也表达了同样的观点:

你会希望让智能体的目标与人类最容易评审的方式对齐。这让你能打造令人愉悦的评审体验,尽可能提取更多信息,并让智能体持续学习,从而随着时间推移变得越来越有用、越来越自主。

GTM Agent 负责起草外发邮件,而在 Slack 中处理积压的邮件很慢,所以我们为它构建了自定义 UI:

GTM Agent review UI showing a conversation list and an email thread with Waiting on you, Draft reply, and No reply needed controls

在你已经工作的地方

我们的智能体生活在Slack中,你可以在那里私信它们或在频道里 @ 它们,队友也能看到其他人如何使用它们。定时工作也会出现在那里。一旦你在某个线程中调用智能体,它就能自行安排后续跟进,并把报告发回该线程。GTM Agent 的每日简报会以 Slack 消息的形式,出现在你正在进行的对话旁边,而不是在一个你得记得去查看的独立仪表盘里。我们把这些帖子保持简短,方便阅读。

同样,Robin 以一两句话的标题开头,把细节放在线程回复里,这样你一眼就能看出是否有事需要你处理。当 Robin 发起拉取请求时,它会在 Slack 中请求评审,附上一行摘要、变更规模,以及一个认领按钮。

Robin asking for a pull request review in Slack, with a one-line summary, the size of the change, and buttons to claim or dismiss the review

主动型智能体时代

过去三年,构建智能体一直是一项上下文工程的练习:在正确的时间、为任务提供正确的上下文。别被误导:面向模型的上下文工程依然重要。但现在我们也有了其他有趣的挑战!

在这个主动智能体时代,我们面临的新挑战是为人类实践同样的纪律:以正确的格式、在正确的时间、为目标提供正确的上下文。人类的上下文窗口同样是有限的,能投入的时间和注意力也只有那么多。当记忆与 UX 协同工作时,智能体的主动询问会随时间变得更精准、更不频繁,就像一位可培养的新员工那样。

你现在就可以用以下方式构建主动智能体:托管版 Deep Agents,它支持定时调度、记忆,以及异步子智能体。若想直接在开源框架上构建,请从记忆和异步子智能体入手,参见Deep Agents,它们在JavaScript中的工作方式相同。

资源