随着智能体变得越来越强大,我们正从给它们分配任务转向给它们设定目标。

任务是:

  • 写这封邮件
  • 起草这篇博客
  • 修复这个 bug

目标是:

  • ‍在保持重要承诺正常推进的同时,减轻我的协调负担‍
  • 维护一个博客
  • 让这个产品成功

在底层,这种从任务到目标的转变包含两个更实际的转变:

  • 从指定一个动作到指定一个结果
  • 从一项有边界的任务到一项持续的责任

这改变了智能体做什么、需要什么、如何构建,以及我们如何与它交互。

智能体选择任务

以前,用户会指定任务。现在,用户指定一个目标,智能体通过将其拆解为任务、执行其中一些、更新任务列表等方式,朝着该目标迭代。

智能体需要擅长头脑风暴并选择不同的任务,这需要新的上下文工程和提示策略。它在头脑风暴潜在任务时需要有一定的创造力——并且要多样化(如果它一遍又一遍地建议相同的任务,那就不太好了)。

实际考虑:你需要某种方式来查看智能体正在执行哪些任务(例如一个待办事项列表),同时还要通过提示让智能体在构思任务时富有创造力

工具调用则远不那么明确

当你给智能体一个任务时,你大致知道它会调用哪些工具。当你给它一个目标时——你并不真正知道它会调用哪些工具,甚至可能不知道它需要调用哪些工具。

例如

  • 如果你让智能体发送一封邮件(任务),你知道它需要 gmail 工具,也许还需要日历工具。
  • 如果你让智能体在保持重要承诺正常推进的同时,减轻我的协调负担(目标),你不知道它何时需要邮件、短信、搜索工具、浏览器工具,或者可能是其他工具。

实际考虑:你需要对智能体可以或不可以调用哪些工具拥有更多控制

收件箱来提问

当你给智能体一个任务时,你自然会处于循环之中。如果你没有预先提供所有信息,智能体很容易在聊天中提出后续问题。

当你给智能体一个目标时——它可能在后台运行,需要就某些点获得澄清。它需要一种向人类提问的方式——无论是通过 Slack 还是专门的 UI。

实际考虑:你需要一种机制,让后台智能体向你请求澄清

获取反馈的方式

智能体在朝目标推进的过程中需要知道自己的表现如何。这可以通过检查某个指标看它是否在改善,或者通过从人类那里获得关于其表现的明确反馈来实现。在某种意义上,与指标绑定得越紧密越好(它很容易自动追踪!),但盲目优化指标从来都不明智,所以明确的人类反馈可能是最好的方式。这就是为什么以易于给出反馈的方式来设计目标很重要。

你可以既为智能体设置驱动它前进的指标,又提供一种从用户那里获取反馈的方式。定义智能体将如何评估进展,并给人们一种方式来纠正它对成功的解读。

实际考虑:你需要以与反馈相一致的方式来设计目标,并建立一种让智能体获得反馈的机制

持续进行的工作需要触发器(以及停止规则)

当你给智能体任务时,它们会一直运行到任务完成。

当你给它们一个目标时,它们需要在后台工作。它们并非一直在运行——它们会在某些时刻醒来做一些工作。它们如何醒来?

我们看到的一些方法:

  • 每 X 分钟一次心跳
  • 周期性 cron
  • 一次性 cron(提醒)
  • 监听事件流

话虽如此,它也需要一种方式来停止、暂停或忽略这些触发器。如果它每三十分钟收到一次心跳,每次都向你推送同一个问题——那体验糟糕透顶。

持续的责任并不意味着智能体应该总能找到事情做。有时候什么都不做才是正确的行动。

实际考虑:你需要 cron 和事件触发器来唤醒智能体,并通过提示让它决定何时行动。

记忆让反馈得以累积

虽然记忆听起来很酷,过去几年也激发了开发者的想象力,但在现实中,在以任务为中心的世界里,它并没有那么必要(除非你在反复做同一个任务)。

对于单个任务,用户可以每次提供相关的上下文。当你把一项持续性的职责委派出去时,更多的负担就转移到了智能体身上。它需要延续之前的决策和反馈,而不需要你重复它们。

例如:拒绝一个博客选题应该影响未来的选题,而不仅仅是当前的草稿。

实际考虑:智能体需要在多次运行之间保留并使用相关的决策和反馈。

结论

给智能体一个目标,并不只是给它一个更大的提示词。你是在委派关于做什么工作以及何时做的决策。你的角色从指定每一项任务,转变为设定方向、界定边界和审查进展。