TL;DR:Meta 的 Muse、OpenAI 的 Dots 和 Uber 的司机助手共享同一个赌注:智能体先开口。这把难题从回答什么转移到了何时打断、在哪个渠道、以什么提议。经典机器学习和新的决策模型可以解决它。
三次发布,一个模式
Meta Muse(9 月 8 日)。一个个人智能体,可以预订、发邮件,并在应用关闭时继续工作。它会记住细节,主动提出建议,并请求批准,在它自己的应用和 WhatsApp 中均可使用。
OpenAI Dots(9 月 29 日)。始终在线的智能体,执行“主动研究”,对你的应用进行只读监控,以捕捉被遗忘的发票或 Slack 中的 bug。它们通过 ChatGPT、Slack 和 Teams 联系你,文本和语音即将推出。
Uber 的司机助手。它将实时市场信号转化为建议。在最近的一次演讲中,Uber 的产品团队描述了一位空闲 33 分钟的司机被指引到更好的区域,并附有证据。他们的原则是:始终“站在司机一边”,主动呈现机会,并衡量司机是否采取了行动。免提语音版本已于 9 月 24 日宣布。
从拉取到推送
聊天机器人是一种拉取界面:用户选择时机、渠道和问题。主动式智能体则将其反转。打断太频繁,用户就会把你静音。打断太晚,高峰已经过去,或者发票已经逾期。选错渠道,再好的消息也会失败。LLM 可以撰写消息;但用它来决定是否发送,是用错了工具。
规则:价值必须超过打断成本
每条主动消息都是一次下注。只有当它对用户的期望价值超过打断他们的成本时才发送。价值有四个部分:涉及多少利害,用户采取行动的可能性有多大,机会消失得有多快,以及这是谁的价值,用户的还是平台的。
价值随后决定这两个决策。高价值、即将过期的消息立即发送;一般的消息等待摘要;其余的永不发送。而且一条消息越有价值,它就越有资格使用更具侵入性的渠道。
“何时”和“如何”是预测问题
通知和增长团队多年来已经解决了这个问题的各种版本:
Uplift 模型估计某个提示是否会促成行动。
情境多臂老虎机(contextual bandits)为每个用户学习最佳时机和渠道。
接受度模型预测用户此刻能否参与:是在开车还是已停车,是在开会还是有空。
渠道都有准入门槛。应用内卡片成本很低,聊天成本更高,短信更高,而语音通话则留给紧急、双手忙碌的时刻。Uber 的结果追踪提供了这些模型所需的标签。
决策模型适用于何处
一类新的模型适合这项工作。诸如 TypeSafe 的 Jev 和 Supersonic Labs 的开源权重模型 Julia 1 这样的决策模型不返回文本,只返回一个带类型的判断:从短列表中选择一项、一个分数,或一个是/否,每项都带有概率。Julia 1 在 CPU 上运行,每次决策约 33 ms。
一个始终在线的智能体评估的触发条件远多于它发送的,因此每个候选在调用任何 LLM 之前都能得到廉价、结构化的问题:这值得打断吗?有多大价值,有多紧急?现在发送、等待、批量处理还是丢弃?卡片、聊天、短信还是语音?
这些限制很重要。这些模型只判断它们所获得的情境,因此它们不会学到某个用户会忽略早晨;
谨慎地进行交叉销售。
一个先开口的智能体是一个强大的分发渠道。Meta 表示它正在 Muse 中探索商业,并且已经推出了面向小型企业的 Muse;OpenAI 在推出新的每月 500 美元档位的同时发布了 Dots;Uber 有配送和其他服务要推广。但一个优惠不过是另一条消息。它必须达到同样的标准,以对用户的价值来衡量。一旦用户怀疑智能体是在推销而非服务,每一条消息都会失去可信度。
要点
这三家公司都拥有强大的模型。这场竞赛将取决于对注意力的判断:少说话,在正确的时刻、正确的地点,站在用户这一边。拥有多年通知数据的公司可能具有先发优势。
文章《Meta、OpenAI 和 Uber 刚刚教会 AI 智能体先开口。那何时该保持沉默呢?》首次发表于 MarkTechPost。