应用和智能体在整个工作流中会做出许多小决策:如何对输入进行分类、将请求路由到哪里,或接下来采取哪个动作。单独来看,它们都很简单。但在规模化场景下,它们的延迟和成本会累积起来。

今天,我们正式全面开放 Decisions API。它基于GPT‑6 Luna构建,Decisions API 将 Luna 的智能聚焦于答案有界的问题,帮助应用和智能体基于文本、图像和结构化输入做出近乎实时的决策,通过 Responses API 比 GPT‑6 Luna 快最多 10 倍。

自公开测试版以来,我们新增了原生 GPT‑Live 集成、针对复用上下文的提示缓存,以及美国和欧盟的推理驻留。开发者还可以传入原生 JSON 输入、在问题指令中包含图像,并且每次请求最多可提出 400 个问题,是此前上限的两倍。我们还持续改善延迟,包括在亚洲多个地区增加容量。

团队如何使用 Decisions API

Decisions 的早期采用已显示出其在多种用例中的适用性。

在 OpenAI 内部,各团队正在将 Decisions API 应用于产品和业务工作流。dots 团队用它来缩短响应时间并提升交互性。我们的个人财务团队用它来对交易描述进行分类,而我们的传播团队则用 Decisions 按主题对报道进行分类并评分,判断其是强化还是挑战关键叙事——帮助识别哪些内容值得进一步审查。

这些早期示例表明,快速、结构化的决策如何将传入的信息转化为广泛用例中的有用行动。客户对 Decisions API 的应用同样广泛,从准确归因 AI 成本到让语言学习体验更具交互性。

第 1 张,共 5 张

选择你的应用所需的决策类型

使用 Decisions API 很简单:开发者定义一个问题和其允许的答案,然后以文本、图像或原生 JSON 的形式提供上下文。该 API 返回三种受支持的答案类型之一——概率、选择或评分——应用程序可据此决定接下来发生什么。多样的答案类型使 Decisions 能够适用于广泛的使用场景。

Decisions API 支持三种答案类型:

类型

用于

主要结果

谓词

估计某个条件为真的概率,例如某个产品是否有可见损坏。

概率:该条件为真的 0 到 1 之间的估计值。

选择

从你预定义的选项中选择一个,例如智能体应当继续、重试还是请求澄清。

选择:你提供的值之一。响应中还包含概率和置信度。

评分

按照评分标准中的有序等级对输入进行评级,例如损坏的严重程度。

评分:各等级索引的概率加权平均值。

使用 Decisions API 和 GPT‑Live 构建实时语音体验

借助GPT‑Live,你可以为语音应用带来自然、富有表现力的对话,并具备流畅的打断处理能力,让对话保持连贯。Decisions API 现已与 GPT‑Live 原生集成⁠(在新窗口中打开),帮助应用在实时对话中做出快速、聚焦的决策。客服智能体可以决定是否提出澄清性问题、转接请求或升级问题。虚拟形象可以在用户对其说话时调整面部表情,并根据用户的话语以眨眼或微笑回应,从而创造更具互动性的体验。

下面的示例使用转录更新来选择虚拟形象的表情。将此配置添加到现有 GPT‑Live 会话中的session.triggers。

Live 会发出一个decision.event;应用程序读取所选的reaction并相应地驱动角色动画。了解更多关于将语音连接到 Decisions API 的信息。⁠(在新窗口中打开)

亲自试用 Decisions 与 GPT‑Live

表情面板

点击一张脸即可预览。

实时决策

观看 Decisions API 如何根据你们各自所说的话选择面部表情。

你的话语

说话时观看反应。

助手的话

在助手回复时观察面部表情。

试着说

我对着我的猫排练了试镜。她中途走开了。

此演示有时间限制。使用即表示你同意 OpenAI 的条款⁠并确认我们的隐私政策⁠。

构建并评估你的第一个决策

Decisions API 今日正式可用,通过专用的 Decisions 端点提供 GPT‑6 Luna。查看定价与可用性指南⁠(在新窗口中打开)了解当前费率和缓存详情。

从你的应用经常做出的一个重复性决策开始。定义问题、可能的答案,以及区分它们所需的上下文。在反映真实使用情况的示例上测试它,可在Decisions Playground⁠(在新窗口中打开)中使用你自己的文本或图像,或按照开发者指南⁠(在新窗口中打开)发出你的第一个请求。Decisions API 每百万输入 token 收费 $0.10。缓存输入每百万 token 收费 $0.01。关于 30 分钟和 12 小时的缓存写入,