OpenAI 开放 Decisions API,决策模型市场竞争升温
OpenAI 于周四向所有客户开放 Decisions API,该模型基于 ChatGPT Luna 重新配置以提升推理速度、降低成本,并非专门训练的决策模型。产品负责人 Nikunj Handa 称延迟从 1-3 秒降至 100-180 毫秒,并新增语音和视觉模态。该 API 于 9 月 29 日开发者日发布。客户 Box、Datadog、Ramp、Speak 已用它替换 LLM 提升吞吐,Speak 称操作间隔从 1.4 秒降至 0.13 秒。该市场由 TypeSafe 的 Jev 模型开创,TypeSafe …
推荐理由做 Agent 或分类工作流的开发者可关注:延迟降到 100-180 毫秒、成本低于 LLM,且已可直接调用。