在周二的OpenAI Dev Day 活动上,比较有意思的发布之一来自 CEO Sam Altman 的一段顺带提及,他公布了公司新的“Decisions API”。
该 API 显然提供了与Jev类似的功能,后者是TypeSafe AI 本月早些时候发布的一款模型,明确为软件自动化而设计。它是一种建立在 LLM 之上的超级分类器,开发者可以给 Jev 一组选项,让它以低成本、高速度输出概率。
OpenAI 的 Decisions API 似乎是同类产品。在活动上,Altman 将该 API 描述为一种方式,让该实验室的 Luna 模型在一组预定义选项之间进行选择,例如对图像进行分类的类别,或不同的智能体行为。
“通过让模型专注于那个选择,我们可以让它变得极其快速,同时保留图像理解、广泛语言支持和安全防护等能力,”Altman 说。
TypeSafe 没有回应 TechCrunch 关于这款新产品的提问,但 CEO Diogo Almeida——一位前 OpenAI 工程师、强化学习的共同发明者——在 X 上开玩笑说克隆人战争开始了。
他还补充说,OpenAI 的兴趣可能“是一个信号……表明以 System One 兼容的方式构建是未来。”(“System One”是 TypeSafe 的术语,指快速、直觉式的思考,相对于它用来指代审慎推理的“System 2”。)
这里的潜台词是,我们所熟知的 LLM 对很多软件来说并不是正确的解决方案,因为它们相对较慢且昂贵。开发者一直在使用 Jev 来增强 LLM,并因此发现它们更快、更便宜。
目前尚不清楚 Decisions API 与 Jev 会有多相似,因为 OpenAI 是将其作为有限预览版发布的,而且到目前为止,TechCrunch 还没有发现开发者在对其进行测试。不过,根据 X 上的讨论,显然存在兴趣。
Decisions API 并不是互联网上唯一类似 Jev 的 API——其他初创公司也在推出类似模型;OpenAI 不会是最后一家推出此类产品的科技巨头。一个关键问题是,这些决策模型各自的输出与现实生活的校准程度会有多好。
Almeida 表示,他公司的护城河在于其生成的合成数据,这些数据能产生具有统计意义的输出。
“又快又便宜非常容易,你知道的,”Almeida告诉 TechCrunch上周。“如果你想要真正又快又便宜,用骰子就行了,对吧?智能才是难的部分,而我的北极星始终是推动每美元智能的帕累托曲线。”
仅仅几周后,这些模型显然有着光明的未来,而一个可能的应用是监控和保护 AI 智能体。在一系列其智能体在开放互联网上行为不当的事件之后,OpenAI 采取的新安全措施之一,是使用一个单独的模型以“可观的算力成本”来监视不良行为。
Shapor Naghibzadeh 是一位长期从事网络安全的专业人士,领导着初创公司 QueryStory,他认为像 Jev 这样的模型能以低得多的成本实现这一点。
他构建了一个演示用于黑客松在上周末举行的活动中,该演示使用 Jev 将每个智能体操作与其被赋予的任务进行核对,阻止其高度确信为不良的操作,标记其他操作以供审查,并允许其余操作。
理论上,这样的监控本可以阻止 Hugging Face 事件——而使用 Jev 进行此类监控的成本为 2.94 美元,相比之下使用前沿 LLM 则为 372 美元。
一个关键观察是,Jev 可以说便宜到足以对每个智能体操作都运行,这提供了一层审查,可以整体上提高智能体的可靠性。这正是 TypeSafe 希望实现的目标——而现在 OpenAI 也看到了其价值。
当您通过我们文章中的链接购买时,我们可能会赚取一小笔佣金。这不会影响我们的编辑独立性。
Tim Fernholz 是一位撰写科技、金融和公共政策文章的记者。他密切报道了私营航天产业的崛起,并著有《火箭亿万富翁:埃隆·马斯克、杰夫·贝索斯和新太空竞赛》。此前,他曾在全球商业新闻网站 Quartz 担任高级记者十余年,并在华盛顿特区开始了其政治记者的职业生涯。 您可以通过发送电子邮件至 tim.fernholz@techcrunch.com 或通过 Signal 向 tim_fernholz.21 发送加密消息来联系 Tim 或核实其外联信息。