这是我们系列内容的一部分,分享 OpenAI 如何在内部使用自身技术和 API 的内部示例。这些工具正在 OpenAI 内部使用,并在此作为前沿 AI 如何支持我们各团队用例的示例性案例分享。
Ultrafast 是 Codex 中的一种高速模式,对 OpenAI 的工程师来说,它已成为事件响应的默认选择。当出现故障时,工程师往往没有时间等待数分钟才得到答案,而问题却在不断累积。借助 Ultrafast,他们可以同时调查多个潜在原因,并在不分散注意力的情况下获得答案。
大海捞针
Aaron Friel 是 OpenAI 的技术团队成员,通常是事件响应的负责人。他会为事件响应创建一个 Slack 频道,然后把问题交给 Codex,让 Codex 监控、调查并随时回答提出的问题。“在任何一起事件中,出错的可能路径通常有很多环节,而在正确的大海捞中捞到正确的那根针,正是该频道里的人员的主要工作,”他说。“使用 Ultrafast,我基本上能够同时搜索所有这些大海,并更快地响应事件。”
AJ Trbojevic 是技术团队成员兼数据中心安全架构师,他表示,过去对安全问题的调查需要一到两个小时来汇集结构化和非结构化数据、对其进行规范化,并提供背景信息以做出决策。“现在这只需 10 到 15 分钟,”他说。“有时甚至接近实时。”
Adam Perry 和 Sayan Sisodiya 都在核心智能体团队工作,构建让 Codex 能够执行操作、运行命令和使用工具的代码。Ultrafast 改变了他们在安全事件期间的运作方式。“以前,我会让 Codex 去调查某件事,然后同时自己也去查,因为我知道光等着它不够快,”Adam 说。“现在有了 Ultrafast,Codex 足够快,我可以保持专注,而不必分散注意力。”
Sayan 很欣赏 Ultrafast 能让他从多个数据源即时获得答案:“除了在事故中翻查日志,我还会用 Codex 翻查 Slack,看看是否有提到可疑变更的内容,或者是否有其他人在 Slack 别处讨论类似症状,”他说。
30 秒内快速响应
如果让 AI 找答案需要超过 30 秒,另一位技术员工 Jeff Niu 说,他会去查 Slack 或找同事聊。但如今他的大部分工作用 Ultrafast 都能控制在这个阈值以内。以前他会向 Codex 提一个问题,趁它思考时切去做别的事,回来时已经忘了自己想到哪儿。现在这种对话是实时进行的,有助于他专注于手头的任务。
Ultrafast 也让 Jeff 更愿意处理大规模重构,因为改造现有代码花的时间更少了。“现在偿还技术债比以往任何时候都容易,”他说。“代码很便宜,而且现在产出非常快。过去代价高昂的重构,如今几乎瞬间就能完成。”
作为副驾驶工作
Adam 维护着一个持续运行的 Codex 线程,他称之为自己的幕僚长。每天早上它会告诉他有哪些会议,以及哪些消息他可能忘了回复。“它已经看过所有数据来写出那份摘要,所以当我追问时,它不需要再去获取更多信息,”他说。“我可以像对待真正的幕僚长一样,在同一个对话里不断提问。”
Sayan 用 Codex 在浏览器里做繁琐的手工活,比如填写表单——这类事他以前因为太慢而避之不及。“它会打开浏览器,在那儿想五秒钟,点一下,再想一会儿,”他说。随着最新模型在计算机使用方面的改进,他更放心让 Codex 处理这类工作了。“现在我完全愿意让它点着浏览器操作,而且它足够快,不会因为没自己动手而浪费时间。”
在事件响应、日常规划和重构中,Ultrafast 让 OpenAI 的技术人员能够以提问的节奏与 Codex 协作。他们可以追问一个答案、尝试另一种方法,并保持工作不中断思路。更短的等待时间也改变了他们愿意承担的工作,从原本一拖再拖的重构,到终于值得委派的日常任务。