GPT‑6 是我们迄今最先进的模型套件,为你提供适用于不同类型工作的多种模型选择。
无论你是要把一个想法变成可运行的原型、构建并测试某个功能,还是跨代码仓库、数据库和外部 API 编排多步骤工作流,本指南都会讲解如何选择 GPT‑6 模型、给它有效的指令、管理长时间运行的工作,并为生产环境做好准备。
TL;DR
在生产环境中高效运行。使用缓存(在新窗口中打开)和压缩(在新窗口中打开)来管理上下文和成本。衡量任务成功率和延迟,并规划监控和数据管控。
让模型匹配你的工作负载。通过选择模型、推理强度(在新窗口中打开)以及适合任务的速度,来平衡能力、成本和延迟。
调整你的提示词和技能。让提示词、技能和仓库指令在模型应交付什么、它能独立做什么以及什么算作完成这几点上保持一致。
让长时间运行的工作保持正轨。使用引导(在新窗口中打开)、异步工具(在新窗口中打开)和委派(在新窗口中打开)来处理更新和独立工作。为模型何时应请求输入设定清晰的边界。
1. 在生产环境中高效运行
为生产环境准备工作流
在部署之前,有几项检查和最佳实践是你需要落实的。
把效率放在心上。删减任务不需要的上下文(在新窗口中打开),同时保留它确实需要的证据。在你的应用支持的情况下,并行运行独立任务(在新窗口中打开),这样一个缓慢的步骤就不会拖住无关的工作。
通过提示词缓存(在新窗口中打开)为重复性工作复用共享上下文。缓存输入 token 的成本最高可降低95%(在新窗口中打开),具体取决于模型。把稳定的指令和参考材料放在变化的任务细节之前,并保持工具定义一致。缓存仪表盘(在新窗口中打开)和诊断指南(在新窗口中打开)能帮你看出这种复用在哪里失效。在估算完整工作流的成本时,要把缓存写入和任何长上下文费率都算进去。
对于较长的对话,压缩(在新窗口中打开)在保留继续所需状态的同时减小上下文大小。
决定你将如何监控行为(在新窗口中打开)并审查数据控制(在新窗口中打开)以用于你的应用。
部署前测试:运行代表性任务,并衡量任务成功率、延迟以及每个成功任务的成本。查看我们的API 部署清单(在新窗口中打开)。
让模型匹配工作负载
将模型选择和推理级别视为智能/价格的权衡。
模型:
GPT‑6 Astra(在新窗口中打开)用于需要最大智能的最难推理工作。
GPT‑6.1 Sol(在新窗口中打开)用于复杂编码、研究和计算机使用。
GPT‑6 Luna(在新窗口中打开)用于规模化地处理聚焦任务,以及目标明确的日常重复性工作,例如提取发票字段、对请求进行分类或生成结构化摘要。
在评估最适合任务的模型时,比较定价(在新窗口中打开)以了解每个模型。
推理级别:在 API 中,选择模型在该任务上投入多少精力。
低:常规任务,例如提取事实或进行小幅编辑。
中:需要判断力的工作,例如规划功能或比较选项。
高:困难的调试、更深入的分析或仔细审查。
超高 / 最高:在支持的情况下,当“高”不够用时进行测试,并且只有在改进足以证明增加的时间和成本合理时才保留。
在 Codex 中,先使用该模型的默认推理级别,然后对更简单的任务降低它,或对更深入的分析提高它。
速度:
在 API 中,当响应时间很重要时,例如在聊天应用或编码工具中,使用快速模式(在新窗口中打开)。与标准处理相比,它以更高的每 token 成本提供更快、更一致的响应时间。
在 Codex 和 API 中,当更快的响应值得支付溢价时,例如快速编码迭代,使用超快(在新窗口中打开)。它会独立于推理投入加速 token 生成。适用于 GPT‑6 Astra(在新窗口中打开)。
2. 调整你的提示词和技能
给模型一个清晰的任务
——Eric Provencher,OpenAI 开发者体验
从一个清晰的指派开始:你想要的结果、它面向谁、相关背景和约束,以及什么算作完成。然后审视以下四个领域,总结自为 GPT‑6 Astra 重新思考技能和提示词(在新窗口中打开),以深入了解如何更新你的指令:
创建更好的技能:让描述保持简短,并明确说明每个技能应在何时运行,仅在需要时加载支持性细节,并用适合你团队所用模型的指导取代僵化的固定流程。
更新你的 AGENTS.md:说明特定文档和测试在何时相关,并明确授权安全的常规工作流,例如使用一次性数据运行本地测试且不访问生产环境。
设定决策边界:说明哪些操作可以独立进行,哪些需要批准,用清晰的边界取代一刀切的“总是询问”规则。
对持久性做出明确规定:定义“完成”包含什么——实现变更、运行它、检查结果并修复失败——并指出任何需要你审查的决策。
定义你需要的输出
无论你是在 Codex 中工作还是用 API 构建,都要明确模型可以做出哪些决策、它应在何时请求输入,以及什么样的回复才算有用。
给模型足够的方向,让工作持续推进,而无需在重要决策上靠猜测。告诉它哪些选择它可以做,以及何时应征求你的输入(在新窗口中打开),例如,它可以自行选择如何组织摘要,但在改变项目范围之前应先与你确认。描述什么样的回复才算有用(在新窗口中打开),例如使用平实的语言、适合你受众的技术细节,以及一份简短交接,涵盖改了什么、检查了什么,以及还有什么仍需关注。
3. 优化长时间运行的任务
让复杂工作持续推进
借助 GPT‑6 系列模型,你现在可以承担跨越数小时或数天的任务。使用以下功能来更好地管理长时间运行任务中的智能体。
API
在 API 中,使用引导、异步工具和并行工作来让长时间运行的任务持续推进。
在运行过程中更新指令:轮次中途引导(在新窗口中打开)让你通过Responses WebSocket API(在新窗口中打开)在模型工作时发送修正。更新会排队;它们不会取消正在运行的工具或撤销已完成的操作。
在工具运行时继续工作:异步工具调用(在新窗口中打开)让模型在你的应用运行较慢的任务(例如测试)时继续独立工作。你的应用在结果准备好时返回它。在开始依赖该结果的工作之前先等待它。
委派独立子任务:GPT‑6.1 Sol 支持Responses API 中的多智能体工作流(在新窗口中打开)。它可以将独立工作分配给子智能体(例如调查代码库的不同部分),并将它们的发现合并为最终响应。多智能体目前处于 beta 阶段。
Codex
长时间运行的任务可能会暴露出你在初始提示中未必预料到的决策。使用澄清和引导让工作保持在正轨上。
在工作推进过程中回答问题:借助 GPT‑6 Astra,Codex 可以在工作时请求澄清(在新窗口中打开)。解决影响下一步的问题,并指明在你做决定期间哪些独立工作可以继续。如果你要离开,告诉 Codex 哪些任务可以继续,以及它应在何时暂停等待你的回答。
需求变化时重定向工作:引导当前任务(在新窗口中打开)加入新信息,说明什么应该改变、什么应该保持不变。这有助于避免在不再满足你需求的方案上花费更多时间。
利用计算机使用完成更多工作
计算机使用(在新窗口中打开)让 GPT‑6 Astra、GPT‑6.1 Sol 和 GPT‑6 Luna 直接与网站和桌面应用交互,甚至是那些没有 API 的应用。例如,你可以让模型调查一个 bug、修复代码,并在浏览器中打开你的产品以检查修复是否有效。
为每一步选择最简单可靠的方式:
当 API 或已连接的工具能直接完成工作时,就使用它。
当模型需要为你读取屏幕、点击按钮或填写表单时,使用计算机使用。
如果你要将计算机使用构建到自己的应用中,给模型一个可以运行代码来控制浏览器或桌面的工具。Playwright 适用于浏览器(在新窗口中打开);PyAutoGUI 适用于桌面应用。
从测试到生产:团队如何用 GPT‑6 Astra 构建
4 之 1