Retell 用 OpenAI 模型支撑每月 1 亿通电话

Retell AI⁠（在新窗口中打开）是一个面向联络中心运营的语音 AI 平台，帮助企业构建能够回答问题、执行操作，并在需要时将呼叫者转接给真人的智能体。其平台目前服务超过 4,000 家企业，月度通话量从 2026 年初的 3,000 万增长到 9 月的超过 1 亿。

随着 Retell 为更多拥有复杂工作流的企业提供服务，它使用 OpenAI 模型来保持高通话质量和可靠性。如今，Retell 上 80% 的通话由 OpenAI 模型生成回复，客户的问题解决率超过 80%。Retell 在 OpenAI 模型上消耗的 token 总量也已突破 1 万亿，反映出这一采用的规模。

Retell 的工程师在整个开发过程中使用 Codex，从研究不熟悉的代码到构建功能和调试问题，并使用 GPT‑6 Astra 测试前端界面。

企业语音智能体需要遵循公司政策，并在对话变化时仍保持在分配给自己的角色范围内。Retell 构建了 vCX 基准测试，使用来自真实生产场景的困难多轮对话来比较数十个模型。

它测试模型遵循指令、基于给定信息作答、调用正确工具以及使用自然对话语言的能力。在 Retell 2026 年 10 月 13 日的基准测试中，GPT‑6 Astra 以 89.7% 的指令遵循率排名第一。

Retell 还分享了 GPT‑6 Astra 模型发布前进行的评估，结果显示 GPT‑5.5 在启用推理时，在非幻觉率（88.0%）和工具调用正确性（88.3%）两项指标上均排名最高，在这两项指标上都优于 Gemini‑3.1‑Pro 和 Claude‑4.6。在关闭推理时，它也在非幻觉率上领先。

Retell 表示，选择 OpenAI 模型的新客户会继续使用这些模型。客户还可以通过 Realtime API 使用 OpenAI Realtime 模型，并将 OpenAI 文本转语音作为语音引擎。Retell 会在 OpenAI 新模型发布当天就提供这些模型，并随着模型改进重新运行其基准测试。

联络中心团队使用 Retell 来定义其智能体的业务背景、目标和规则。开发者可以进一步配置工作流和集成。

在通话过程中，Retell 的运行框架负责运行音频模型、跟踪对话，并管理智能体何时说话、何时倾听或何时响应打断。OpenAI 模型，包括 GPT‑6.1 Sol、GPT‑6 Astra 和 GPT‑5.5，会利用客户的指令和对话上下文来生成回复并发起工具调用请求。Retell 通过与客户系统的集成来执行这些调用，并可将结果写回客户记录。

当需要人工判断时，语音智能体会向人工代表简要说明背景情况，回答他们的后续问题，并在确认他们准备就绪后再接通客户。通话结束后，Retell 使用 GPT‑5.6 Terra 分析转录文本并提取结果及其他数据。

通过这种方式，Retell 报告其客户解决率超过 80%。在电子产品公司 Anker，智能体负责美国和英国的 Tier‑1 售后支持，包括订单跟踪、保修查询和故障排查。Anker 报告其案例解决率为 80.4%，净推荐值（NPS）为 63。其团队还表示，智能体的语气、节奏和亲和力达到了他们对人工坐席所期望的标准。

在 Pine Park Health，Retell 智能体负责预约提醒和主动排程，并将结果记录到患者的病历中。该团队节省了相当于 2.1 个全职岗位的医疗助理时间，并将其重新投入到患者护理中。其排程智能体在联系到患者时的预约成功率为 55.7%。

Retell 平台上的日间流量可达夜间低谷的 50 倍以上。为了在需求高峰时也能保持通话响应迅速，Retell 使用了与 OpenAI 共享的专用服务器，这些服务器在其客户之间共享。在 Retell 于 2026 年 10 月 13 日进行的基准测试中，GPT‑6 Astra 和 GPT‑6 Sol 的首句延迟中位数均为 883 毫秒，而 GPT‑5.6 Luna 以 497 毫秒位居最高。

OpenAI 的区域 API 端点允许开发者将流量路由到特定的地理区域，这帮助 Retell 减少网络传输时间，并满足医疗健康和金融服务等行业客户的数据驻留要求。

Retell 还在服务的每一层都构建了冗余。它运行自己的电话通信栈，并备有第二套栈随时接管，同时为语音和模型服务提供备份，以帮助在服务故障时保持通话运行。

随着 Retell 的企业业务增长带来更多对自定义工作流和集成的需求，其工程师经常需要在不熟悉的代码库部分工作。在编写代码之前，他们向 Codex 提出高层次需求。Codex 会浏览代码，对照实际数据进行检查，并解释需要更改什么。一位工程师表示，Codex 在这项研究上做得比他更好，而且快得多。

在实现过程中，工程师们表示 Codex 经常能捕捉到他们未曾考虑到的细节。在调试方面，Codex 会将日志和数据库记录与代码交叉比对，以调查正在发生的情况。Retell 的工程师还在与基于 OpenAI 模型构建应用的客户合作时使用 Codex，以加速诸如编写指导模型在客户应用中如何响应的指令等任务。

为了测试其 Web 界面的更改，Retell 依赖 GPT‑6 Astra 的计算机使用能力。当工程师打开一个前端拉取请求时，GPT‑6 Astra 会打开界面，点击浏览，测试流程，尝试破坏它们，并报告发现的问题。Retell 表示，早期的模型无法可靠地完成这项工作。

Retell 继续招聘，但其工程团队的规模无需以与业务相同的速度增长。Retell 报告称，每位员工的年化收入运行率为 160 万美元。

每家企业都清楚自己想如何服务客户。Retell 的目标是让最贴近这项工作的人直接运用自己的专业知识，借助先进的语音 AI 和一个让他们能够构建、测试并改进自有智能体的平台。接下来，Retell 计划扩展质量保证与模拟能力、支持更多语言，并开发知识库自动学习功能。

随着 OpenAI 模型持续进步，Retell 期望其客户能够按照自己的方式，为数百万来电者提供世界级的服务。

“没有人比企业本身更了解自己的客户。我们赋予他们基于这种专业知识采取行动、直接改进 AI 智能体的能力。目标是让他们组建一支由内部部署工程师组成的团队，由他们自己拥有并运营这一切，”Bing 说道。