Perplexity 推出了 Perplexity Orchestrator API,这是一个用于前沿模型和开源权重模型的单一端点。它根据可用性、容量和延迟选择服务提供商,并通过 1 个账户结算所有费用。开发者需要集成的服务更少,只需 1 张账单。

什么是 Perplexity Orchestrator API?

Perplexity Orchestrator API 是一个托管推理网关,在 1 个基础 URL 后提供多种模型。它涵盖来自 OpenAI、Anthropic、Google 和 xAI 的前沿模型。它还提供由 Perplexity 或推理合作伙伴托管的开源权重模型,例如 GLM、Kimi 和 DeepSeek。

它接受 OpenAI Chat Completions、OpenAI Responses 和 Anthropic Messages 请求。大多数团队只需更改 API 密钥和基础 URL。OpenAI 基础 URL 为 https://api.perplexity.ai/orchestrator/v1。Anthropic SDK 用户应指向 https://api.perplexity.ai/orchestrator,不带 /v1。

Perplexity 在内部运行同一层,覆盖 85+ 个模型和十多个提供商。

提供商故障转移如何工作?

故障转移保持模型固定,并切换部署。在 Anthropic 上失败的 Claude 请求可以由 AWS Bedrock 改为服务。可靠性文档规定了这些规则:

触发条件包括提供商错误、速率限制和超时。

每次尝试都有首 token 时间限制和总时长限制。具体数值未公布。

无效或超出上下文的请求返回 HTTP 400,并且不会重试。

如果所有部署都失败,API 返回 HTTP 429 并附带 Retry-After。

在产生输出之前失败的请求不计费。

你无法自行选择部署。

可靠性和速度数据说明了什么?

Perplexity 测量了 2026 年 10 月 4 日至 11 月 2 日的生产流量。通过 Perplexity 的 Claude 和 GPT 请求的成功率高于所测量的任何单一提供商的请求。在提供商发生故障期间,每日成功率的波动也更小。该文章未给出成功率百分比。

速度也因提供商而异。对于 Claude Opus 5.5,Anthropic 在 30 天中的 15 天最快,AWS Bedrock 在 15 天最快。Azure 上 GPT-5.6 Sol 的输出速度中位数比 OpenAI 高 27%。速度感知路由仍在进行中。

使用 perplexity/auto 的自动路由如何工作?

路由功能处于预览阶段。你将 model 设为 perplexity/auto 并传入一个 routing 对象。该对象包含一个 default_model 和 1 到 5 条路由,每条路由都有名称、描述和模型。

一个决策模型会读取对话和路由描述。它始终看不到路由名称或模型 ID。如果没有匹配项,或者决策模型失败或超时,则由默认模型作答。媒体输入也是如此。

响应头会报告结果:x-perplexity-autoroute-outcome、-route 和 -confidence。默认策略将流量发送到 GPT-6.1 Sol,简单请求则发往 GPT-6 Luna。Perplexity 还列出了内置的 Lower cost、Balanced 和 Higher quality 配置,以及一个 Auto effort 预览。

路由能绕过拒答吗?

Perplexity 在 Claude Code 中运行的 Terminal-Bench 4.1 的 63 项任务子集上测试了这一点。Anthropic 的文档指出,Claude Fable 5.2 的防护机制可能会阻止良性的安全和生命科学工作。

仅 Claude Fable 5.2:38/63 项任务。

Fable 加上路由到 GPT-6.1 Sol:41/63。

Fable 加上路由到 GPT-6 Astra:41/63。

这些路由覆盖了安全、生物学和 after_refusal 请求。即 +3 项任务,但每项任务的估计成本更高。Perplexity 称其为调整后的比较;结果因工作负载而异。

Orchestrator 如何定价?

每个请求按作答模型公布的每 token 费率计费。故障转移到其他提供商不会改变费率。Perplexity 表示,在 credits 之外不收取额外的平台费用。

例如,perplexity/glm-5.3 列出每 100 万 token 输入 $1.4、输出 $4.4、缓存读取 $0.26。用量从预付的 Perplexity API credits 中扣除,也可通过 AWS Marketplace 购买。

访问权限按累计 credit 购买额分级:

Tier 0:Google、xAI 和开源权重模型。

Tier 1($50):OpenAI 和大多数 Anthropic 模型。

Tier 2($250):Claude Opus 5、Opus 5.5 和 Fable 系列模型。

它与 OpenRouter 和 Vercel AI Gateway 相比如何?

功能Perplexity OrchestratorOpenRouterVercel AI Gateway模型目录前沿模型(OpenAI、Anthropic、Google、xAI)加上开源权重模型 GLM、Kimi、DeepSeek;数量未披露(博客)400+ 个模型,70+ 个提供商(来源)400+ 个模型(来源)API 格式Chat Completions、Responses、Anthropic Messages(文档)Chat Completions、Responses、Anthropic Messages(文档)Chat Completions、Responses、Anthropic Messages(文档)平台费用额度不收取额外平台费用(博客)购买额度收取 5.5%(Standard)、8%(Business)(定价)无平台费用,无 token 加价(定价)Token 定价按应答模型公布的价格(FAQ)按提供商价格透传(FAQ)按提供商标价(文档)同模型提供商故障转移支持,自动(文档)支持,自动回退(来源)支持,自动(更新日志)基于提示词的自动路由perplexity/auto,预览版,1 到 5 条路由(文档)openrouter/auto,无路由费用(文档)未披露自带密钥不支持(FAQ)支持,超出额度部分收取 5% 费用(FAQ)支持,无加价(文档)

要点

1 个端点覆盖 OpenAI、Anthropic、Google、xAI 和开源权重模型。

跨提供商的同模型故障转移,按相同费率计费。

perplexity/auto 根据自然语言描述进行路由,处于预览阶段。

拒绝路由:Terminal-Bench 4.1 上从 38/63 提升到 41/63,为自报数据。

查看发布文章、技术博客、快速入门、模型目录和路由文档。你可以通过我们的 GPULeaderboard.com Chrome 扩展在此查看部署选项和规格。

另外,欢迎在 Twitter 上关注我们,别忘了加入我们 150k+ 的 ML SubReddit 并订阅我们的新闻通讯。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。

需要与我们合作推广你的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等?联系我们

文章 Perplexity Launches Orchestrator API for Failover and Model Routing 首发于 MarkTechPost。