今天我们推出 Private Endpoints。OpenRouter 已经把你团队使用的公共模型统一到一个 API 之后。现在它也能服务于只有你团队才有的部署。如果你运行的是微调模型、公共模型的专属部署,或者你在某家提供商那里预留的容量,都可以通过 OpenRouter 与其他所有目录内容一起路由。你的团队可以继续使用今天所用的 API、模型 slug 和路由偏好。Private endpoints 仅在你的组织内部可见。

Private Endpoints 是 Enterprise 计划的一项附加功能。请联系你的客户代表为你的组织启用它,或者联系团队。

你可以用它做什么

微调模型和预留容量过去意味着要在 OpenRouter 之外再做一套集成。现在你把该部署注册为 private endpoint,并通过你已经在用的 API 调用它,公共提供商可作为可选的备份,以防它宕机或触及速率限制。只有你批准的组织才能看到它,它永远不会出现在公共模型列表、排名、搜索、图表或基准测试中。

如果你的组织有一个专属的 Azure 部署,例如DeepSeek V4 Pro,你可以把它注册为 private endpoint,用于deepseek/deepseek-v4-pro,你的应用继续调用那个 slug。对你的组织来说,它默认会移到提供商列表的最前面,并且Model Fallbacks、Provider Selection以及其他路由功能都像对任何提供商一样正常工作。OpenRouter 通过BYOK用你的 Azure 密钥访问它,因此 Azure 直接向你计费。

预留容量也享有同样的处理。把一个 private endpoint 指向它,你组织的流量默认会先流向那里。当它被限流或不可用时,OpenRouter 可以在你设置的提供商偏好和 BYOK 回退设置范围内,把溢出流量发送到公共提供商。

设置一个 endpoint

一旦 Private Endpoints 启用,组织管理员即可从你账户中的Private Endpoints页面注册该部署。该部署必须由我们支持用于BYOK 的提供商托管,因为 OpenRouter 会用你自己的密钥访问它。它还必须服务于一个已经在 OpenRouter 目录中的模型,因为它会继承该模型的 slug 和能力。你可以附加自己的定价,以便该端点能准确显示在成本报告中,并且你需要声明该部署是否保留提示词。

The Add private endpoint wizard on its Blueprint step, with Connect, Test, and Activate still to come. The catalog model is set to Anthropic: Claude Haiku 5.5 and the BYOK provider list is open.

在任何请求路由到新端点之前,OpenRouter 会通过保存在你某个工作区中的提供商密钥发送一个真实请求。该请求证明密钥被接受、部署支持 OpenAI 兼容格式、流式传输正常工作、用量能返回用于计费,并且模型 ID 与你注册的一致。一旦通过,你就可以激活该端点,你组织中的工作区便可通过模型 slug 调用它。在此之前,它会保持隐藏且无法被调用。

从代码管理端点

如果你运行的端点不止几个,或者你把基础设施保存在代码中,可以跳过设置页面。Private Endpoints API覆盖整个生命周期,从注册草稿并运行测试检查,到激活、定价更新、暂停和删除。它使用组织Management API key进行认证,一次 create 调用即可注册、测试并激活一个端点。

curlhttps://openrouter.ai/api/v1/private-endpoints\
-H"Authorization: Bearer$OPENROUTER_MANAGEMENT_KEY"\
-H"Content-Type: application/json"\
-H"Idempotency-Key: gpt-4o-prod"\
-d'{
"model_permaslug": "openai/gpt-4o-2024-08-06",
"provider_slug": "openai",
"base_url": "https://api.openai.com/v1",
"upstream_model_id": "gpt-4o-2024-08-06",
"pricing": { "prompt": "0.0000025", "completion": "0.00001" },
"activate": { "workspace_id": "<workspace-id>" }
}'

如果测试检查失败,草稿会被保留并返回失败的检查项,这样你可以修补它并重试。Idempotency-Key标头让重试变得安全(重复的键会返回第一次请求创建的端点)。OpenRouter Terraform provider把这一切封装在一个openrouter_private_endpoint资源中,因此terraform apply会注册、测试并激活端点,terraform destroy则会删除它。

须知

  • 将端点标记为私有并不会使其成为Zero Data Retention端点。你的提供商完全像以前一样处理提示,OpenRouter 会记录你在注册部署时声明的数据策略。
  • 私有端点可以使用区域内路由如果 OpenRouter 能从其地址推断出区域,或者你在设置时声明了一个区域。发往us.openrouter.ai或eu.openrouter.ai的请求随后会路由到该区域内的你的部署。区域内路由指南列出了支持的提供商。
  • 你的提供商密钥必须在每个调用该端点的工作区中保存到 BYOK 下,设置期间的测试请求也需要它在那里。
  • 默认情况下,每个组织最多可以有 10 个私有端点,仍在设置中的端点也计入该限制。

The Blueprint step's data region and Zero Data Retention choices, with United States (us.openrouter.ai) and zero data retention selected, above the optional prompt price field.

开始使用

私有端点是 Enterprise 计划的附加组件。请让你的客户代表为你的组织启用它,或者联系团队。

启用后,组织管理员可以从你账户中的私有端点页面添加你的第一个端点,或者使用 Management API 密钥通过私有端点 API添加。

阅读文档了解更多信息。