#Respan Gateway

全部资讯模型
清除条件
共 1 条
DEV Community · AI1 天前模型产品发布/更新海外

Respan Gateway:Rust 写的开源 LLM 网关,内置 16 家供应商

作者在 Windows 上实测了 10 月开源的 Respan Gateway:这是一个 Rust 单二进制程序,位于代码与各家 AI API 之间,把 OpenAI、Anthropic、Gemini 的 SDK 请求翻译成目标模型供应商的格式。内置 16 家供应商,含 OpenAI、Anthropic、Gemini、xAI、DeepSeek、Mistral、Groq、OpenRouter、Ollama、vLLM 及任意 OpenAI 兼容端点;供应商、路由、定价、MCP、追踪全部基于同一套公开 Rust API …

推荐理由想统一管理多家模型 API、又不想自己写重试和格式转换的开发者,可以按文中配置直接试