Architect Financial Technologies 推出了 Liquid Inference,这是一个 LLM 路由器,对每个请求运行实时拍卖。Liquid Inference 是 Architect 推出的 LLM 推理市场,提供商在此竞标为每个提示词提供服务。买方支付符合其规则的最低报价。对开发者来说,信息非常简单:替换基础 URL,保留你的代码,让提供商在价格上竞争。
什么是 Liquid Inference?
Liquid Inference 是一个交易所风格的 LLM 推理路由器。据 Architect 称,提供商发布为特定模型提供服务的报价。每个请求都会在所有报出指定模型的提供商之间进行拍卖。符合买方规则的最低报价获胜。
该产品来自一家交易公司,而非 AI 实验室。Architect 运营着 AX 永续期货交易所。2026 年 5 月,它收购了一家美国指定合约市场,以挂牌 GPU 算力期货,尚待监管审查。该团队利用其构建金融交易所的经验,为推理创建了双边价格发现机制。
推理拍卖是如何运作的?
流程有 4 个步骤:
请求:客户端发送标准的 OpenAI 或 Anthropic API 调用。
规则:买方的约束条件筛选出符合条件的报价。
拍卖:报出该模型的提供商展开竞争。符合条件的最低报价获胜。
回执:最高价格在生成前锁定。计费仅涵盖计量用量。
买方可以设置每项任务的成本上限、首 token 时间限制和最低吞吐量。他们还可以要求获批区域、零数据保留以及提供商或模型允许列表。Auto 模式可以为给定的工作单元选择模型。Harrison 的 LinkedIn 帖子补充了路由规则预设和完整的多模态支持。
账户持有者可以查看实时订单簿、按提供商和按模型的报价,以及已清算的交易。这种级别的市场数据对 LLM API 来说并不常见。
买方能得到什么?
与智能体编程工具的即插即用兼容性。帖子列出了 Claude Code、Codex、OpenCode、Cursor、Pi 和 Cline。
免费邮箱注册。据 Harrison 称,前 500 名用户可获得 20 美元的免费推理额度。
推荐计划:被推荐者费用的 20% 作为免费推理额度,二级推荐再加 10%。
推理提供商能得到什么?
提供商通过 Liquid Inference 应用入驻。Harrison 表示,新提供商可在“几分钟内而非几周内”完成验证。所有提示词均使用 OpenAI API 标准。REST 和 WebSocket API 用于注册模型和报价。
提供商可以根据自身成本更新报价。这让他们能够只在自己愿意时出售闲置的 GPU 容量。付款通过 Stripe 进行,并附有每项任务的明细记录。
Liquid Inference 与 OpenRouter 和 Hugging Face 相比如何?
功能Liquid InferenceOpenRouterHugging Face Inference Providers路由模型按请求在报价提供商之间进行拍卖 按价格加权负载均衡,价格平方的倒数 默认选择最快的提供商;可选 :cheapest 后缀 模型 / 提供商数量“数百”个模型;提供商未披露500+ 个模型,80+ 个提供商 18 个列出的合作伙伴 API 兼容性兼容 OpenAI 和 Anthropic兼容 OpenAI兼容 OpenAI,仅限聊天 价格上限在首个 token 前锁定最高价格max_price 参数 未披露数据控制ZDR、区域、允许列表zdr、data_collection、only/ignore 提供商偏好顺序平台费用未披露5.5% 信用卡手续费,最低 $0.80 无加价 免费额度前 500 名用户 $20 未披露每月 $0.10 免费,$2.00 PRO 公开市场数据实时订单簿和已清算交易未披露未披露
关键要点
Liquid Inference 将每个 LLM 请求在相互竞争的提供商之间进行拍卖。
最高价格在首个 token 前锁定,并附有每项任务的收据。
可与 OpenAI 和 Anthropic 客户端配合使用,包括 Claude Code 和 Cursor。
前 500 名用户获得 $20 免费额度;推荐可获得 20% 的费用分成。
费用、提供商列表和延迟数据尚未公开。
查看技术细节。所有功劳归于该项目的研究者。另外,欢迎在 Twitter 上关注我们,别忘了加入我们拥有 150k+ 的 ML SubReddit 并订阅我们的 Newsletter。等等!你在 Telegram 上吗?现在你也可以在 Telegram 上加入我们。
文章 Architect Launches Liquid Inference, a Real-Time Auction for LLM Inference 首次出现在 MarkTechPost 上。