HN 热帖：不自己搭 LLM 代理，就不知道模型在干什么
Hacker News 上一篇获得 296 点热度的文章主张，开发者应自行部署 LLM 代理，而不是直接使用厂商前端。作者认为，厂商提供的用量统计图对工程师没有决策价值；自建代理可以统一管理多个供应商和模型，记录哪个密钥在什么时间调用了哪个模型、状态如何，用虚拟 API 密钥避免主密钥散落在各处，并快速切换模型和供应商。作者称，在编码会话中出现缓存未命中时，借助代理日志可在 20 秒内定位原因，且代理提供 API，可进一步自动化。原文信息有限，未给出具体代理工具名称。
推荐理由想搞清楚 token 花在哪、缓存为何未命中的开发者，可参考自建代理的 5 条理由和日志排查思路