You.com 上线 Inference Router，一个兼容 OpenAI 和 Anthropic 接口的托管 API，可在 12 个开源权重模型间路由请求，承诺 99.9% 最低可用性 SLA 和零数据保留（ZDR），全部托管在美国境内，按 token 计费且不收平台费。模型从 GPT-OSS 120B（125K 上下文）到 Kimi K3、Qwen3.8 Max（1M 上下文），Kimi K3 为 2.8T 参数，Qwen3.8 Max 为 2.4T MoE。请求先走自有推理容量，满载或故障时切换到 Par…
推荐理由需要合规 ZDR 和美国托管、又不想签大额承诺的团队，改个 base URL 就能接入 12 个开源模型。
Fireworks 发布技术报告，介绍支撑 Kimi K3 强化学习训练的基础设施，涵盖全参数训练与 rollout 生成、训练与推理一致性、无服务器 LoRA 训练。Kimi K3 为 2.8 万亿参数、100 万 token 上下文的模型，其 LatentMoE 将 FP4 专家分布到多 GPU，需 all-to-all 通信。Fireworks 用自研 MoE Mega Kernel 做通信与计算重叠，包括环形缓冲、微批流水线、量化融合进暂存。同一套设施支撑 Harvey 基于 K3 的法律模型 Tenet，…
推荐理由做大规模 RL 训练的人可看 MoE 通信重叠和 FP4 专家分布的具体做法
Fireworks AI 发布 Ember-1，由 Fireworks Research 对月之暗面开源权重模型 Kimi K3 后训练而成，官方称在保持任务准确率的前提下 token 用量减少约 40%。该模型仅通过 Fireworks 无服务器 API 以 Research Preview 形式提供，未开源权重、训练代码和具体训练算法，暂不支持自托管。Fireworks 称推理模型如 K3 有时会把 90% 以上生成 token 用于内部推理，多轮 Agent 场景下成本随轮次近似平方增长；其训练覆盖数学、编码…
推荐理由做 Agent 多轮任务可省约 40% token，但只能走 Fireworks API，不能自托管