清除条件
共 1 条
OpenRouter 公告2 天前模型技巧与观点海外

OpenRouter 实测:fp8、fp4 与 fp16 精度无明显质量差异

OpenRouter 于 2026 年 10 月 20 日对 1455 个供应商端点做量化测试,在 240 个评分任务上未检测到 fp8、fp4 与 fp16 的准确率差异,六个 Qwen3.8 27B 端点得分在 98.3% 至 99.2% 之间。价格方面,24 个同时提供 8-bit 和 16-bit 的模型中,14 个 8-bit 更便宜、7 个更贵;33 个模型中 26 个 4-bit 比 8-bit 便宜。作者建议用 provider.quantizations 固定精度,并列出所有可接受的精度以便路由回…

推荐理由想压低推理成本的人可以直接参考:4-bit 在 33 个模型中有 26 个更便宜,且测试未发现质量下降。