在部分 AI 基准测试上达到固定性能水平的成本自 2023 年以来大幅下降。
追踪 AI 趋势的研究机构 Epoch AI 表示，成本平均每季度下降约 47%，即每年约 13 倍。该机构称，没有其他变革性技术下降得如此之快。不过，这一数字反映的是固定基准测试分数的市场价格，而非纯粹的算法或架构进步，甚至也不是现实中的生产力成本，那完全是另一回事。
MIT 研究人员查看可比数据后发现成本每年下降 5 到 10 倍。在剔除更便宜的硬件和竞争性定价压力后，他们得出的实际算法效率提升约为每年 3 倍。单次运行的峰值性能实际上可能变得更贵，因为较新的推理模型每项任务消耗的算力要多得多。
不过，这两项研究探讨的是不同的问题。达到去年的顶级能力？成本大幅降低。运行当前最好的模型？每次查询往往明显更贵。
如今达到 o3 的准确率只需其价格的一小部分
Epoch 以OpenAI 的 o3 为例。2025 年初，o3 在 GPQA Diamond 这项博士级科学测试中得分 75%，估计每道题 30 美分。十八个月后，GPT-5.6 系列的一个模型以 0.04 美分达到相同分数。Epoch 称这是原价的 1/725。如果汽车也降得这么快，一辆 50,000 欧元的车将不到 70 欧元。OpenAI 几天前刚推出更便宜的 GPT-6 Sol 和 Luna模型，所以差距很可能进一步拉大。
Epoch 的分析基于五个涵盖数学、科学和逻辑谜题的基准测试。由于样本范围较窄，该机构称其发现是“基于现有最佳数据的合理但粗略的测量”。
算法进步只能解释部分降幅
Hans Gundlach 和他在 MIT 的同事使用了对比平台 Artificial Analysis 的定价数据，覆盖 2024 年 4 月至 2025 年 11 月，并且每次测试评估的模型数量远超此前的研究。他们的数字低于 Epoch，部分原因是较新的推理模型会在难题上投入额外的测试时计算，从而推高每个正确答案的成本，即便每 token 的价格持续下降。Token 是服务商计费的文本单位，仅比较它们会遗漏全貌。
当 MIT 拆解是什么在压低价格时，更便宜的硬件占了一部分，竞争占了更多。研究者通过单独考察开源模型来控制竞争因素。剩下的就是纯粹的算法效率提升，约为每年 3 倍。Epoch 的 13 倍数字更高，是因为它没有剔除硬件和竞争的影响。
更好的基准测试分数并不总意味着更好的效率
MIT 还发现，一些性能提升仅仅来自投入更多算力。一个新模型在 GPQA Diamond 上击败前代，从外部看像是进步，但作者估计其中很大一部分提升来自每个问题使用更多处理能力。它得分更高，运行成本也更高。编程和数学基准测试呈现出同一模式的较小版本。
并非所有基准测试的进步都是效率的进步。新模型把更好的训练、更好的数据、更好的架构和更多的测试时计算揉在一起。单一分数混合了所有这些因素。
还有“刷榜”（benchmaxxing）问题：AI 公司可能针对众所周知的测试进行优化，抬高分数却没有实际价值。Epoch 试图通过纳入一项基于保密游戏的测试“Mystery Game Puzzles”来防范这一点。在该测试上成本下降最慢，这符合刷榜理论，但也可能只是反映了任务形式或数据中的噪声。
仅凭价格无法告诉你该选哪个模型
当你为特定任务选择模型时，宽泛的成本平均值帮助不大。像Artificial Analysis这样的平台会从质量、价格、延迟、上下文窗口和输出速度等维度对模型进行排名，而最便宜的选项很少能在每个维度上都胜出。
一个低成本但高延迟的模型对实时聊天机器人毫无用处。一个强大的推理模型对自动化工作流来说可能太慢。一个更昂贵的前沿模型如果能更频繁地做对事情并减少重试，反而可能更省钱。这些都无法在简单的每 token 价格比较中体现出来。我们在Frontier Radar #3 中深入探讨了这个 token 经济学问题。