当客户谈论 AI 成本时,对话通常从 token 价格开始,以能否在云端使用最新、最强大的模型结束。他们总是需要那种级别的能力吗?未必。但对话往往就是会走到那一步。
随着 AI 从实验走向生产,模型选择只是等式的一部分。当需求变得稳定且对业务至关重要时,仅靠按量消费的方式会让 AI 支出变成一项每月可变的开支,随着使用量、工作负载和模型需求的变化而难以预测。
到那时,问题不再只是消费哪个模型,或者哪个提供商提供最低的 token 价格:而是如何以经济、可预测且可持续规模的方式运行 AI。
AI 正从孤立的试点走向生产组合:助手、检索与知识系统,以及智能体应用。客服、IT、研究和业务流程智能体可以跨企业系统执行多步骤工作流,从而在模型、数据和工具之间产生持续性需求。
这已经开始发生。Deloitte 的 2026 年企业 AI 现状报告反映了许多领导者正在看到的情况:2025 年员工对 AI 的访问权限上升了 5%,而至少有 40% 的 AI 项目进入生产的公司比例预计将在六个月内翻倍。
当 AI 成为一组始终在线的工作负载,而非一堆实验时,经济账就变了。按量定价为团队提供了灵活性并限制了承诺。但当使用量变得稳定、可预测且大到足以让容量保持高效运转时,领导者需要问一个不同的问题:按每次请求购买 AI 是否仍然具有经济意义,还是时候投资于可以优化和控制的容量了?
这不是一场抽象的云与本地之争。这是一个逐工作负载的业务决策。在未来 12 到 18 个月内,公司可以合理预期多少 AI 需求?这些容量会被多稳定地使用?当多个工作负载共享基础设施时,企业可以将固定成本分摊到更多生产性用途上——从而改善自有化的经济性。
问题在于你运行多少
拥有并不自动等于成本更低的答案。只有当企业能让产能保持高效运转时,拥有才说得通。
每个组织都有一个交叉点,即持续使用达到某一水平时,拥有产能可能比按单次请求购买更经济。并不存在一个通用的数字。它取决于所使用的模型、输入与输出 token 的平衡、性能要求、系统设计、能源成本,以及支撑它所需的运营模式。
一个检索密集型知识系统,其成本结构与一个简单的助手可能截然不同,因为它在每次交互中可能要处理多得多的上下文。智能体工作流可能又不一样:单个业务任务可能涉及反复的推理、检索、模型调用和工具使用。这就是为什么通用的成本基准测试还不够。企业需要对自己的实际工作负载建模,了解预期需求,并据此规划产能规模。
在合适的利用率水平下,好处不仅是更低的有效成本,还有更强的可预测性:能够把 AI 产能作为一项战略性基础设施投资来管理,而不是眼看着每月支出随模型使用量和工作负载需求波动。
拥有只有在被投入使用时才奏效
资本决策只是等式的一半。即便经济性支持拥有,产能也只有当业务能快速将工作负载投入生产并保持其持续运行时,才能创造价值。
这需要的不仅仅是安装基础设施。它需要一种将技术与采用和业务成果连接起来的运营模式:让用户和工作负载加入进来,治理 AI 的使用方式,审视利用率,并持续识别下一个高价值用例。
目标是尽早创造价值,然后在此基础上继续发展。这意味着衡量使用情况,识别未被充分利用的产能,并随着时间推移将更多高价值工作负载引入平台。没有这种纪律,企业可能永远无法实现当初支撑这笔投资的经济价值。有了它,AI 产能就成为一项生产性资产,企业可以对其优化、扩展,并用它创造可衡量的价值。
要问的三个问题
在投入资金之前,领导者应该问三个问题:
需求是否正在变得稳定、可预测,并且足够大,足以证明专用容量是合理的?
在什么样的使用水平下,自建才具有经济意义?
我们能否通过采用、治理以及持续扩展用例,让这些容量保持高效产出?
有意识地完成这一转变
随着 AI 进入生产阶段,创造最大价值的组织将不会只盯着 token 价格和最新模型。他们会知道何时经常性需求需要一种不同的经济模式——并且他们会具备运营纪律,让这些容量保持高效产出。
那时,AI 就不再是一项开支,而会变成一项资产。
本内容由 HPE 制作。它并非由 MIT Technology Review 的编辑人员撰写。