未来五年,每家公司都会以两种方式之一使用 AI:要么用于运行其业务的关键部分,要么作为其向客户销售的产品的一部分。在这两种情况下,通用智能都不够用。
要产生真正的影响,公司需要拥有自己的智能。拥有并不意味着从零开始构建每一层。它意味着控制那些决定智能如何表现、如何被管理,以及是否能随时间不断积累的部分。
现成的智能并不了解你的业务
现成的 AI 之所以有用,是因为它是通用的。它可以回答常见问题,并在广泛的主题上进行推理。这让它有助于起步。但如果认为通用智能可以运行公司内部的运营,那是一种严重的过度简化。
公司在运营方式上有许多具体细节。你把 AI 嵌入公司越深,这些具体细节就越重要。如果你希望把 AI 作为运营公司的核心部分,这些具体细节就非常重要。
举一个具体的例子,让我们考虑一家使用 AI 帮助处理理赔的大型保险公司。通用模型可以阅读保单文件、总结理赔,并解释常见的承保概念。但要真正完成处理一笔理赔的工作,取决于保险公司自己的保单语言、各州的监管要求、欺诈信号、历史理赔模式、升级规则、客户分层以及风险容忍度。这些具体细节不会存在于通用模型的权重中。通用模型知道“deductible”这个词的含义。但它不知道如何针对这位客户、在这个司法管辖区、依据这份保单、凭借这些证据,处理某一特定类型的理赔。
当 AI 本身就是产品时,同样的逻辑也适用。如果你是一家垂直 AI 初创公司,正在构建一个AI 支持智能体、法律助手或编码智能体——基础模型并不是你的产品。其他任何人都可以调用同样的 API。你的产品是模型周围的系统:它处理的工作流、它检索的上下文、它可以使用的工具、定义质量的评估、它构建的记忆,以及随着每一次客户交互而改进它的反馈循环。
在这两种情况下,优势都不是通用智能,而是适配特定业务的智能。
任何公司都可以使用 AI。但这种通用智能不足以驱动有意义的 ROI 或构建差异化的产品。围绕 AI 构建的公司将拥有自己的智能。
拥有自己的智能意味着什么
拥有自己的智能并不意味着自己构建 AI 技术栈的每一层。它意味着控制关键部分——那些决定智能如何表现、从什么中学习、成本多少以及是否随时间改进的部分。
一个有用的类比:供应链。零售商不需要制造它使用的每一辆卡车、船只或仓库机器人。但它确实需要拥有决定采购什么、库存如何流动、需求如何预测以及客户体验如何交付的系统。
AI 的运作方式相同。你可以购买模型、算力和基础设施。但你需要拥有将那些输入转化为特定于你业务的智能的系统。
这包含三个部分:控制智能体系统;拥有经济性、质量和风险;以及随时间复利积累智能。
控制智能体系统
智能体是原始智能与工作之间的桥梁。模型提供智能。执行框架决定该智能如何被应用。上下文告诉系统在特定情境中什么才是重要的。
第一层是模型。拥有模型可以意味着使用开源权重模型当主权、可移植性或部署控制很重要时。它也可以意味着保留模型可选性:能够在提供商之间切换随着质量、成本、延迟和隐私要求的变化。可选性是防御性的,因为它避免了锁定。它是进攻性的,因为它让你能在最佳模型出现时立即采用它。
第二层是执行框架:将模型输出转化为行动的编排逻辑。执行框架控制着围绕上下文如何被使用的一切:路由、工具使用、工作流步骤、技能等。公司特有的行为大多存在于这一层。如果 harness 是闭源的,你就等于接受了别人对你智能体应如何工作的假设。
第三层是上下文本身。上下文让通用智能变得具体:文档、策略、工具、技能、用户偏好、组织级知识和记忆。记忆尤其重要,因为它是系统变得更有用的方式随着时间推移。
如果你不拥有上下文和记忆,你就不拥有系统所积累的智能。
要拥有智能体系统,你需要对三者都有控制权:模型、harness 和上下文。
掌控经济性、质量和风险
一旦 AI 在做真正的工作,公司就需要像管理任何其他操作系统一样管理它。这意味着控制工作的成本、衡量其质量、界定系统可以在哪里行动,以及知道它行动时发生了什么。
成本很重要,因为只有当智能相对于其产生的回报足够便宜时,它才有价值。随着 AI 采用率快速上升,成本也随之上升——参见Uber 的警示案例作为一个例子。
能够锁定成本——在用户、组织或智能体层面——对于可靠地扩展 AI 至关重要。
质量需要被衡量,而不是被假设。如果你升级了模型、更改了提示词、添加了工具或调整了工作流,你需要知道系统是变好了还是退步了。如果你无法衡量这一点,你就无法系统地改进你的智能体,这意味着你无法真正控制和拥有它。
边界界定了 AI 可以在哪里独立行动、在哪里需要监督。公司需要控制智能体可以访问哪些数据、可以使用哪些工具、哪些操作需要审批,以及何时应该升级上报。拥有你的智能意味着控制它能做什么。
可观测性让系统可问责。如果智能体采取了某个操作,业务方需要看到它看到了什么、做了什么、调用了哪些工具,以及为什么。这对于改进系统以及审计和信任系统都很重要。
让你的智能复利增长
最好的 AI 系统会越用越好。第 100 次交互应当比第 1 次更有价值,因为系统对你的用户、工作流、策略、失败案例和偏好了解得更多了。你既需要拥有系统所学到的东西,也需要拥有学习过程本身。
一个系统学会学习意味着什么?
这个学习循环始于轨迹(traces)。轨迹展示了智能体实际做了什么:它看到了什么上下文、调用了哪些工具、在哪里卡住了,以及产出了什么。反馈则赋予这些轨迹意义:该行为是有用的、被接受的、被拒绝的、低效的、有风险的,还是错误的。二者结合,轨迹和反馈就成为改进的原材料。
这些轨迹及其关联的反馈可用于改进系统——通过修改提示词、harness、工具。但与这些改动同样重要的是与之关联的评估。对于每一次改动,你都应当新增一个评估来捕获该改动,并确保未来的改动不会导致回归。
至少,这些学习成果必须由你自己拥有。它们需要能够跨模型、跨系统迁移。更进一步——你应当自己拥有整个循环。再说一次——智能体在用户第一次使用时表现多好并不重要。重要的是用户第 100 次使用时它好了多少。如果这才是关键,那么你就需要拥有驱动这一切的循环。
拥有你自己的智能的检查清单
你真的拥有自己的智能吗?以下是一组你应该问自己的问题,用来判断这一点:
[ ] 如果明天一家全新的模型提供商发布了 SOTA 模型,你能轻松切换过去吗?
[ ] 如果你正在使用的模型提供商弃用某个模型——你能自行托管它以避免任何中断吗?
[ ] 你是否了解——并且能够控制——编排逻辑如何运作,从而能够了解并精确控制每一步进入 LLM 的内容?
[ ] 你能在一个云、另一个云以及设备上以完全相同的方式运行你的智能体吗?
[ ] 你能按用户监控并控制 AI 支出吗?
[ ] 如果有人问某个智能体为什么做了某件事,你能向他们展示它所做的所有步骤的完整轨迹吗(以及它为什么这样做的任何内部逻辑)?
[ ] 你是否已经建立了评估机制,从而有信心认为更换模型不会引入性能回退?
[ ] 当用户第 100 次使用你的智能体时,它会比用户第 1 次使用时更了解他们、体验更好吗?
[ ] 当你的智能体进行学习时,你能把这些学习成果迁移到一个完全不同的系统吗?
[ ] 你能控制你的智能体如何学习吗?
战略选择
公司不需要构建 AI 技术栈的每一层。他们应该购买那些困难、通用且无差异化的部分。
但他们需要拥有优势能够累积的那一层:智能体系统、围绕其工作开展的治理,以及让它随使用而变得更好的反馈循环。
任何公司都可以采用 AI。能够用 AI 创造持久价值的公司,将是那些拥有自身智能的公司。