LegalOn Technologies 在全球范围内提供 Professional AI,利用 AI 支持法律工作及其他关键业务职能。通过将领域专业知识与 AI 相结合,它让人们能够专注于复杂的判断和决策。其目标是实现 AI 驱动的管理,提升业务决策的质量和速度。
这一方法不仅体现在其产品上,还延伸到让组织本身成为 AI 原生组织。该公司将 Codex 集成到其开发流程中,并通过日常使用在整个组织内扩大采用范围。
随着采用逐渐深入,一个新的挑战浮现出来:成本控制。无限制地使用高性能模型可能会推高支出,而一刀切的限制则可能削弱 AI 带来的生产力提升。
如何在不拖慢开发速度的情况下降低成本?LegalOn Technologies 通过根据任务复杂度和开发阶段在 GPT‑6(Astra、Luna)和 GPT‑6.1 Sol 之间进行选择,并使预算与各业务的增长阶段相匹配,从而应对了这一挑战。该公司在保持开发速度的同时将成本减半。
优化模型以保持开发速度并降低成本
该公司最初让开发者无限制地访问其主模型 GPT‑5.5 的 Fast 模式。他们将其使用范围扩展到设计、实现和日常工作,通过实验学习如何在人与 AI 之间最好地划分职责。
然而,继续无限制地使用高性能模型必然会超出年度预算。该公司的 AI 驱动开发卓越中心(AID CoE)开始制定模型选择指南。AID CoE 对模型进行测试和监控,同时管理者将发现分享给各自的团队。这使每位工程师都能独立地为每项任务选择最合适的模型。
将模型与任务匹配并战略性地分配资源
新的指南使该公司从每项任务都使用能力最强的模型,转变为为具体工作选择合适的模型。团队从轻量级模型开始,随着任务复杂度提高再转向能力更强的模型。
为支持治理,公司还通过管理员设置引入了系统控制,为部门和个人设定了每月使用限额。AID CoE 监控使用情况,并根据业务需求调整限额。
在这些控制措施下进行的内部测试,帮助让选择标准变得更加具体。GPT‑6 Luna 是最轻量的模型,负责需求明确的代码实现;GPT‑6.1 Sol 支持标准设计、数据分析和文档准备;而 GPT‑6 Astra 是能力最强的模型,负责高级判断,包括架构设计。将模型与任务相匹配,逐渐成为各团队的共同实践。
为不同任务在三款模型之间做选择
GPT-6 Luna
日常执行与实现;运行日常自动化;委派相对简单的任务和分析;代码实现,主要作为子智能体。
GPT-6.1 Sol
标准设计与分析;相对简单的软件设计;常规数值分析和文档创建;需要比使用 Luna 更短完成时间的任务。
GPT-6 Astra
复杂分析、设计与编排;复杂分析和文档创建;复杂软件设计;作为编排者协调智能体。
除了模型选择之外,公司还开始默认限制 Fast 模式,仅在需要时允许单独请求。尽管这一变化引发了对开发速度的担忧,但各团队通过并行运行任务等方法来保持性能并平稳过渡。
它还为 AI 支出引入了部门、小组和个人层面的预算上限。已成熟的 LegalOn 业务被要求将成本效率提升最多约 20%,而处于启动阶段的新业务则获得了充裕的预算,以鼓励积极使用 AI。
LegalOn Technologies 的高级工程经理 Yuta Tokitake 解释说,新业务优先考虑业务速度而非成本效率。目标是广泛使用 AI 来提高产出,并最终推动业务增长。
针对每项业务量身定制的模型选择、功能限制和预算相结合,使估算的每日成本降低了约 65%。这种方法既让整体预算保持在可控范围内,又将资源导向公司希望发展的业务。
结果一览
模型优化和战略性资源分配带来了以下结果:
从对每项任务都使用能力最强的模型,转变为根据任务复杂度和开发阶段选择 GPT‑6 Astra、GPT‑6.1 Sol 或 GPT‑6 Luna。
在默认限制 Fast 模式后,开发性能依然保持,这得益于并行任务执行等团队实践。
预算上限将成熟业务约 20% 的效率提升与对新业务的积极投入相结合。
通过在 GPT‑6 和 6.1 模型中进行选择,估算的每日成本相比 GPT‑5.5 降低了 65%。
通过功能发布衡量 AI 投资的真实 ROI
通过模型优化,公司在不牺牲开发速度或质量的情况下降低了成本。各团队也看到 AI 正在稳步缩短从开发到发布的周期。
但公司着眼更长远。仅靠更快的开发就能让 AI 投资成功吗?更快的开发与客户价值之间的联系仍不明确。“AI 能够加速系统开发和更新几乎是理所当然的,”Tokitake 说。“我们真正想了解的是,这种更快的开发是否真的转化为客户价值。”
这个问题促使公司开发了自己的指标,将评估 AI 投资的依据从开发速度和使用量转向客户价值。
Tokitake 解释道:“使用 AI 时,我们可以追踪单个任务的成本,但一项完整工作——一次功能发布——的总成本往往仍是一个黑箱。因此我们围绕每次功能发布作为单一单位来设计衡量方式。通过将该次发布所交付的客户价值与投入其中的实际 AI 成本关联起来,我们旨在让投资回报变得可见且准确。”
该公司目前正在构建计算这一指标的流程。一旦完成,它将使以客户价值衡量的真实 ROI 变得可见。LegalOn Technologies 正从 AI 成本管理迈向将技术投资与业务价值直接连接。
为 AI 时代构建组织与治理
下一个目标是将个别工程师的 AI 经验转化为全组织的能力。作为第一步,公司计划构建一个知识库来收集和分享实践经验。它将沉淀诸如设计、实现和审查的最佳模型组合等知识,并迅速将个人的成功转化为全公司的最佳实践。
这些由团队实践经验驱动的变化,也在塑造着组织和招聘。AI 驱动的生产力提升正促使公司从根本上重新思考人与 AI 之间的工作划分,以及其人力规划。随着其投资战略和组织结构的演变,公司已经开始在招聘中强调 AI 技能。
要将 AI 的采用转化为持久的竞争优势,需要不断优化治理与团队行动自由之间的平衡。AID CoE 和安全团队正在合作,从多个角度优化性能、成本和风险,构建一个支持全组织实验的灵活框架。
“通过规则和预算施加过度限制可能会削弱组织的动力。我们需要的是一个灵活的运营模式,能够有效平衡风险控制与团队所需的速度。”
Yuta Tokitake,LegalOn Technologies 高级工程经理