Block 用 OpenAI 技术做安全，分诊吞吐提升 50%

在 Block——Square、Cash App 和 Afterpay 背后的公司——安全团队借助 OpenAI Defense Factory：AI 以人类团队无法企及的规模处理漏洞发现、检测和响应。借助包括 OpenAI Daybreak 在内的 AI 系统，Block 只需数小时就能完成过去需要数周的工作。

Block 的安全团队一直专注于在工作流中负责任地采用 AI，无论是代码生成还是安全运营。“真正核心的是拥有一个可以与之共同扩展的新队友，”首席信息安全官 James Nettesheim 表示。“这不像更传统的自动化，你必须一步一步来。你可以向它提出一个相当定制化、模糊的问题，然后一起把它解决。”

像审查软件缺陷或解析日志这样的项目，过去需要数天或数周才能完成。现在团队可以在极短的时间内完成这些项目，同时仍由人类验证每一个结果。

例如，在检测调优方面，每次调查都会存储其原始查询证据，因此团队现在可以在不到一小时内，针对七个月的生产遥测数据回放一项拟议的检测变更。这项工作过去意味着要手动重新查询数百个旧案例，而且由于太耗时，实际上往往很少进行。

团队对哪个任务使用哪个模型也变得更加讲究。“我们过去总是用最新的模型，但现在没必要这么做了，”他说。“为不同任务选择不同模型是一个学习的过程。”Block 的安全框架构建在 Daybreak 之上，用于帮助将任务路由到合适的模型，其中还包含供人类接管任务或让智能体互相验证工作的钩子。团队持续根据内部基准测试和真实世界表现来评估这些系统，并在需要时调整方法，包括在负责任的情况下将工作转交给人工审核。

自动化分诊系统带来了更快的工作速度（以及更多的工作量）。Block 的安全团队实现了分诊吞吐量提升 50%、情报收集与调查增加 50%，以及一项全新的自主狩猎能力。Nettesheim 说：“这每季度执行约 1,100 个分析师小时的调查，因为现在每一条警报都会针对其涉及的所有要素进行完整、深入的调查。我们的系统对待每一条警报，就像它是我们当天唯一的一条警报一样。”

传统扫描工具会孤立地标记单个漏洞，但 Block 的安全团队借助 Daybreak 可以走得更远。该模型帮助推测攻击模式，并将一系列攻击串联成一条完整的端到端入侵路径，从而暴露出可能已存在多年的漏洞。

在一个案例中，针对单台笔记本电脑的一条警报本身看起来只是一个轻微的策略问题。但在同行评审期间，该模型顺着一条仅偶然出现在证据中的线索，将其与 Block 的身份日志进行关联，从而揭示出一组大得多的问题。“一条例行的端点警报变成了一次行动打击。没有任何单一工具能完成这种关联。这个信号只存在于两个产品的日志之间，”James 说。

Daybreak 发挥作用的另一个例子是在最近的一次红队演练中。模型获得了一些关于内部系统的线索，并在大约两小时内串联出一条完整的攻击路径——SQL 注入、权限提升、建立据点、凭据枚举，以及转向其他系统。这通常需要人类红队成员花费数天时间。在最近的红队演练中，从提交一个高层级漏洞到自动提出补丁的时间为 18 分钟。

发现漏洞的能力，取决于修复漏洞的能力。Nettesheim 详细介绍了他的团队对每一个发现所采用的流程：定位问题在代码中的位置并确定其归属方，然后进入修复阶段。“你提出一个补丁，确认其可利用性，然后验证你已经修复了它，整个过程由人类在环中引导并部署代码变更。”

虽然智能体在技术上有能力，但它们并不携带组织的上下文或以往决策背后的推理。人类提供这些上下文和策略，而这正是他的团队介入、提供人类审查层的地方。Nettesheim 表示，随着 AI 的判断在实践中得到验证，“我们会慢慢提升风险级别，将其用于更敏感的系统。”

仅检测与响应工作每季度就返还了约 600 个分析师工时，这些时间过去用于分类误报。有了这些时间，团队现在将更多时间投入到更深入的调查和更负责任地构建更多自动化上。

随着攻击节奏加快、AI 模型不断进步，Nettesheim 看到了一个机会：从源头上减少被引入的漏洞数量。这将使安全团队能够减少花在打补丁上的时间，把更多时间投入到预防性和战略性的工作上。

“OpenAI 正在把这些先进能力交到每个人手中，从而将优势转向防御方，”他说。“过去，这类能力通常只掌握在非常知名的科技公司和政府手中。但现在，所有人，包括关键基础设施、学校、小企业，都可以开始利用这项技术来保护自己的网络。”