当 AI 智能体能够采取行动时,它们最有价值,而让它们编写并运行代码是你能赋予它们的最高价值能力之一。但这种自主性伴随着安全风险。智能体编写的代码可能会对你的数据和系统造成意想不到的威胁,因此你需要控制这些代码在哪里运行以及它能访问什么。

沙箱为团队提供了这种控制。它们隔离 AI 生成的代码,限制其权限,并为让智能体执行实际工作创建更安全的边界。它们是你的智能体可以安全使用的计算机。本指南涵盖运行 AI 生成代码的安全风险,以及如何选择一种既能保护你的数据和系统、又不会限制智能体实用性的沙箱方案。

什么是 AI 智能体沙箱?

AI 智能体沙箱是一个隔离环境,智能体可以在其中运行它编写的代码、安装软件包并处理文件,而不会触及你的宿主机或其余基础设施。如果攻击者试图通过提示注入劫持智能体,沙箱会限制智能体对你的数据和系统所能做的事情。

智能体的致命三要素:为什么智能体需要沙箱

LLM 擅长软件工程,这使得代码生成和执行成为智能体创造价值的最佳方式之一。代码本身可以是输出,智能体也可以创建程序来帮助它完成非软件工程任务。后者的一个常见例子是编写一次性脚本来帮助进行自定义数据分析。然而,风险在于攻击者可以利用提示注入诱导你的智能体编写危害你数据和系统的代码。

目前,还没有万无一失的方法来防止提示注入,而包含提示注入攻击的不可信内容可以通过多种方式进入智能体的上下文。最终用户输入、外部 MCP 服务器响应以及第三方编写的技能只是几个常见例子。流行 Django Web 框架的合著者、“提示注入”一词的发明者 Simon Willison 通过概述“致命三要素”条件来总结随之而来的风险——当这三个条件同时成立时,意味着你的智能体可能让攻击者窃取你的数据:

  1. 访问敏感数据
  2. 暴露于不可信内容
  3. 对外通信的能力

受 Willison 的“致命三要素”和 Chromium 的安全“二法则”启发,Meta提出了“智能体二法则”。在该框架下,如果一次会话中同时满足以下三个属性,智能体就不应完全自主运行。

  • 智能体可以处理不可信的输入
  • 智能体可以访问敏感系统或私有数据
  • 智能体可以改变状态或对外通信

如果一项任务同时需要这三者,Meta 建议采用人工审批或其他可靠的验证方式。

为智能体提供其所需的工具,通常意味着既要给它访问敏感数据的权限,又要赋予它对外通信的能力。基础模型和运行框架工程的进步让 AI 智能体能够利用越来越多的上下文,但这也增加了攻击者发起提示注入攻击的可能性。

例如,一个邮件助手会读取来自未知发件人的邮件、访问私人收件箱并发送回复。传入邮件中的恶意指令可能利用这种组合,让智能体泄露隐私信息或发送未经授权的消息。

很有可能,致命三要素同样适用于你的智能体,这意味着它需要防护措施来限制它能对哪些数据执行哪些操作。如果你先缩小全部三个风险因素,成功实施这些控制措施就会容易得多。这正是沙箱发挥作用的地方。

选择 AI 智能体沙箱时应关注什么

在评估编程智能体沙箱时,应关注以下特性,以限制对敏感数据的访问,并降低一次成功的提示注入攻击可能造成的危害。

  • 隔离的文件系统
  • 受限的网络访问
  • 资源限制
  • 受控的可复用性
  • 与宿主机之间的内核级隔离

市面上有一些产品自称“沙箱”,但开箱即用地并不提供这一功能,因此在为你的智能体选择方案之前,请批判性地评估潜在方案。例如,开源的 Kubernetes Agent Sandbox 只有在部署到容器之间具备内核级隔离的集群上时才安全,而大多数 Kubernetes 集群并不强制实施这种隔离。

隔离的文件系统

沙箱应只包含智能体完成工作所需的数据,并阻止智能体尝试访问任何其他数据。这能最大限度地减少敏感数据的暴露,同时让审计和控制更容易。

有限的网络访问

沙箱应允许你指定智能体可以通过互联网向哪些外部端点发送数据。这意味着,即使攻击者诱导你的智能体泄露敏感数据,它也只能将数据发送给你信任的实体。

资源限制

沙箱应允许你控制智能体可以使用多少计算和内存资源以及使用多长时间。被攻陷的智能体不应能够过度消耗你系统的资源。

受控的可复用性

复用沙箱可以是一种跨多次执行持久化智能体状态的便捷方式,但这确实意味着,如果攻击者攻陷了沙箱一次,损害就可能持续存在。沙箱解决方案应让你决定这一风险是否值得承担。

与宿主机之间的内核级隔离

上述控制措施只有在智能体无法覆盖执行这些措施的系统时才有效。不幸的是,驱动操作系统的内核往往包含漏洞,被攻陷的智能体可以利用这些漏洞控制你的机器,并绕过任何保护其中数据的控制措施。这里的解决方案是虚拟化,即你的沙箱使用自己的内核运行,与运行它的机器所用的内核相互独立。你可以使用基于 microVM 的解决方案来高效创建内核隔离的沙箱,而无需承担为每个沙箱启动完整虚拟机的成本。

具备上述所有特性的沙箱解决方案并不意味着你不需要认真考虑被攻陷的智能体对你的数据和系统构成的风险。仅靠沙箱并不能完全消除致命三要素中的任何一方面。相反,它们缩小了对敏感数据的访问范围,并将外部通信限制到一定程度,使得管理提示注入风险成为一个足够小、你的团队能够自信解决的问题。

你的智能体应该在沙箱内运行,还是将沙箱作为工具调用?

智能体可以通过两种方式之一连接到沙箱,我们的 CEO 兼联合创始人Harrison Chase在智能体连接沙箱的两种模式中描述了这一点:

  • 沙箱中的智能体。你构建一个预装智能体的镜像,并在沙箱内运行它。这与本地开发方式一致,但每次更新智能体都意味着要重新构建并重新部署镜像。
  • 把沙箱当作工具。智能体运行在你自己的服务器上,每当需要执行代码时,就通过 API 调用沙箱。

把沙箱作为工具调用的理由基于三点优势:无需重新构建镜像即可更新智能体逻辑,API 密钥保留在沙箱之外,智能体状态与执行过程相互隔离。

主要代价是网络延迟,因为每次执行调用都要经过网络。Deep Agents 同时支持这两种模式。

LangSmith Sandboxes:安全的代码执行,与我们端到端的智能体工程平台集成

我们开发 LangSmith 智能体工程平台,是为了补充我们的开源产品,让你能够对用 LangChain、LangGraph 和/或 Deep Agents 构建的智能体进行稳健的测试、部署和监控。由于沙箱往往是构建安全智能体的关键环节,我们在 LangSmith 中内置了一套托管方案。我们按照上文列出的最佳实践设计该产品,并对其进行了严格的渗透测试。LangSmith Sandboxes正被各种规模的公司使用,包括 Monday.com 这样的企业

每个 LangSmith Sandbox 都由一个专用 microVM 支撑,拥有独立的文件系统,从而在彼此之间以及与底层基础设施之间实现内核级隔离。你可以控制它们的生命周期,从启动到关闭再到最终销毁,并在过程中按需反复复用。你可以决定沙箱内运行的进程能获得怎样的网络访问权限(如果有的话)。我们还内置了一个授权代理,在出站流量离开沙箱后为其注入安全凭证,因此你无需把密钥放进沙箱,避免不可信进程访问并试图滥用它们。

你可以使用与可观测性、评估和部署功能相同的 API 和身份验证来管理 LangSmith Sandboxes。为用 LangChain、LangGraph 或 Deep Agents 构建的智能体添加沙箱使用,只需几行代码。

为什么选择 LangSmith Sandboxes:
遵循现代最佳实践进行安全防护
认证代理将密钥与不受信任的代码隔离
与 LangChain 和 LangSmith 生态无缝集成

如果你已准备好使用沙箱来让智能体既实用又安全,可以按照文档立即开始使用 LangSmith Sandboxes此处。