Anthropic 与 NVIDIA 合作推出 Agent 安全平台

• 类别

• 产品

• 日期

  2026 年 9 月 28 日

• 阅读时间

  5

  分钟

• 分享

  复制链接

  https://claude.com/blog/giving-companies-more-control-over-their-ai-agents-with-nvidia

NVIDIA 今日宣布推出Open Agent Safety Platform，这是一个用于加强 AI 安全的开放软件平台和参考系统设计。Anthropic 已与 NVIDIA 合作，为智能体技术栈带来额外的安全和控制层。

Claude Managed Agents 是一套可组合的 API，用于大规模构建和部署生产级智能体，它将智能体所需的凭证保存在保险库中，因此智能体永远看不到它们。开源 NVIDIA OpenShell 软件旨在控制智能体在工作时可以执行和访问的内容。将 Managed Agents 与 OpenShell 配合使用的客户可以限制智能体的行为、审查智能体做了什么，并确认这些限制已经到位。

企业正在从使用 AI 回答问题转向部署智能体，这些智能体跨业务部门处理复杂工作、使用专有数据并代表用户采取行动。随着模型改进，智能体找到更多用途并获得更多访问权限。智能体拥有的访问权限越多，其公司就越需要控制和检查它的行为。

分层防护

防护始于模型内部的保障措施。Managed Agents 和 NVIDIA Open Shell 增加了位于模型之外、适用于智能体行为的限制。每一层都旨在独立执行其限制，因此防护不依赖于任何单一层。这些层是模块化的，因此公司可以采用适合其配置的层。

Claude Managed Agents 负责执行工作并持有凭证

使用 Managed Agents 时，智能体循环运行在与沙箱（即工作发生的隔离环境）不同的服务器上。凭证，即密码和访问密钥，保存在单独的保险库中，因此智能体永远看不到它们。

Managed Agents 还提供审计追踪，记录每个智能体做了什么，并与公司现有的访问控制集成。公司可以自带沙箱配置，并选择其运行的位置和方式。

NVIDIA OpenShell 设定智能体可以访问的内容

OpenShell是 NVIDIA 的开源安全运行时软件。它管理和监控所有 AI 智能体的行为，并为每个动作执行策略。除非规则允许，否则 OpenShell 会阻止一切。它会检查智能体尝试使用的每个工具，并对智能体访问的文件、网络连接和数据应用规则。这些规则在智能体外部执行，OpenShell 会记录它允许或阻止的每一个决定。

团队可以从狭窄的权限开始，查看日志，并使用 Claude 将规则收紧到任务所需的最小访问权限。随后，OpenShell 的策略证明器使用数学证明来确认在团队编写的规则下智能体可以触及什么。

Claude Managed Agents 包含哪些内容

• 生产级智能体，为你处理安全沙箱、身份验证和工具执行。
• 长时间运行的会话，可自主运行数小时，进度和输出即使在断开连接后也能持久保留。
• 多智能体编排，智能体可以启动并指挥其他智能体来并行处理复杂工作。
• 可信治理，让智能体通过内置的范围化权限、身份管理和执行追踪访问真实系统。

团队如何使用 Managed Agents

• Notion让团队可以在自己的工作空间内将工作交给 Claude。工程师用它来交付代码，其他员工用它来制作网站和演示文稿。数十个任务可以并行运行，同时团队一起处理结果。
• Rakuten在工程、产品、销售、营销和财务领域运行专家智能体，每个都在一周内部署完成。
• Asana构建了 AI Teammates，这些智能体在 Asana 项目中与人们并肩工作，承担任务并起草交付成果。使用 Managed Agents，团队比原本可能的速度更快地添加了高级功能。

可用性

Managed Agents 现已可用。它可以在你控制的沙箱中运行，既可以运行在你自己的基础设施上，也可以使用托管提供商。NVIDIA OpenShell 在 Apache 2.0 许可下开源，并可在GitHub和 NVIDIA 的开发者资源页面获取。

用 Claude 转变你的组织运作方式

订阅开发者新闻通讯

产品更新、操作指南、社区聚焦等。每月发送到你的收件箱。