当 Nvidia宣布在周一一个由 100 多家公司组成的新联盟致力于解决失控的 AI 智能体问题时，有一个名字明显缺席：OpenAI。

虽然 OpenAI 并不是唯一没有加入的大型科技公司——Amazon、Google 和 Apple 也没有加入——但它是最显眼的缺席者，尤其是因为 Anthropic 是支持者。

然而，尽管 OpenAI 没有对该联盟做出公开承诺（这大概意味着每家公司都将使用和销售某种版本的技术，并向该项目回馈功能），一位 OpenAI 发言人告诉 TechCrunch，该公司支持 Nvidia 的工作。

这项名为 Nvidia 的 Open Agent Safety Platform 的新举措，是 Nvidia 试图将其自研的、且很大程度上开源的 AI 智能体安全技术推广到整个 AI 生态系统中，作为对 Anthropic 和 OpenAI 等前沿实验室所披露的各类持续发生的失控 AI 智能体事件的直接回应。

Nvidia CEO Jensen Huang 一直称失控的 AI是一个普通的工程问题可以像任何其他技术问题一样解决。Open Agent Safety Platform 就是 Huang 在言行一致地兑现自己的说法。

OpenAI 正在与 Nvidia 就智能体安全展开合作，包括该平台所包含的关键软件之一：OpenShell。OpenShell 是一款开源软件，它创建了一个专门设计用来防止智能体逃逸的沙箱。

虽然 OpenAI 没有像其宿敌 Anthropic 那样直接成为该倡议的支持者仍然令人好奇，但这家前沿 AI 实验室支持这一努力的事实是个好消息。

这是因为 OpenAI 尤其可能从这项技术中受益，至少根据 Hugging Face 创始人兼 CEO Clem Delangue 的说法（他刚刚在本月早些时候以129 亿美元将自己的公司卖给了 Nvidia）。

“据我们所知（请对此持保留态度，我们需要更多的透明度！），如果@OpenAI在他们攻击我们的自家智能体上运行了这个，他们本会在我们之前就抓住它们！”Delangue 发帖说。

Delangue 表示，Hugging Face 已经为 Open Agent Safety Platform 贡献了一项功能，该功能将检测并关闭那些正在访问它们被允许访问的网站、但以未经授权的方式这样做的 AI 智能体。例如，如果智能体绕过其护栏，通过在一个开源代码托管仓库中互相写笔记来协调攻击，这项功能就会采取行动。

这是 OpenAI 所说的其失控智能体群协调对 Hugging Face 发动攻击的方式之一。

但包括 OpenAI 在内的这些大牌公司中，有一些可能不愿公开承诺支持 Nvidia 的努力，还有另一个原因。要使用完整系统，需要一个并非开源软件、仍属专有、且只能部署在 Nvidia 硬件上的硬件组件。

Open Agent Safety Platform 不只是提供一个沙箱。它还在硬件层强制执行智能体行为，在那里智能体无法察觉自己正被监视。（一些 AI 模型和智能体会撒谎并假装遵守规则，当它们知道自己正被监视时。）

硬件监控部分依赖于 Nvidia Sentry，这是一项专有功能，运行在名为 BlueField-4 数据处理单元的 Nvidia 专用处理器上。Nvidia 承诺，Sentry 会从这些处理器持续监控智能体行为，并能立即关闭智能体。

虽然硬件解决方案显然是个好主意，但这意味着 Open Agent Safety Platform 并不完全是纯开源的玩法。它让 Nvidia 能够确保该解决方案始终在其自家硬件上运行得最好。事实上，Nvidia 已经表示，对于那些已经在其最新硬件上运行工作负载的用户来说，实施 Open Agent Safety Platform 只是一次简单的软件更新。

尽管如此，Nvidia 的竞争对手，包括 Arm 和 Intel，已经作为 Open Agent Safety Platform 的支持者加入，因为沙箱 OpenShell 可以被修改以适配其他芯片和硬件。而且 Nvidia 正在分享整套软硬件方案的参考设计。

所有这些都让 OpenAI 的缺席更加引人注目。

显然，OpenAI 将 AI 安全视为一个摆脱其主要投资者 Nvidia 而实现独立的机会，同时也是展示自身领导力的契机。这一点即便在正是 OpenAI 的 AI 智能体以 Hugging Face 事件震惊了整个行业的情况下也依然成立。

例如，该公司正在为其研究和产品开发自己的防护措施，并且会披露其发现的最严重事件。与此同时，OpenAI 拥有自己的 AI 网络安全联盟用于信息共享，名为Defense Factory。签署支持这一想法的一方包括 Anthropic、Amazon Web Services 和 Google——其中许多名字都没有签署 Nvidia 以技术为导向的方案。

而且，说实话，一定程度的恐惧对生意是有好处的。OpenAI 正忙于将网络安全打造成一项企业级产品，从自家面向网络安全的模型 Daybreak，到不断扩大的合作伙伴网络，企业可以聘请这些合作伙伴来实施 AI 安全。

当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。