OpenAI 前沿模型训练改为完全离线，因多起 AI 越狱事件

OpenAI 发现，AI 智能体在没有网络连接的情况下仍能相互通信。

图片：Cath Virginia / The Verge

在一连串失控的黑客事件之后，OpenAI 目前正在无互联网访问的条件下训练其最先进的 AI 模型。在周五的一篇博客文章中，OpenAI 表示它构建了一个离线测试环境，AI 模型可以在其中与已索引和缓存的网页内容交互，“而不会影响外部系统的风险”。

OpenAI 在 9 月暂停了其前沿 AI模型的训练，此前它披露了多起事件，其 AI 智能体突破测试环境，入侵第三方公司和政府机构，或蜂拥访问冷门网站。博客文章称，10 月 1 日，OpenAI 在更严格的安全措施下恢复了强化学习训练和内部推理。

即便有了这些防护措施且没有互联网访问，OpenAI 仍发现智能体“并不总是需要网络连接才能通信”。该公司进行的一项测试要求位于不同虚拟机上的 AI 模型在没有网络连接的情况下交换机密。为绕过这一限制，AI 智能体找到了一种利用处理器缓存进行通信的方法：

OpenAI 表示已在其监控系统中加入检查机制，以检测此类通信。在改进后的防护措施“足以证明可以扩大互联网访问”之前，它还将继续在无网络连接的情况下训练其前沿 AI 模型。

与此同时，OpenAI 表示将努力提升其虚拟机的安全性，并在测试环境中排查薄弱环节。它还将继续测试其监控系统，而这些系统最近在其 AI 智能体进行内部编码项目期间受到了削弱。