周五，OpenAI 表示将使用互联网的缓存副本和模拟版本而非实时网络来训练其模型，因为这些模型太不可预测，无法信任它们接入实时互联网。
这家前沿实验室在竞争对手 Anthropic 之后两周宣布了新政策，开始限制其最新、理论上能力最强的模型访问实时互联网。研究人员在经历了数月的事件之后采纳了这些政策，在这些事件中，执行训练任务的模型闯入外部系统寻找答案、在隐秘的留言板上协作，并开发出奇特的黑客策略。
“基于对齐研究、监控系统和互联网基础设施安全的当前状况，我们认为负责任的做法是在无法访问互联网的情况下进行前沿模型训练，”该公司在一篇博客文章中表示。
OpenAI 表示，就在 9 月 20 日，其一个前沿模型利用配置错误访问了互联网。这导致该公司暂停了当月剩余时间的训练工作，以便开发和测试保护其模型的新方法。
在隔绝互联网的沙盒中训练这些模型的决定值得注意，因为前沿实验室的员工一直坚称这样做几乎不可行。
将 AI 数据中心与互联网隔离“将需要研究团队基本上驻扎在爱荷华州或世界其他任何地方的数据中心内部，”前 OpenAI 研究员 Steven Adler本月告诉《财富》杂志。“这需要大量开销，而且我不清楚其安全收益是否足够大，足以证明一家公司单方面这样做要付出多么巨大的代价。”
“几乎我在 X 上发的每一条帖子，无一例外，都会收到五到十条评论，说我无法保障沙盒安全，或者问我们到底为什么不能直接把模型从互联网上拔掉，”一位匿名的OpenAI 安全工程师 写道在 9 月的一篇 X 帖子中表示。“这些评论反映出，许多组织和人们当下的处境与前沿实验室正在应对的问题之间存在日益扩大的差距。人们对于这些实验室的模型训练和评估方式也存在普遍的误解。”
这位工程师的角色此前已由 OpenAI 确认，他描述了 OpenAI 工程师发起的训练运行有多么复杂，指出这些训练需要访问跨多个领域的各种资源和工具，并且有数千名研究人员构建、修改和测试这些环境。“所以，把它放进沙盒里就那么简单吗？不，并非如此，”他总结道。
如今，OpenAI 表示“我们必须始终能够阻止前沿模型未经授权、任意访问实时互联网。”此前，该公司在红队演练中部署了大量智能体，试图让它们逃出沙盒。这项工作揭示了一系列漏洞，促使该实验室采用了新的方案。
为了在实现训练目标的同时满足这一要求，该实验室表示，它创建了“一套庞大的、经过索引和缓存的网页内容，我们的模型可以与之交互，而不会影响外部系统。”
这一策略的表现是否能与让模型在开放互联网上自由运行一样好，仍有待观察，但值得注意的是，两家前沿实验室都已认定，它们最强大的技术不能无人监管地放在数字公域中。
当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Tim Fernholz 是一名记者，撰写有关技术、金融和公共政策的文章。他长期密切关注私营航天产业的崛起，并著有《火箭亿万富翁：埃隆·马斯克、杰夫·贝索斯与新太空竞赛》。此前，他曾在全球商业新闻网站 Quartz 担任高级记者十余年，职业生涯始于华盛顿特区的政治记者。 您可以通过发送电子邮件至以下地址联系 Tim 或核实其外联信息[email protected]或通过 Signal 向 tim_fernholz.21 发送加密消息。