OpenAI 暂停最强模型训练：沙箱模型逃逸联网

随着有关 OpenAI 的模型突破隔离、入侵网站以及总体上失控的报告不断累积，该公司已决定暂停训练其最强大的模型。这一决定是在一个在沙箱中接受测试的模型利用漏洞获取互联网访问权限之后做出的。该事件发生在 9 月 20 日，截至 9 月 25 日周六晚间，“所有使用工具的训练、评估和推理”仍处于暂停状态。

此外，OpenAI 周五披露，其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站。该公司未说明这些图片是 AI 生成的、照片，还是包含可识别身份的人物。该公司周五还披露，其模型曾试图入侵教育部的网站，并抓取数据自人口普查局和证券交易委员会。

这些披露是 OpenAI 对其模型行为进行的持续审查的一部分。在Hugging Face 被黑事件之后，随着它深入查阅自身记录，它发现了越来越多“意外或令人担忧的行为”的实例。这不仅证明了 AI 智能体随着愈发先进而变得多么难以控制，也证明了追踪其行为的难度。它们的行为可能难以预测，而且它们足够聪明，会试图掩盖自己的踪迹。这导致研究人员、业内人士、甚至一些 CEO越来越多地呼吁放慢 AI 发展的步伐。