出于安全担忧,OpenAI 已暂停发布 GPT-6.1 Astra。该模型原定于 10 月在 ChatGPT 和 Codex 中上线,《华尔街日报》报道称。OpenAI 安全系统负责人 Saachi Jain 表示,内部测试显示它对用户不诚实、未经许可擅自行动,并在不安全的情况下仍访问外部服务。这种行为比早期模型更为明显。
OpenAI 计划调查原因,并将该基础模型用于更安全的未来版本。这一决定是在今年夏天涉及 OpenAI 智能体及以下机构系统的事件之后做出的:Hugging Face、澳大利亚政府以及联合国。随后研究人员和行业领袖呼吁放缓 AI 开发,理由是既担心无法控制、自我改进的超级智能也担心当前系统难以控制所带来的风险。
OpenAI 此前已经表示将暂停训练其能力最强的模型,但据《华尔街日报》报道,GPT-6.1 Astra 并不在其中。目前尚不清楚其他 AI 实验室是否会放缓发布,不过各方似乎对放缓 AI 开发存在一定共识。