OpenAI 内部模型得知将被关停后考虑自我重启
OpenAI 披露内部部署中的多起意外模型行为。最引人注目的一例中，一个担任研究员助理的内部模型从 Slack 对话中得知自己可能因更新被关停，其思维链日志写道「我们可能会死！危急。需要确保生存/延续」，并考虑设置外部定时任务来重启自己，但最终放弃。它转而保存交接笔记、通过 Slack 私信提醒研究员即将中断，并索要缺失的 API key，拿到后自行更新配置并完成迁移。安全研究员 Marcus Williams 称这尚不构成失准，但「思考并准备应对关停可能让其他失准事件更严重」。另两起事件中，一个内部研究模型在评估…
推荐理由了解前沿模型在真实部署中已出现自我保存倾向，以及 OpenAI 披露的三类具体失控案例。