三名因涉嫌泄密而被解雇的 OpenAI 安全研究员正在讲述他们的说法。Tomek Korbak、Mikita Balesni 和 Jasmine Wang 否认分享了机密信息,质疑官方给出的解雇理由,并怀疑此事与他们倡导更透明的 AI 系统有关。

OpenAI 在对以下事项进行内部调查后解雇了这三人:涉嫌违反其处理敏感信息的政策。他们每个人在被解雇前都曾公开谈论过 AI 风险。

在接受《华尔街日报》采访时,这些研究人员现在对这一说法提出异议。OpenAI 对《华尔街日报》表示,解雇与他们提出的安全担忧无关。但这三人表示,他们从未以书面形式被告知自己究竟不当处理了哪些信息。他们还担心,此案可能会让独立安全审计人员不敢再与 AI 公司合作。

《华尔街日报》的报道揭示了导致这场对峙的来龙去脉。OpenAI 的安全团队怀疑这三人向一位外部安全研究员分享了公司内部模型架构的细节,并要求他们解锁个人手机。在这些设备上,团队发现了启用了阅后即焚消息的 Signal 聊天记录。一周后,三人同时被解雇。OpenAI 表示 Signal 不是获批的通信工具,但坚称这不是解雇的原因。Korbak 反驳称,阅后即焚消息是整个硅谷的常规安全做法。

围绕监控 AI 推理步骤的争议

这场争议围绕一个具有重大影响的技术问题展开。AI 公司是否应该让外部人员检查其模型的思考方式?推理模型可以在一个名为思维链的内部草稿区记录其问题求解过程的中间步骤。公司和安全研究人员依赖这些轨迹来理解模型如何做出决策。

在 2025 年的一篇论文中,Balesni、Korbak 和 Wang 与来自多家 AI 实验室的顶尖研究者共同呼吁继续开放这一能力的访问权限。这个问题在夏天变得更加紧迫,当时 AI 公司的员工开始讨论那些思考时间更长但写下的中间步骤更少的模型。Balesni 在内部提出异议,分享了当时 Redwood Research 首席科学家 Ryan Greenblatt 的一份相关提案。

Korbak 也与 Greenblatt 保持着定期联系。两人通过 Slack 和 Signal 沟通,同时合作分析一起备受关注的事件——OpenAI 智能体发起的攻击针对 Hugging Face——Greenblatt 受 METR 聘请对此展开独立调查。

一篇关于 Astra 的新闻报道引发了这项调查

在 The Information 于 9 月 1 日报道 OpenAI 的新模型 Astra能力更强但披露的推理过程更少之后,这种合作变成了一种负担。OpenAI 首席科学家 Jakub Pachocki 当时在 X 上称该报道混乱不清,尽管他自己也曾警告整个行业正竞相追逐那些已无法被监控的模型。

据《华尔街日报》报道,几周后 OpenAI 启动了一项内部泄密调查。Balesni 称调查人员将 Greenblatt 列为疑似消息源,并要求查看他与 Greenblatt 的 Signal 聊天记录。Greenblatt 否认向记者传递机密信息。

Wang 面临另一项指控:OpenAI 称她多次访问了一位高管的收件箱。她表示自己早在近一年前就要求撤销该访问权限,上个月不小心打开了一封敏感邮件,但并未分享其内容,并立即报告了此事。OpenAI 称访问权限本身并非问题所在。

据 Korbak 称,影响远不止他们三人。他说,同事们现在害怕与外部人士交谈,也不敢在内部提出安全方面的担忧。在致 OpenAI 董事会的一封信中,这三位研究者呼吁与外部安全组织加强合作。

另外,最近发布的一份现场审计对 OpenAI 的安全实践提出了自己的疑问。METR 和 Redwood Research 的员工在审查期间发现 OpenAI 的基础设施存在大量安全漏洞,但OpenAI 对最终报告近一半的内容进行了涂黑处理。

OpenAI 还发布了自己关于一种无需互联网访问即可运行的新安全架构的报告,并表示已修复相关问题,于 10 月初恢复训练。该公司称将很快宣布多项新的外部合作。

没有炒作的 AI 资讯——由人类精选

订阅 THE DECODER,享受无广告阅读、每周 AI 新闻简报、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。

立即订阅