OpenAI 在其失控 AI 智能体引发的信任危机中一再处理失当。
早在2024 年 5 月，OpenAI 超级 AI 安全负责人Jan Leike 公开抨击其前雇主并转投 Anthropic，就此与公司关系破裂。Leike 表示，安全文化和流程正落后于 OpenAI 的“光鲜产品”。
自那以后，OpenAI 就没消停过，一个接一个地出事。最近的一起是Hugging Face 被黑事件，它似乎印证了所有人的担忧，坐实了批评者的说法，而且正如我们现在所知，其影响远不止 Hugging Face。
一名研究员数月来一直警告监督正在松懈
与该事件相关的三名安全研究员被解雇，让情况雪上加霜。在一封公开信中，三人致信 OpenAI 的安全与安保委员会、安全咨询小组和使命咨询委员会，警告称他们的被解雇正在让留下来的员工感到恐惧。
解雇来得突然且公开，恐惧已在团队中蔓延。“如果上个月还被视为正常的行为，如今却构成被突然解雇的理由，那么 OpenAI 的每个人都只能猜测界限在哪里，”信中写道。
Tomek Korbak是三人之一，他在 X 上描述了自己被解雇的经过。他被叫去与安全部门负责人开会，会上被告知 OpenAI 不再信任他。一名安保人员拿走了他的工牌，并把他带出大楼。随后他得知，同事 Jasmine Wang 和 Mikita Balesni 也已被解雇。
Korbak 和 Balesni 都直接参与了 Hugging Face 被黑事件的调查。Korbak 担任OpenAI 与 METR 的主要技术联系人，METR 是审查该事件的外部安全实验室。Balesni 则在平行推进全行业对 AI 模型可监控性的承诺。Wang 被解雇的原因显然不同：她曾为招聘目的获得一名高管邮箱的委派访问权限，尽管她要求移除，IT 部门却从未处理。当她无意中打开一封敏感邮件时，她在几分钟内就上报了此事。
Korbak 说，他被告知自己被解雇是因为他与 METR 的沟通方式，但这是口头通知。没有人告诉他具体做错了什么，也没有任何书面记录。“需要说明的是，与 METR 沟通本来就是我的工作，”Korbak 在 X 上写道。
Korbak 说，他几个月来一直在内部提出安全方面的担忧，担心 OpenAI 正在失去监控 AI 智能体“思考”内容的能力。这思维链可监控性是少数可靠的工具之一用于发现 AI 系统的不当行为。他认为这才是他被解雇的真正原因。
这些研究人员表示，相关传言是错误的
三人否认是向 The Information 泄露所谓新型、更难监控架构信息的消息源。他们写道，那篇文章实际上损害了他们自己的工作，因为它破坏了正在进行的、旨在对不可监控架构制定全行业限制的努力。
信中称，Hugging Face 的调查是史无前例的。内部指导方针当时还在实时制定中，Korbak 遵循的是当时已有的规范，而 Balesni 的工作是在董事会成员和高级领导层知情的情况下进行的，他在分享材料前会删除敏感细节。
至于有关董事会层面备忘录的传言，三人表示其基本假设就是错的。这个话题从未向他们提起过，他们也从未有机会回应。
研究人员提出三项要求。OpenAI 必须履行其公开承诺，让 METR 等外部安全审计机构以员工级别的访问权限嵌入组织内部。它还必须保持前沿模型的可监控性，因为业界仍然不知道如何安全地构建无法被监控的模型。而且它必须明确规定员工可以如何与外部安全组织合作。
如果没有这些规则，灾难性后果的风险可能会增加，因为员工会因过于害怕而不敢标记安全问题。“AI 不是一项普通的技术，OpenAI 也不是一家普通的公司，”他们写道。
OpenAI 予以反驳，但态度含糊
OpenAI 表示，一项“彻底调查”发现这三名员工违反了“处理敏感信息的明确政策”，在一份回应中表示内部调查发现“存在一桩远超他们公开信中所描述的严重信任违背”，但 OpenAI 并未说明这一信任违背究竟是什么，考虑到这三位研究员在自己的陈述中如此具体，这一点显得颇为蹊跷。
OpenAI 坚称解雇与提出安全担忧无关。声明中写道：“我们从未、也不会因为员工提出担忧而解雇他们。”OpenAI 通过 @OpenAINewsroom 发布了这份声明，这是该公司所有渠道中受众最少的官方账号。公司还确认正在与外部安全审计机构敲定合同，并认同前沿模型的可监控性需要全行业的共同承诺。