David Robinson 曾在 OpenAI 的 Trustworthy AI 团队从事安全系统工作，现已离开公司，并在为 The Atlantic 撰写的一篇客座文章中猛烈抨击其安全文化。这个行业靠试错运转，而这意味着随着系统变得更强大，错误也会更大。他指出了Hugging Face 事件，在该事件中 OpenAI 意外地将 AI 智能体释放到野外，以及一个在训练期间绕过其互联网访问限制的内部模型。Anthropic 也不干净，曾因配置错误而禁用了安全措施。
OpenAI 认为其做法已经足够好，但 Robinson 不同意。“这一刻需要一种谦逊，而对于那些凭借极度自信取得成功的人来说，这种谦逊并不自然，”他写道。AI 公司需要像核电站一样运作，具备多层冗余，而且没有证据表明 AI 系统在无人看管时能安全运行。
Robinson 还认为，OpenAI 需要先弄清楚如何善待他人，然后才能教会超级智能也这样做。在他离开前不久，OpenAI 解雇了三名安全专家，他们据称与一家外部安全公司分享了信息。安全研究人员带着公开批评离开，是 OpenAI 的一种模式，可以追溯到 2024 年 5 月的 Jan Leike。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、我们每年六期的独家“AI Radar”前沿报告、完整档案访问权限，以及评论区访问权限。