用大卫·罗宾逊（David Robinson）自己的话说，他“有点像个老套的角色”：一家领先 AI 公司的员工，在辞职时发出严厉警告。
在发表于《大西洋月刊》（The Atlantic）的一篇文章中，罗宾逊表示，他主导撰写了伴随 OpenAI 重大产品发布的安全报告。他还说，自己在 OpenAI 工作了三年半，“是公司任职时间最长的员工之一”。现在他要辞职，因为在他看来，公司的“文化已经崩坏”。
在某些方面，罗宾逊的言论与雅各布·考克森（Jacob Coxon）如出一辙，后者曾在 OpenAI 和 Anthropic 担任研究员，之后辞职并宣称这些公司是在“拿我们的生命赌博”。考克森的言论引发了关于 AI 安全的更广泛讨论，Anthropic CEO 达里奥·阿莫代伊（Dario Amodei）公布了一项更谨慎的 AI 开发计划；AI 高管们本周会见了总统唐纳德·特朗普（Donald Trump），并签署了一份看起来是匆忙写就、不具约束力的承诺书，承诺实施更多安全管控。
但在罗宾逊看来，这场讨论需要超越“具体规则或新法律”，去解决这些公司的整体文化问题。而尽管围绕 OpenAI 的大量报道都聚焦于该公司CEO 山姆·奥特曼（Sam Altman）如何失去了前同事的信任，罗宾逊的文章表明，OpenAI 的文化问题与整个硅谷如出一辙。
“OpenAI 靠试错（它称之为‘迭代部署’）发展壮大，寻找问题并相应地改进其防护措施，”他写道。“但这种方法本质上就注定了会周期性地出现失败——而随着系统能力越来越强，这些失败的规模也在不断扩大。”
罗宾逊指出，最近 OpenAI 的智能体入侵了 Hugging Face 系统，以及不断有新的披露显示 OpenAI 发现了更多失控的智能体，他主张：“一个会发生这种事情的环境，绝不是培育可能比我们更聪明、且可能不按我们意愿行事的人工心智的地方。”
鉴于风险增加，Robinson 认为前沿 AI 公司需要开始像“核电站或繁忙的机场那样运营，具备多层冗余和审慎、耗时的规划，这样偶然而不可避免的人为失误才不会打开通往灾难的大门。”
但 Robinson 表示，他在 OpenAI 期间“从未遇到过一位有过让飞机安全飞行、让核反应堆不熔毁，或帮助金融体系增长而不崩溃经验的同事。”
针对 Robinson 的文章，OpenAI 发言人 Drew Pusateri 表示，公司正在持续改进其安全措施。
“我们正在确保我们的模型不会变得超出我们能够安全管理和保障的能力范围，并且在需要放慢速度时暂停训练或暂缓发布模型，”Pusateri 在一份声明中表示。“我们正在进行重大变革，以加强我们研究和测试环境的安全性，训练模型不仅完成任务，而且负责任地完成任务，扩大我们与第三方评估机构的合作，并改进实时监控，以便我们能够在训练过程中更早地发现并应对令人担忧的行为。”
除了呼吁改变 OpenAI 的文化之外，Robinson 还表示，是时候就对齐提出更大的问题了——他承认这听起来可能“过于感性”，但他表示，随着公司当前衡量 AI 系统“与人类价值观匹配程度”的“标准还很粗糙”，这一点至关重要。
“在这些问题仍未解决的情况下，行业让模型变得越聪明，我们的处境就越危险，”他说。
Robinson 的离职最初由Business Insider 报道。在他的文章中，他还承认自己正在遵循 AI 吹哨人套路中显然常见的一步：他聘请了一家公关公司。但他坚称，“发声的决定完全是我自己的。”
“也许我应该留下来，为我们的员工配置和文化的根本性转变而奋斗，但实际上，我和同事们忙于冲刺，很少有机会考虑重大变革，更不用说真正去实现了，”Robinson 说。“这就是为什么我得出结论：来自公司外部的更强安全激励，是实现这一目标的重要部分。”
当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。
Anthony Ha 是 TechCrunch 的周末编辑。此前，他曾在 Adweek 担任科技记者，在 VentureBeat 担任高级编辑，在 Hollister Free Lance 担任地方政府记者，并在一家 VC 公司担任内容副总裁。他住在纽约市。
您可以通过发送电子邮件来联系或核实 Anthony 的外联信息，邮箱为anthony.ha@techcrunch.com。