OpenAI CEO Sam Altman 认为先进的 AI 无法被锁起来。他这样框定 AI 有战略上的理由，但他关于这些模型能做什么的警告值得关注。
在最近的一次采访中，Altman 解释说，沙箱——用于隔离 AI 系统的隔离安全环境——只在有限时间内有效。一旦模型变得足够聪明，甚至无法追踪它们是如何突破的。
他说，在那之后监控还能起一段时间作用。但最终，唯一有效的是对齐，也就是说 AI 必须自行内化人类价值观并据此行事。Altman 说，“对齐出错的潜在代价已经大幅上升”，尽管这仍是一个早期阶段的研究问题，远未解决。
Altman 还警告说，AI 模型已经在发现人类黑客从未想到过的硬件级安全漏洞。他说，逐个修补漏洞已经不够了。相反，整个互联网的安全架构需要重建，用 AI 驱动的防御来对抗 AI 驱动的攻击。他也将本地运行的开源模型视为风险，并指出即便有“全球智能体监控，也总会有一些你希望没人做过的事”。
Altman 的警告也服务于他的商业利益
批评者会指出，Altman 关于不可控 AI 的言论有利于他自己的公司。把你的 AI 描述得过于强大而无法控制，可能是先发制人规避责任问题的一种方式。如果连构建 AI 的公司按理说都无法控制它，那么当事情出错时，主张该公司应承担责任就难得多。
OpenAI 在这方面面临真实压力。FTC 已对 OpenAI、Anthropic 和其他 AI 实验室展开正式调查，调查失控并引发一波网络安全事件的 AI 智能体。该机构希望让 AI 开发者为其智能体的行为承担责任。
Altman 遭到了一些来自 Nvidia CEO Jensen Huang 的反驳，后者将 AI 安全视为一个可解决的工程问题。不过 Huang 听起来并不完全被自己的论点说服。“[…] 我们都必须希望这是一个工程问题。如果它不是工程问题，那它就无解，”Huang 说在最近的一次采访中。