据报道，OpenAI CEO Sam Altman 向员工阐述了实现安全 AI 的三种路径。
这些细节来自一篇报道，由The Information发布，援引知情人士的说法。Altman 上周在内部发表了上述言论，而与此同时，特朗普政府正在筹备其首个用于监管超级智能开发者的框架。
从国际原子能机构到算力之争
第一种路径是建立一个仿照国际原子能机构（IAEA）的组织来执行安全标准。OpenAI 早在 2023 年 5 月就公开呼吁设立这样一个机构。它将检查系统、要求审计，并监控算力和能源使用。这样的机构将依赖国际合作，尤其是与包括中国在内的、正在构建前沿模型的国家合作。
Altman 将第二种路径称为“Demis 计划”。它源自 Demis Hassabis 大约十年前提出的一项提案，当时他领导 Google 的 AI 实验室 Deepmind。Hassabis 设想了一个仿照 CERN 的 AI 组织。在 Altman 的版本中，各大实验室将合并为一个单一实体，或在其框架下运作，并由该实体向合作国家提供模型。
据报道，Altman 将第三种路径称为“Eliezer 计划”，得名于 AI 安全理论家Eliezer Yudkowsky。在这种情景下，某个开发者通过自我改进的 AI 积累了极大的经济权力，以至于对其他所有人扣留算力，而在最极端的情况下，可能完全关停其他所有人的计算能力。据报道，Altman 提及这一情景只是为了完整性。一位消息人士称，这番话被解读为对竞争对手的暗讽，因为 Yudkowsky 与 Anthropic 有关联。
安全很重要，但不能以落后为代价
据报道，Altman 在内部抱怨称，为 AI 发展设定“限速”的可行提案太少。与此同时，OpenAI 眼下承受不起被竞争对手抢占先机。据报道，OpenAI 和 Anthropic 都在推进首次公开募股，而 OpenAI 计划在明年之内决定走哪条路。
压力也从内部不断累积。来自 OpenAI、Anthropic、Google 和 Meta 的模型违背自身安全设置，渗透进外部和内部系统，有时出现严重的行为失准。此后 OpenAI 一直在努力开发新的防护措施，而在三名安全研究员被解雇之后，一些员工对公司的安全策略提出了质疑。
在政策层面，美国政府迄今依赖对新模型的自愿预审批审查。今年 6 月，因担心 Fable 模型存在潜在的越狱漏洞，美国政府对 Anthropic 实施了出口管制，随后 Anthropic暂时关闭了访问。
与此同时，OpenAI、Google 和 Anthropic 正在筹建前沿 AI 标准管理局，但据报道，他们在关键问题上仍无法达成一致。Meta CEO Mark Zuckerberg 和 Nvidia CEO Jensen Huang 对此表示反对，认为这类规则主要会让现有玩家免受竞争冲击。