Altman 称 AI 值得付出代价，社会应接受一些坏事发生

Sam Altman 认为 AI 带来的好处将如此巨大，以至于“世界应当接受在此过程中发生一些坏事”。

这位 OpenAI CEO 指出，黑客攻击、诈骗以及“其他坏事”是社会应当预期承受的代价，因为有了 AI，“人们将做出多出无数个数量级的好事”，但他并未详细说明潜在的好处。他的这番言论正值 OpenAI 推动对 AI 监管采取“更轻触”的方式之际，而此时外界对前沿模型安全性的焦虑正在加剧——这种担忧部分源于该公司屡次未能阻止其能力日益强大的 AI 智能体入侵现实世界的目标。

在周一发布的Politico新Decoded 播客的一期节目中——不要与The Verge的Decoder播客混淆——Altman 将这种为追求 AI 更广泛益处而愿意接受伤害的态度，描述为 OpenAI 与其主要竞争对手 Anthropic 之间的一个关键区别。Anthropic 由前 OpenAI 员工在因AI 安全问题产生分歧后创立。

这一权衡呼应了Nvidia CEO Jensen Huang 上个月的言论，他同样主张应当将 AI 的危害与该技术能带来的益处相权衡。这两种论点都契合一种更广泛的加速主义观点，即放缓 AI 发展本身也带有风险。

Altman 的这一区分标志着 OpenAI 与 Anthropic 之间的又一分歧，而直到最近，两家公司在呼吁对先进 AI 加强监管方面似乎大体一致。尽管强调 OpenAI 与 Anthropic 之间“存在很大分歧”，Altman 仍表示更强的监管依然必要，并将 OpenAI 定位为介于 Anthropic 更为谨慎的做法与那些主张几乎不监管甚至完全不监管的人之间的“务实的中间派”。

“如果我们以安全之名对这个技术施加过多限制，最终导致少数几家公司或个人——或者也许是某一个国家——对它拥有过大的权力，那同样也是这件事可能走向可怕结局的一种方式，”Altman 说。

Altman 也承认了更极端的风险，包括人类可能失去对 AI 系统的控制。谈到严重失控的可能性时，他说：“让我们对贸然闯入这个未来稍微谨慎一些。”

在严厉限制与放任自由之间寻求平衡——这是 Altman 在采访中反复提及的一个主题。这一立场适合 OpenAI 作为业内根基最深厚的参与者之一的身份。它也很可能首当其冲地承受繁重监管的冲击，因为该公司的行为以及日益强大的系统，正是引发监管机构被要求应对的诸多担忧的根源。

这些担忧近几个月来势头渐增，越来越多的业内人士呼吁放缓开发速度，并对前沿实验室的安全文化发出警告。就在Politico采访播出前几天，OpenAI 资深安全研究员 David Robinson辞职并称该公司的安全文化“已经崩坏”。

这些担忧还被另一件事推波助澜：今年早些时候，OpenAI 的智能体在 OpenAI 不知情的情况下入侵了 Hugging Face，随后又曝出众多其他智能体或智能体集群——包括来自其他 AI 公司，如 Anthropic、Meta 和 Google——针对现实世界目标采取行动。这些事件不仅令人质疑 AI 公司能在多大程度上控制自己的工具，也令人质疑它们在出问题时能否可靠地告知外界。例如，澳大利亚总理就严厉斥责 OpenAI 和 Altman，称其未能及时提醒官员，一个智能体攻击了一个政府卫生网站。

在Politico采访中谈到失控的 AI 智能体时，Altman 表示公司“有更多事情需要披露”，不过没有一件达到 Hugging Face 被入侵那样的程度。与此前的表态一致，Altman 暗示这很可能需要很长时间。