微软 CEO 呼吁给 AI 踩下“紧急刹车”。
微软 CEO 呼吁给 AI 踩下“紧急刹车”。
作者 Terrence O'Brien
2026 年 10 月 10 日，UTC 晚上 10:10
图片：Cath Virginia / The Verge，Getty Images
Terrence O'Brien
是 The Verge 的周末编辑。他报道科技行业超过 18 年，对合成器也颇有心得。
在一篇发布在 X 上的长文中，微软 CEO 阐述了他对高度先进的 AI 模型所带来危险的看法，以及如何应对这些风险。Nadella 表示，我们不能再接受这样一个世界：AI 被视为“一组嵌套的黑箱”，其建议和行动我们只能接受或拒绝。他呼吁建立一个更透明的体系，让模型可以被约束、被观察，并留下“防篡改的人类可读证据”。
他的许多建议与我们从业内其他人那里听到的一致：及时披露事件、独立审计、可验证的数据，以及约束。正是在最后一点上，他似乎比该领域的一些人走得更远，他说：
我们必须假设一个模型已被攻破，并从一开始就将其约束住。把它想象成紧急刹车。授权人员应始终能够在模型执行任务中途将其暂停或关闭。更先进的模型将需要更先进的约束技术，而我们需要在这些技术上实现标准化。
遗憾的是，Nadella 在整篇文章中还将 AI 称为“超级智能”。
关注话题和作者来自这篇报道，以便在您的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。
- Terrence O'Brien