Michael I. Jordan 在 2016 年被《科学》杂志称为“最具影响力的计算机科学家”，他称关于 AI 存在性威胁的警告纯属科幻小说。在一次内容广泛的采访中，他抨击了末日论者、公司创始人和天真的初级研究人员。
Jordan 是 UC Berkeley 荣休教授，他在一次接受《解放报》采访时对 AI 末日论言论进行了强烈反驳。这位 70 岁的机器学习先驱如今全职在 Inria 工作，这是位于巴黎的法国国家数字科学与技术研究院，他在那里领导新设立的“市场与学习”讲席。当被问及今年夏天的 AI 讨论时，他称其“令人极其沮丧”。
Jordan 早在 2019 年就警告过对 AI 一词的鲁莽滥用。“我不是唯一这么说的人。很明显，这会造成我们现在看到的这种歇斯底里，”他说。“你已经看到发生了什么：AI 还不够，于是他们开始谈论 AGI，现在又变成了‘超级智能’……”
辞职是“道德表演”
Jordan 将 AI 公司对监管的要求斥为“作秀”，是一种说“看，我们是好人”的方式，而他们“希望完全控制自己如何被监管”。
年轻 Anthropic 研究员 Jacob Coxon 的辞职在 9 月初引发了一波围绕“AI 末日”情景的集体歇斯底里，在 Jordan 看来，这是一个教科书式的例子。他说，这些公司的许多年轻员工“并不是真正的工程师”。“他们来自人文学科、哲学或其他学科。他们 25 岁，很天真，不做工程工作，从未在真正为真实的人开发真实产品的大型公司工作过，也没有那种纪律。”
他们“聚在一起，有点像 1920 年代巴黎咖啡馆里的场景，谈论这些宏大的科幻构想。”当他们辞职时，他们知道自己会引来关注。“这让他们感觉自己很崇高，并被视作非常重要的人物。他们声称自己放弃了金钱，但实际上，他们早已握有股票期权。”Jordan 认为整件事就是“一场宏大的道德表演，无助于它声称要追求的真正目标。这里面有大量的天真，而这种天真又与某种玩世不恭相伴而生……”
超级智能属于科幻
“超级智能”是“一个科幻术语，”Jordan 说，“而我目睹的很大一部分争论都属于科幻的范畴。”偶尔讨论一些天马行空的场景无妨。“在幕后把它当作一个科幻话题来谈，没问题。但当它变成主流话语时，就非常非常有害了。对技术发展、对年轻人、对各国的思维方式都是如此。”这个词目前正被特朗普总统推给美国科技精英，而他们乐于配合。
Jordan 对诺贝尔奖得主 Geoffrey Hinton 尤为严厉，后者一向有发表大胆言论的记录， 而这些言论并不总能站得住脚。“Geoffrey Hinton 从未创建过一家为真实的人提供真实服务的公司，”他说。“Hinton 相信我们已经弄清了大脑的运作方式，并且可以在硅基上复制它；因此我们就能想复制多少次就复制多少次，再通过把所有这些副本学到的东西结合起来，我们就能获得某种指数级增长，于是乎：超级智能。这个论证中的每一步都不可信。在这里，我们身处科幻的国度。”
他对以下这位则稍微宽容一些Yoshua Bengio。“Yoshua 有点不同；他会采取行动，做直接聚焦于安全的事情。”Bengio 的警告往往针对当前 AI 技术的缺陷，比如智能体集群失控。
Jordan 这样描述OpenAI 智能体对 Hugging Face 的入侵是糟糕的工程实践。“在化学工程中，我们绝不会允许爆炸发生，只为看看事情能糟糕到什么程度。”OpenAI“在进行相当愚蠢的实验，让智能体为所欲为，还鼓励这种行为。”末日论者则喜欢把它渲染成可怕的东西。“天哪，这些智能体有自我意识，正试图找到毁灭人类的方法。”在 Jordan 看来，这也属于科幻。
对数据中心的万亿美元赌注
Jordan 认为大规模的数据中心投资“只是一场巨大的赌注，但我们完全不知道它能否得到回报。”LLM 在自然语言任务上已经足够强大，而在数据中心上花费数万亿美元未必能带来更多收益。“相反，我们往往希望基于本地知识，加入某个领域的少量专业知识。但你不需要一个庞大的数据中心来做到这一点。尤其是当你使用开源权重模型并将其集成到公司内部时。”