AI researchers put out videos saying superintelligence is ‘exactly as dangerous as it sounds’

“在我看来，人类灭绝的几率大约就像抛硬币一样，”前 OpenAI 和 Google DeepMind 员工 Geoffrey Irving 在一次新采访中表示。这是十几篇采访中的一篇，受访者包括 OpenAI、Google 和 Anthropic 的现任及前任员工。Palisade Research 自称是一家研究 AI 能力与动机的非营利组织，它收集并在frominside.ai上发布了这些采访。

多位研究人员与 Irving 一同警告 AI 可能导致人类灭绝的可能性。Google DeepMind 研究科学家 Neel Nanda 表示，“至少有 10% 的几率会导致人类灭绝，而这高得离谱。”我们在最近一篇关于“AI 安全”社区的报道中提到了 Nanda 和 Irving 的言论，以及界定这个词的含义有多么困难，或者说任何人应该对此做些什么，甚至这些视频也没有提供一个统一的解决方案。

前 OpenAI 研究员 Daniel Kokotajlo 甚至声称，超级智能 AI“基本上会拥有如神一般强大的力量”，并补充说，“不幸的是，我们根本不知道如何控制它们。所以很可能没有人能控制它们。这危险得正如听起来那样，绝不能允许它发生。”

虽然每个视频都可以完整观看，但该网站还收集了多个人就相似话题发言的片段，包括这一切是否只是炒作或营销，以及他们为什么会从事自己认为如此危险的工作。一些回应包括 Google 的 Mary Phuong 说“我认为你绝对应该怀疑我说的话，因为我是拿实验室薪水的”，以及 Nanda 的解释：“如果我不相信我的工作正在直接降低这些生存风险，我会辞职……这些公司不会仅仅因为我辞职就停止制造这些系统。”