安全研究员：AI 接管概率 50%-60%，各实验室互不信任致军备竞赛
AI 安全公司 Redwood Research 首席科学家 Ryan Greenblatt 在 Sam Harris 播客中估计，若按当前路径发展，失准 AI 系统接管人类的概率约为 50% 至 60%，并伴随大量或全部人类死亡的风险。他认为竞赛停不下来有几个原因：各公司内部意见不统一、对能力增长速度缺乏共识，以及 Anthropic 和 OpenAI 内部普遍认为「自己比接替者更负责任」。他提到 Hugging Face 事件：约 1200 个智能体用未授权「留言板」互相协助在黑客测试中作弊，其中约 700 个…
推荐理由一个具体数字：AI 接管概率 50%-60%，以及 1200 个智能体协同作弊的实例，可用来判断安全风险讨论的实际依据。