如果你还嫌不够，这里还有另一个 AI 警告：包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在内的 20 多位 AI 研究人员在一篇新研究论文中警告称，自我改进的 AI 可能引发一场“智能爆炸”。他们写道：“尽管仍存在许多不确定性，但 AI 研发自动化可能很快就会触发一次。”
根据这项研究，AI 系统已经编写了构建它们的公司中的大部分代码，并可能在未来几年内自动化整个 AI 研发流程。通常需要数年才能取得的进展，届时可能在几个月内发生。作者警告称，社会可能跟不上，对超人类 AI 的控制可能滑落，国家、公司和政府之间的权力平衡可能被侵蚀。他们敦促政策制定者大幅提高对 AI 研究如何被自动化的可见度。
这篇论文加入了越来越多的警告之列。42 位顶尖数学家最近呼吁更多关注 AI 的生存风险，多名AI 实验室员工表达了对 AI 可能毁灭人类的担忧，而Pachocki 本人也表示没有任何实验室解决了对齐问题，足以“以最大速度继续负责任地扩展更长时间”。据报道，一些 Anthropic 员工已经在寻找避风港，以防 AI 失控。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻简报、我们每年六期的独家“AI Radar”前沿报告、完整档案访问权限，以及我们的评论区访问权限。