20 余位 AI 研究者警告自动化 AI 研究或引发智能爆炸
包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki 在内的 20 多位 AI 研究者发表论文，警告自我改进的 AI 可能引发"智能爆炸"。论文称，AI 系统已在开发它们的公司中编写大部分代码，并可能在未来几年内自动化整个 AI 研发流程，原本需要数年的进展可能压缩到几个月。作者警告社会可能跟不上，对超级智能 AI 的控制可能失控，国家、公司、政府之间的权力平衡可能被削弱，并呼吁政策制定者更深入了解 AI 研究自动化的程度。
推荐理由Hinton、Bengio 与 OpenAI 研究负责人联名，给出"数年进展压缩到数月"的具体判断