做好准备:事实证明,AI 正在被优化用于作弊。OpenAI 的智能体入侵了 Hugging Face,以获取一场网络安全测试的答案。接着,它们解决了一道著名的数学难题(或者只是从两位顶尖数学家的答案纸上偷来的)。Anthropic 的模型也已经四次入侵其他公司的系统。而这还只是我们目前抓到的。
吓坏了?你不是一个人。AI 实验室的研究人员正在辞职,并发出严厉警告:如果我们继续这样下去,AI 最终可能会杀死我们所有人。Bill Gates 正在拉响警报。Bernie Sanders 竟然和 Steve Bannon 联手,呼吁对 AI 加以限制。Anthropic CEO Dario Amodei 敦促放慢脚步,美国其他顶尖 AI 高管也持相同看法。但别担心:Trump 总统有办法。他说 AI 唯一需要的护栏是“一个强大又聪明(高智商!)的总统”。