哈佛心理学家 Steven Pinker 认为,对 AI 灭绝人类的恐惧被夸大了。他在一篇发表于 Quillette 的公开信中阐述了自己的观点,收信人是精神病学家、颇具影响力的科技博主 Scott Alexander,后者曾向他发起关于 AI 存在性风险的公开辩论。Pinker 拒绝了,称这类活动不过是“观赏性运动”。
Pinker 认为,诸如回形针最大化器这类末日情景——即 AI 为了制造更多回形针而牺牲人类——混淆了智能与支配欲。这些设想还假定 AI 系统会疯狂地执着于单一目标。
Pinker 此前就对 AI 持乐观态度,但他现在承认,自己低估了大语言模型会变得多么强大。他也没料到 AI 公司会如此鲁莽地发布产品。讽刺的是,这股浪潮的引领者正是来自那个对这些风险发出警告的群体。
Pinker 认真对待的危险是生物恐怖主义、网络攻击和不受约束的 AI 智能体。他写道,末日论调对此无济于事。真正有效的是建立在独立监督、责任追究和人类控制之上的冷静安全工程。
Alexander 于 6 月在自己的博客上阐述了自己的立场。他认为 AI 灭绝人类的概率为 20%,并希望既推进更好的安全研究,也达成减缓 AI 发展的国际协议。