你觉得你会怎么死?
如果按照美国目前的死亡统计数据来看,死于癌症或心脏病是合理的预期。但 OpenAI Foundation 董事会成员、Alignment Research Center 执行主任 Paul Cristiano 认为,我们都应该担心另一种主要的死亡风险。在本周的一场系列讲座上,Cristiano 在多伦多会议中心直截了当地对听众说:“我认为对于这个房间里的大多数人来说,最可能的死因是一场 AI 事故。”
在三部分系列讲座的开场中,Cristiano 概述了他对迫在眉睫的“AI 接管”风险的担忧。他将其定义为这样一种情形:以目标为导向的 AI 系统“像今天的人类一样发号施令,决定地球上发生什么”,而任何试图阻止它们的人“都会像你我试图阻止美国军队一样无能为力”。Cristiano 说,这种情形很可能导致大规模死亡,甚至可能使环境不再适合人类居住。
阅读全文
评论