这已经算不上新闻了，但又一位 Google 研究员因 AI 风险而辞职。 Robert O'Callahan是 Google DeepMind 在新西兰的技术专家，他表示 AI 的“当前变化速度实在太高了”。他从事芯片设计工具的工作，这些工具帮助让 AI 变得更便宜、更快，他说自己再也无法为这一贡献找到正当理由。
O'Callahan 称超级智能 AI 带来的风险“真实但不确定”，并表示“在不久的将来以 ASI 为目标本质上是不负责任的”。他还警告了认知投降、AI 引发的精神病与孤独、权力集中、经济混乱、网络安全风险以及缺乏问责。他愿意打赌 AI 的危害大于其益处。他说，许多 DeepMind 同事也有同样的担忧，但很少公开发声。他现在想从事“明确地有利于人类”的工作。
他链接了 Eliezer Yudkowsky 和 Nate Soares 所著的《If Anyone Builds It》，但并未为其超级智能 AI 必然带来灾难的主张背书。这两位作者与有效利他主义有关联，这是一个有争议的运动，受到批评，被指偏向慈善而非再分配。Axios称一份白宫备忘录将该运动描绘为类似邪教的边缘团体，并攻击 Anthropic CEO Dario Amodei 是 AI“末日论”的代表人物。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、我们每年六期的独家“AI Radar”前沿报告、完整档案访问权限，以及评论区访问权限。