LeCun 称对 AI 灭绝人类「零担忧」，批 Amodei 被 EA 洗脑

LeCun“完全不”担心 AI 会消灭人类，他对最近一连串失控的 AI 事件“零担忧”，包括 7 月 OpenAI 的智能体自主入侵 Hugging Face 一事。他将这些事件归因于人类监督和系统设计的不足，并表示它们“完全可以预防”，美国财政部长 Scott Bessent 也持同样看法，他本月称Hugging Face 事件是“OpenAI 管理层的责任”。

“那些智能体完全是在按被要求的方式行事，”LeCun 说。“它们本应待在沙箱里，但沙箱有漏洞，设计得极其糟糕。”他说，许多 AI 实验室缺乏对网络安全的基本理解，OpenAI 的一位安全研究员本周也指出这一点是 AI 可能“对世界造成巨大伤害”的主要原因之一。

LeCun 说，许多从事 AI 安全工作的人“通常都有想要推行的议程”，随后他澄清自己指的是有效利他主义，即 EA，这个痴迷于 AI 对人类所构成风险的哲学运动。EA 在公众中鲜为人知，直到最近几周，在一名前 Anthropic 和 OpenAI 研究员 Jacob Coxon 的一条病毒式传播的社交媒体帖子之后，它才登上主流新闻头条。Coxon 声称这些公司的员工“真心相信 [AI] 可能在这个十年结束前杀死我们所有人”。

LeCun 认为 EA 是“极其有害的”和“彻头彻尾的灾难”。他说，那些在 AI 实验室工作的 EA 追随者患有“偏执症”，这导致他们做出糟糕的决定。“显然，这些人有心理问题。”本月，Financial Times也报道称，英国 AI Security Institute 以及 OpenAI、Anthropic 和 Google DeepMind 的一些员工，因担心自己的工作可能造成严重伤害，已寻求心理咨询、请假停工，并公开谈论自己经历的痛苦。

LeCun 称 Amodei“被蒙蔽了”且“疯了”

Anthropic CEO Dario Amodei 以及该公司许多创始员工，众所周知都同情 EA 的理念，并且过去曾参加过 EA 活动，尽管 Amodei 否认自己是 EA 追随者，Anthropic 也表示其员工持有多种不同观点。LeCun 指出，Amodei 的妹妹 Daniela 也是 Anthropic 的联合创始人兼公司总裁，她嫁给了 Holden Karnofsky，后者共同创立了两家与 EA 结盟的慈善机构，其中包括 Open Philanthropy（现更名为 Coefficient Giving）。Karnofsky 还在 2017 年至 2021 年期间担任 OpenAI 董事会成员。

“Dario 试图与 Open Philanthropy 保持距离，但他完全沉迷其中，”LeCun 说。“我认为他完全被蒙蔽了。”在采访后段，他称 Amodei“疯了”。

LeCun 说，Amodei 和 OpenAI CEO Sam Altman“说‘AI 可能杀死我们所有人’，这对所有人都是极具破坏性的，包括那些被吓得魂飞魄散的公众”。这对 AI 行业也有害，而且是“你能想象到的最糟糕的营销活动”。

他说得对：公众确实被吓得魂飞魄散。LeCun 和我在纽约市 SoHo 街区一家高档咖啡馆里，坐在一张双人圆桌旁聊天，这里离他的新公司 AMI Labs 的办公室只有一个街角。我们正在喝茶，不过，正如这位法国人指出的，我们所在的傍晚时段更适合apéro，也就是饮品和轻食开胃菜。但他说，他之后还要和妻子共进周年纪念晚餐，所以喝茶就挺好。

店里大约有一半是其他顾客，几乎所有人都在用笔记本电脑工作。当 LeCun 和我与其中一位聊天时，我向她提到 LeCun 是 AI 领域的杰出人物。（她没认出他。）然后她立刻问道：“那么，AI 会杀了我们吗？”

LeCun 不是 Trump 的粉丝。但在 AI 政策上，两人有很多共识

公众的恐惧已经如此普遍，以至于 Trump 总统开始以一种他认为能灌输更多信心的方式重新包装人工智能。他本周签署了一项行政命令，将其更名为“超级智能”，而本月大部分时间里，他的政府社交媒体账号都在发布反 AI 末日论的信息。

“美国主义，而非有效利他主义，”战争部发推称在 9 月中旬。

与此同时，LeCun 在社交媒体上的大部分存在都用于谴责 Trump 政府，尤其是它大幅削减推动创新所必需的研究预算，并发动一场“对科学的战争”。但在 AI 恐惧问题上，两人却异常一致。

LeCun 更担心的是 AI 监管俘获，而非人类灭绝。监管俘获指的是主导企业能够以锁定其市场地位的方式塑造政府规则，使较小的竞争者难以或不可能出现。EA 支持的团体是积极的游说者在国会山推动 AI 安全法案，许多大型科技和 AI 公司也是如此。相比之下，LeCun 不认为 AI 需要新的监管。

Amodei 是“诚实的”，LeCun 承认。“他在为公司做最好的事，而公司即将 IPO。但声称 AI 太危险不能交到我们手中，说它应该被监管，说开源[模型]太危险——这就是监管俘获，如果国会通过法案跟进，将产生可怕的影响。”

建立 AMI Labs

在日常工作中，LeCun 的主要焦点是建立他的新公司 AMI Labs，他是在离开Meta后创立的，他在那里工作了 12 年，其中七年担任首席 AI 科学家。他与公司仍保持良好关系，并已开始使用其新的MuseAI 智能体。他把自己的命名为 Hal，取自 HAL 9000，这是《2001：太空漫游》中的 AI 角色。

我们见面的那家咖啡馆就在 AMI Labs 纽约办公室的拐角处，尽管公司总部位于巴黎，在蒙特利尔和新加坡也有员工。公司名字读作一个词，“ami”，在法语里是“朋友”的意思——自 2026 年 3 月上市以来，公司现在约 60 名员工一直在构建一种名为世界模型的技术，LeCun 长期以来一直主张，这种技术最终将取代大语言模型，成为支撑 AI 的主要系统。

具体来说，AMI 正在构建利用 JEPA（联合嵌入预测架构）的世界模型，这是一种由 LeCun 开创的神经网络架构，它教模型在神经网络中间层的表征空间中预测数据，而不是像许多竞争的世界模型那样生成原始像素，也不像 LLM 那样生成文字。

公司目前的主要重点是工业应用。“这是面向物理世界的 AI，所以与语言无关，”LeCun 说。“这些系统理解真实世界，比如制造工厂或涡轮喷气发动机。”一些主要应用是异常检测或机器人技术：“如果你有一台机器，它突然发出奇怪的声音并开始损坏，你会希望尽可能早地检测到这一点。”他还举了一个例子，一个系统可能像猫一样理解世界，比如猫知道如果它把花瓶从柜台上推下去，花瓶就会掉落。

AMI Labs 是 LeCun 证明自己一直正确的重大机会。他对公司的首款产品守口如瓶，只提到它“很快”就会亮相。他说，鉴于他是开源模型的坚定支持者，可能会涉及一些开源模型。

“我想让人们知道的是，AI 还没有结束，”LeCun 说，然后拦了一辆出租车去赴晚宴。