在过去几个月里，两家领先的前沿 AI 实验室展现出了一些肆无忌惮的行为。
这一切始于一系列精心策划的公告以及来自 OpenAI 的报告，试图确立其由 LLM 驱动的智能体系统已经变得多么令人不安且强大（更不用说涉嫌犯罪）。
随后他们把接力棒交给了 Anthropic，其员工开始公开辩论这些技术导致人类灭绝的确切概率。他们传递这一切时带着一种诡异的平静，传达出一种对其工作虚无主义的必然性。
在氛围被充分软化之后，这场运动在 Anthropic CEO Dario Amodi 发布一封信时达到高潮，信题为“我们必须为前沿设定节奏，”他在信中列举了所有危害他自己公司的研究可能造成的，然后，他没有道歉并承诺停止，而是得出结论：只有我们“以正确的方式构建这项技术”才能避免灾难——而这其中涉及的，毫不意外地，是政府放慢潜在竞争对手的步伐，并允许这些实验室在推进相关技术方面占据领先地位。OpenAI CEO Sam Altman 迅速发推表示支持这一大胆计划。
在内部，这些实验室长期以来一直拥抱这种救世主式的思维，将自己塑造成人类对抗超级智能 AI 叛逆力量的唯一希望。从某种意义上说，今年夏天就是他们试图把我们其余人引入这一长期持有的意识形态。
但这没有奏效。
它没有激励大众站起来为这些工程师的英雄式理性主义鼓掌，反而让我们开始发问：“那些实验室里到底在搞什么鬼？”
为此，上周四我在《 纽约时报》发表了一篇专栏文章，呼吁国会启动一项公开的实况调查任务，以查明 OpenAI 和 Anthropic 正在进行哪些研究项目、他们如何进行这些研究，以及出于什么目的。
我建议通过这一质询来探讨三个关键领域：
- 我们必须超越对“AI”的模糊讨论，转而分离出正在制造问题的具体系统类型。前沿实验室希望我们把 AI 视为一种单一技术，沿着一条不可避免的、固定的轨迹发展。实际上，近几个月的大多数问题都源于一小撮不谨慎的实验，主要由前沿实验室进行。他们需要为自己为何开展这些实验给出理由。
- 我们必须审视围绕这些研究工作的内部安全程序。OpenAI 披露了其自主智能体实施的一长串未经授权的黑客攻击。为什么在第一次此类事件被披露后，这些行为没有被制止？为什么不追究他们运行明知很可能犯罪的系统的刑事责任？
- 我们必须调查末世未来主义意识形态在前沿实验室所做决策中的作用，包括决定开展哪些研究以及以多快的速度推进。我越来越担心，尤其是 OpenAI 和 Anthropic，正变得越来越鲁莽，因为他们相信在拯救人类的竞赛中，附带损害是正当的。（关于这些信念及其与这些实验室的联系，详见：这篇和这篇以及这篇，均发表于《泰晤士报》，就在过去几周内。）
“我们不能再让少数私营公司，以越来越反复无常的方式行事和发言，来左右我们应该如何看待 AI，”我总结道。“我们已经听到了他们想说的话；现在该由国会代表我们介入，查明到底发生了什么。”