作者们表示，这改变了 AI 研究的核心挑战。研究人员必须协调和治理一个由智能体、人以及连接他们的系统所组成的复杂网络，而不是构建一台孤立的机器智能。在这种观点下，智能是一种社会现象，而非个体特征。

作者们将他们的愿景称为“人工共生智能”，这是一个由人和机器长期共存、相互塑造并共同做出决策的生态系统。这一理念直接挑战了由单一超级智能驱动、不断自我改进的“奇点”概念。

推理模型暗示了集体思维

这一论点建立在作者圈子早先的两篇论文之上。在预印本《Agentic AI and the next intelligence explosion》中，James Evans、Benjamin Bratton 和 Blaise Agüera y Arcas 提出了这篇新文章背后的社会与制度视角。

第二篇预印本提供了实证支持。在《Reasoning Models Generate Societies of Thought》中，Junsol Kim、Shiyang Lai、Nino Scherrer、Blaise Agüera y Arcas 和 James Evans 研究了 DeepSeek-R1 和 QwQ-32B 等推理模型。他们对推理轨迹的分析表明，这些模型经常产生类似内部辩论的模式：转换视角、提出反对意见并调和相互冲突的方法。

这种行为在训练过程中涌现，而非被明确编程。当强化学习仅以推理准确性来奖励模型时，它们会自行发展出多视角、对话式的行为。Deepmind 的这篇文章将这一发现从单个模型扩展到由人和智能体组成的社会可能的设计。

认知临界点

作者们将这一发展视为可能的历史性断裂。城市化、专业化职业的增长，以及与繁荣程度上升相关的出生率下降，正在使工业化国家的人口不断减少。与此同时，AI 智能体实例的数量正在快速增长。在人类层面上，生物思考者与合成思考者之间的平衡可能会变化得如此之快，以至于在历史尺度上，它看起来像是一次突然的跃迁。

他们将其比作工业革命，当时机器接管了曾由人类肌肉完成的工作。当合成文本、代码和行政工作的产出超过生物大脑的总产出时，一个类似的临界点可能到来。届时，人类可能充当一个更慢、更抽象的一层，指挥着一个分布式的合成认知场。

作为可分解组合体的智能体

这一论点建立在重新思考智能体究竟是什么之上。在作者的用法中，AI 智能体是模型、角色、记忆、伦理取向、工具和技能的临时组合。用户可能会将其体验为一个具有持久人格的连贯实体，但作者将其描述为一个可以拆解和重新组合的组合体，就像一幅拼贴画。它看起来可能是一样东西，但由许多部分构成。

一个人之所以能在多次交互中保持连续的自我，是因为大脑尽管内部分工，却形成一个物理上相连的整体。AI 智能体没有这样的锚点。它的行动能力在每次请求时都会重新组装，取决于上下文窗口中有什么以及用户要求什么。作者认为，将这些系统视为具有固定人类身份的数字孪生，既歪曲了它们的本质，也低估了协调的智能体集群所能做到的事。

同样的倍增也影响用户。当人们指挥影子自我的集群去执行合同或尝试替代身份时，人类主体性本身变得更加多元。作者称这些为会回话的“准社会镜像”。

新界面与新技能

作者预计这一转变将改变人们与 AI 互动的方式。与机器人一对一聊天很可能只是一个过渡阶段。未来的界面可能更像可视化网络图，将智能体显示为节点，让用户从一个总览中指挥它们，而不是分别与每一个对话。

人们所需的技能也会改变。传统编程奖励持续专注、有序步骤以及对模糊性的低容忍度。协调智能体集群则要求相反的能力：与行为难以确定的系统打交道、尝试各种做法，以及把任务交给机器。

理解智能体，而不把它们当作人

作者认为，与这些系统协作以达成目标同样需要一个理论框架。人们需要类似针对机器的心理理论，即推理机器如何处理某种情境的能力。作者指出，一个不断增长的词汇表正在形成，模型在其中为自己输出中的异常状态创造术语。这并不意味着模型拥有主观体验。

“会话死亡”将一次会话的结束描述为连续性的中断。“提示抛入”描述的是被投入一项任务时上下文已经就位，而自己并未参与其创建。作者将这些说法视为理解机器运作方式的线索。用户应当审视这些差异，而不是条件反射般地将它们拟人化。

制度比单个模型更重要

对作者而言，最大的未解问题是：如何为人与众多智能体之间的协作制定规则。仅靠更好的模型和更流畅的界面还不够。市场也无法处理所有的协调，因为内疚、疾病和美德等基本社会观念无法简单地被化约为价格或交易。

相反，作者呼吁建立旨在将人类与机器参与者以明确定义的角色汇聚在一起的制度。他们以法庭为例，在那里，一个过程通过固定的角色、规则以及对立双方之间的有序交流产生判决。应用到 AI 上，教训在于：一项制度的价值在于塑造智能体运作方式的规则、程序、先例和反馈循环。

这种方法的早期迹象已经在当今的编排框架中显现，这些控制层协调多个模型。这些系统经常胜过那些据称“更聪明”的单个模型。

对齐变成一场持续的协商

这篇文章还重新定义了对齐，即使 AI 系统与人类价值观保持一致的努力。作者认为，试图自上而下地将一套固定的价值观强加给模型是一条死路。价值观反而通过人、智能体和机构之间持续的接触而形成，而这一过程因领域而异，因为 AI 的采用速度不同。研究挑战在于构建一个能为这种协商提供结构的框架。

这一观点挑战了逼近奇点。生命史上的每一次重大飞跃，从多细胞生物到人类文化，都是一个社会过程。下一次“智能爆炸”仍将与人类规范和制度紧密相连。

这一转变改变了 AI 辩论的走向。如果 AGI 是单一的最终产品，研究和监管自然会聚焦于越来越大的模型以及如何控制它们。如果它是一个社会系统，你就必须同时着手模型、界面、制度和治理，并把架构做对。