OpenAI 发布系列随笔首篇：探讨 AGI 未来经济

作者按：这是我们的系列文章中的第一篇，该系列探讨下一轮经济，属于一个新平台的一部分，用于承载独立声音，探索 AGI 未来。它反映的是我们的观点，而非 OpenAI 或我们同事的观点。

人类几乎已经看到了时间的起点。

我们的方程对宇宙最初时刻给出了大体连贯的描述。借助望远镜，我们眺望宇宙深处，窥见了它的早期历史。我们了解恒星的诞生和星系的形成。

然而，从未有人类越过月球。

我们寻求的解释横跨整个宇宙，而我们的身体却几乎未曾离开家园。我们的思想远远超出了双手所能触及的范围。

这种错位可能意味着两种截然不同的情况。

一种可能是，我们无需走得太远，最深刻的真理或许可以从一颗行星上参透。凭借开明的推理和高效的工具，我们无需亲历宇宙便能揭示它。在这个叙事中，我们的文明通过深度而非广度来进步。这有助于解释为什么我们尚未发现其他智慧生命：我们可能生活在一个充满卓越心智的星系中，而这些心智从未需要扩张并引起我们的注意。

第二种可能更令人不安。我们的思想或许只是超越了我们的执行能力。每迈出下一步都需要更多时间和更多资源。我们不缺梦想，但缺乏实现梦想的人力。

伽利略用两片透镜和一根管子拓宽了我们的视野。如今要再次拓宽视野，人类建造了 James Webb Space Telescope，一座耗资百亿美元的观测台，折叠在火箭内，被送往一百万英里之外。它的十八块巨大镜面被加工到五十纳米的精度。这座观测台由十四个国家的三百个组织共同打造。伽利略的贡献只需几十双手。Webb 则需要一支大军，以及背后支撑它的全球经济。

要看得更远，不仅仅需要更聪明的头脑。还需要更庞大的官僚体系。

我们提出的问题多于我们能调查的。我们设计的实验多于我们能运行的。我们构想出创造性可能性的速度，快于我们实现它们的速度。而且在许多领域：我们越进步，构建我们所想象之物就变得越复杂。

Nick Bloom 和他的合著者⁠（在新窗口中打开）研究了整个美国经济的研究生产率。如今维持摩尔定律所需的研究人员数量是 20 世纪 70 年代初的十八倍以上。自 20 世纪 30 年代以来，整个经济的有效研究投入增长了二十三倍，而测得的研究生产率却下降了四十一倍。

这些统计数据暗示着进一步进步的成本正在上升。经济仍在前进，是因为研究事业的大幅扩张补偿了每个单位产出的下降。

那段历史应该让我们以不同的方式思考天才：不应在真空中看待它，而应将其视为生产过程的一项投入。一个绝妙的假设仍然需要证据、仪器以及实现它的手段。没有将其付诸实现的机器和支持人员，一个想法就还不是进步。

当一种投入的增加提升了另一种投入的价值时，经济学家称这两种投入为互补品。在这个意义上，前沿智能与实现其想法的能力是互补品。更好的望远镜让一个好的天文学问题更有价值。更好的问题让望远镜更有价值。

有些互补品是物质性的。一个理论要等待粒子加速器；一项技术设计要等待建造它的能源和机器。

其他互补品更难用眼睛看到。一个想法本身是脆弱的东西。它需要制度——各种各样的制度。法律、官僚体系、资助机制、供应链以及许多其他东西共同作用，才能将想法付诸执行。

一个好想法必须在这类机构中经历一长串正确的局部行动才能存活。称之为机构智能：那种不被称颂的执行智能。天オ设计纪念碑；机构砌石头。一个光彩夺目，另一个看似乏味；两者都至关重要。

我们有时把超级智能想象成十亿个爱因斯坦。但一个拥有十亿爱因斯坦的文明，仍然需要其中大多数人去开采石场、管理账目。前沿创新只有在正常世界在其周围无缝运转时才能发生。进步需要每个人的参与——从望远镜上一颗螺丝的焊工，到教出一名护士、而这名护士又照料了那位天文学家的那所小学的承保人。进步建立在我们讲述最伟大壮举的故事时常常忽略的、嗡嗡运转的经济之上。

如同人类智能一样，AI 将被引导向既产生卓越洞见，也具备机构能力。问题在于它会把绝大部分时间花在哪里。

AI 已经在让执行变得不那么稀缺。它编写代码、检索陌生的文献，并把一张草图变成可运行的原型。曾经需要一整个组织才能推进的想法，如今越来越能由一个有抱负的人独自追求。

大多数有抱负的电影人从未获得两亿美元去放手一搏。大多数游戏设计师整个职业生涯都在实现他人的创意构想。我们试图提拔最有天赋的人，但不可避免地会错失人才。从这个角度看，智能时代始于对人类创造力的补充，让我们中更多人拥有支持团队去构建自己的想法。

这可能催生大量风格各异的项目，更多创意作品将在那些曾作为进入这些领域工作之守门人的机构之外产生。稀缺的投入从执行转向品味——即决定什么值得做、哪个问题值得问、以及在一千个看似可行的方向中哪一个值得追求的能力。

但这可能并非故事的终点。随着 AI 逐渐能够自行得出卓越的新见解——我们在数学等领域或许已经看到这一点——它不仅提供劳动力，也提供议程。它不是在执行某个人类研究计划，而是自行设计出成千上万个计划。AI 天才们让值得开发的电影概念和值得检验的假设数量激增。想法涌现的速度超过了配套基础设施所能吸收的速度。

今天的 AI 带来了一场期盼已久的喘息，让我们那些好想法终于得到应有的重视。明天可能会有如此多的好想法，以至于我们比以往任何时候都更加缺乏执行能力。

我们最终并不知道，要有效利用新见解所需的互补要素会增长、萎缩还是保持稳定。仅凭思考能取得多少智识进步？才华需要多少官僚体系？

在我们看来，答案取决于思想在必须与现实重新接触之前能走多远。

我们描述两条可能的路径。第一条是一个深度文明，在其中超级智能克服了对更多实物资本和官僚协调的需求。第二条是一个广度文明，在其中自然的复杂性超越了任何智能——无论人类还是机器——在没有大规模且日益精细的现实世界实验的情况下取得进展的能力。

迄今为止，人类历史暗示着对互补能力的需求在不断上升。伽利略的望远镜能握在手中；Webb 望远镜则需要整个文明。贝尔实验室的一个小团队在工作台上组装出第一只晶体管；如今前沿芯片的进步来自一条错综复杂的全球供应链。每一次更远的探索，都会把更多文明力量招募到它身后。

但那段历史未必就是宿命。聪明的头脑可以发明更高效的互补要素。如果能源成为新型粒子加速器的瓶颈，才华可以设计出更精简的加速器，或更好的能量获取方式。

天才也可以替代其部分补充物。Einstein 能够凭借极少的经验数据通过思考得出相对论。我们需要的数据要多得多。有些人能记住自己所有的约会——我们大多数人则依赖 Google Calendar 这种官僚式工具。

而天才可以最大化品味，选择最好的假设去检验，避免浪费性的失败。如果每增加一位天才都能提升计划的质量，那么即便需要越来越庞大的官僚体系，我们仍会大力投资于天才，正因为执行成本高昂，不能浪费在错误的事情上。

这两条路径都不会完美描述我们实际的未来，但它们可以被视为我们文明的两个方向性可能。

智能可以通过三种方式推进知识。它可以从原理出发进行推理。它可以从现有证据中得出新见解。或者它可以收集新证据，通过观察和干预世界。

第一种模式可以仅凭思考走得很远。数学是最纯粹的例子。在证明或项目中的众多十字路口，一个强大的头脑能够始终做出正确的判断。它用一条简短、更有指向性的推理链，取代了多年的盲目摸索。

第二种模式同样是快速进展的处女地。人类收集的证据远远多于其所理解的。对我们数据的研究——天文图像、显微镜载玻片、网络评论区——一直受限于人类智能的稀缺。科学档案中记录的观察本是为回答一个问题，却可能蕴含着许多其他问题的答案。充足的天才可以不通过收集任何新东西，而是通过看见已经存在的东西来有所发现。它可能在不收集一个新光子的情况下发现一个新宇宙。

第三种模式就没那么容易了，因为它要求我们与物理世界互动。物理过程需要时间，而且往往几乎无法加速。化学物质必须反应。生物必须生长。机器必须建造。航天器必须跨越实际距离，受制于宇宙速度极限。即便是完美的头脑，也无法观察一个尚未发生的实验的结果。

但它可以尝试。一个深度的文明仍然无法逃避求助于现实的需要。但在这样做时会变得极为经济。更好的推理会找出少数真正重要的实验。模拟将解决大部分问题，并定位出现实必须解决的确切不确定性。超级智能可以最大化效率，围绕其稀缺资源进行设计，以从中获得最大收益。

想象一个天体物理学实验室，针对暗物质提出了一组假设。这些假设首先通过超逼真的计算机建模进行筛选。每个理论都要与所有现有数据进行一致性检查。只有在这一切之后，才会拍摄几张有针对性的天空新快照，以检验最有希望的理论。这个文明仍然需要天才的辅助，但每个单位能产生远更多的价值。

我们通往深度文明的道路可能像拼图游戏一样运作。开始时进展容易，结束时也容易，而中间最难。起初有显而易见的边缘和容易匹配的部分。然后这些用完了，而拼图完成的部分太少，无法指导其余部分。接近尾声时，剩余的缺口几乎能告诉你它们应该放什么。一门接近完整的科学可能会发现，其最后的发现比我们今天艰难追求的那些更容易。

这是科学的一个基本特点。门捷列夫能够描述未发现的元素，因为元素周期表的其余部分约束了缺失的内容。标准模型让物理学家在我们观测到希格斯玻色子之前几十年就有理由预期它的存在。我们的实验是有针对性地寻找我们预期看到的东西——与现有理论和数据相一致的东西。

超级智能可能通过如此出色地理解世界的模式，以至于它精确地知道需要什么新数据，从而实现深度文明。它将通过更深入的思考来推动进步，而不是依赖物理扩张的缓慢步伐。

如果这些效率占据主导，文明可以迅速加深对自然的掌控，而较少需要机构智能来管理庞大的新实验装置。它的物理足迹可能保持很小，而它的智慧却在成熟。

我们人类从未离开家园，就已经对宇宙了解了很多。深度文明将是这一传统的延续。

但对新证据的需求可能会压垮这些效率。智能或许会降低每一次与现实对话的成本，同时发现更多需要与之对话的理由。更好的仪器打开更精细的前沿。更快的实验能让更多实验变得值得做。

如果爱因斯坦几乎纯靠认知路径得出相对论，代表了深度文明，那么生物学或许最能预示宽度文明。尽管我们积累了如此多的知识，动用了如此多的数据，新药仍然必须在大量人类身上测试，才能知道它们是否安全有效。如今机器可以模拟生物过程，让生物学家得以测试新药在硅基上而非在物理实验中，但这些数字模拟对真实世界的还原度还不够，无法替代大规模人体试验。机器给出更多候选方案，反而让经验主义成为更大的瓶颈。

在一个宽度文明中，仅靠才华不足以取得进展。我们对物理资源的需求——以及管理这些资源使用的官僚体系——增长得比聪明头脑所能节省的还要快。

即使未来 AI 系统大幅超越人类智能，这也可能是我们的路径。一个超级智能可以在一个下午设计出一个世纪的实验，然后花一个世纪等待自然和机器跟上。在这样的世界里，把智能投入到执行想法所需的制度流程中，比投入到想法本身更有价值。

如果每一步都需要越来越多的支持性基础设施，这种效应还会叠加。

在这里，我们会看到相对更少的思考，相对更多的建造。实验室自动化。工厂成倍增加。能源生产上升。制度性智能主导一切，让这一切得以发生。物理扩张成为知识的引擎，文明向外扩散，因为它的问题已经超出了获取答案的手段。更多材料，更多能源，更多数据，以维持运转。

戴森球是这种未来的一种极端图景。设计一个戴森球需要非凡的突破，但该项目的大部分内容并不会由突破性的思考构成。它将是天文尺度的建造和物流。

戴森球需要卓越的头脑来绘制蓝图。它也将是有史以来最重复、最单调、组织上最具挑战性的项目之一。

这不是智能的失败，而是其成功的后果。更聪明的头脑会发现更多值得做的项目；更复杂的项目需要更多物质来执行。

如果情况如此：超级智能的超能力可能不在于它的天才。相反，它可能在于它愿意成为官僚机构，去协调将想法在越来越大的尺度上变为现实所需的庞大技术和制度机器。

几乎所有的机器智能都将被部署去做无聊的事，而不是去做卓越的事。

自然界对物理扩张的速度限制，届时可能会成为进一步进步的瓶颈。建造采集恒星能量的机器，无论蓝图绘制得多快，都是一个物质层面的项目。在它之外还有别的恒星和别的星系，而距离（据我们所知）本身就是一道节流阀：没有飞船能航行得比光更快，也没有信号能返回得比光更快。一个广度上的文明是一个缓慢的文明。它的重大变化可能相隔数千年，也许相隔数百万年。每一步都耗时更久。

农业和工业革命看起来会像是一段长得多的历史狂热的开端，而那段历史的进步速度要慢得多。

未来的 AI 系统很可能在前沿洞见的产出和使这些洞见实际有用所需的资源协调两方面都超越人类。但这种可能性并不会削弱人类好奇心的重要性。

首先，我们对启蒙的责任依然存在，即便机器在这方面表现得更为出色。宇宙中可能已经存在远比我们智慧的心智，它们对科学和道德问题的答案超出了我们的理解范围。然而，我们仍然尝试自己去理解这个世界。另一种智能的到来——即便是我们自己创造的——也不会改变这一点。在我们确切知道人类已无独特贡献之前，放弃只会浪费我们能为世界增添的独特价值。我们的责任依然是不断提问并努力回答。

其次，我们可能在前沿智能上相对于制度智能具有比较优势。这意味着即使我们在两者上都较差，我们在前者上相对更优，并专注于它。人类表现出偏好创造性而非例行公事，而机器人则没有这种偏好。

第三，我们从多样性中获得价值。即使机器能够模拟大多数人类思维，如果我们保持某种独特性，我们就能提供创造性的多样性。大部分机器智能将停留在其自我维持的装置中，但一小部分将由我们根据创造性的意愿来部署。虽然只是整体的一小部分，但对我们而言是奢侈的，且远超我们今天所拥有的资源。

独创性不是孤独的事情。它需要世界，而天才需要建设者来实现其创造性愿景。

今天，人类智能的很大一部分用于将想法变为现实的默默无闻的工作。机器心智将继承同样的依赖性。它们不可能都是杰出人物。它们也必须成为官僚。

我们未来的故事——及其进展的速度——取决于伟大心智是否需要更多世界，还是它们能以更少资源做更多事。