“令人震惊。”“铺天盖地。”“前所未有。”“超现实。”“纯粹是疯狂。”

这些是超过三十几位数学家在交谈中用到的描述,他们告诉The Verge当他们试图理解大量数学成果OpenAI 本周突然抛向这一领域时。在敬畏、兴奋以及对这场洪流规模之巨的不确定之中,还有一种深层的焦虑:这一切究竟意味着什么——以及接下来会发生什么。尽管反应各异,研究人员一致认为,仅仅理解 OpenAI 发布了什么就可能需要数年时间,更不用说弄清楚数学家们自己在这个正于他们周围变化的领域中处于什么位置了。许多人担心 OpenAI 不会等那么久才继续前进——或者发布更多东西。

总而言之,OpenAI 发布了近 400 项 AI 生成的成果。这些成果分布在 700 多份手稿中,涵盖了多种数学学科,包括组合数学、几何学的若干分支、数论、理论计算机科学、代数、拓扑学、概率论与统计力学,以及数学物理。这批成果如此庞大,以至于 OpenAI 觉得有必要发布指南说明如何浏览这个庞大的 GitHub 仓库。

如此巨大的工作量使得即便只是初步评估该公司究竟发布了什么都很困难。在发布后的数小时和数天里,大多数数学家The Verge采访的人表示,他们仍在努力消化所有内容;有几位说,仅仅通读大约 40 页的目录和摘要就花了他们将近一个小时。“光是浏览整个摘要列表就让人应接不暇,”康涅狄格大学数学教授 Álvaro Lozano-Robledo 说。

在数百份手稿中,零星散布着 Lean 形式化,Lean 是一种编程语言和证明助手,允许通过计算来验证成果。这些形式化已被证明在评估 OpenAI 此前一些数学主张时发挥了关键作用,让研究人员即便没有完全理解其背后的论证,也能对某个主张在逻辑上正确抱有信心。

“如果 AI 现在消失,就好像有外星人来到地球然后又离开了,我们会在接下来的 10 年里研究这个,试图理解一切。”

但每个结果被验证的程度差异极大。在 GitHub 上,OpenAI承认这些结果“处于不同的验证阶段”,并且“许多,但并非全部,手稿已被形式化”。截至撰写本文时,该合集中似乎不到一半的手稿被正式描述过。OpenAI 表示,719 篇手稿中只有 300 项顶级结果已被形式化,约为 42%,并且它“将在获得更多形式化结果时更新该仓库”。

几位数学家向The Verge抱怨缺乏形式化,尤其是考虑到结果数量之庞大,并强调即便 Lean 代码伴随某个结果,评估也并非即时完成。研究人员必须检查形式化是否真的证明了该结果所声称的内容,这又是一个耗时的过程,而几位深入研读论文的人表示,即便提供了可由计算机验证的证明,其质量也不一致,而且它们所验证的陈述并不总能与随附手稿中的主张精确对应。

伦敦帝国理工学院数学教授 Kevin Buzzard 表示,他在自己所属的代数数论领域发现了大量定理,其中只有大约六个立刻“脱颖而出”。这些定理中似乎很少有——如果有的话——在 Lean 中被形式化验证。“因此,我要么不得不阅读可能不正确的垃圾,要么等待别人做同样的事,要么等待有人将它们形式化,然后我才能确定这些结果是否正确。”Buzzard 的担忧得到了众多其他研究人员的呼应。

担心 AI“垃圾”的远不止 Buzzard 一人。这个词是低质量、经常出错的 AI 生成材料的简称,这类材料越来越多地出现在网上——以及现实世界——包括学术论文中。与其他领域一样,数学家们告诉The Verge近年来,他们看到用 ChatGPT 和 Claude 等工具生成的此类材料大幅增加。其中许多内容令人困惑、难以阅读,并且显示出对主题的理解甚少;在引用其他研究者成果方面尤其粗制滥造。

OpenAI 此前的数学论文被 广泛 批评被专家批评其草率,尤其是它们引用质量差或完全缺失。在与The Verge发布前的对话中,几位研究者已经开始把即将到来的论文洪流称为“slopocalypse”(垃圾末日),或类似的说法。

所担心的“slopocalypse”是否真的成为现实很难说,很大程度上是因为发布出来的材料数量多得令人眼花缭乱。早期迹象表明,OpenAI 这次在论文上更加用心,至少对其中一些是如此。几位数学家告诉The Verge说,他们的第一印象远比预期要好,不过他们自己也承认,鉴于该公司此前粗制滥造的出版物,这个标准本来就不高。

“这是一团大乱。它可能导致学术文化的大崩塌,并直接扼杀大多数院系。这是一个社会问题,而 AI 实验室似乎完全无视这个问题。”

但更好并不一定意味着好,更不用说达到学术工作通常应达到的标准——尤其是提出如此重大主张的学术工作。由于 OpenAI 的许多主张缺乏形式化验证,随附论文的质量就变得尤为重要;它们是数学家确认、理解、审视并将结果置于背景中的主要手段。

即便在最好的情况下,撰写严谨的数学论文也是艰难的工作。以这种规模来做,更是一项艰巨的任务。OpenAI 的模型正以令人眩晕的速度、在广泛的专业领域中大量产出数学内容,远远超出其人类员工的处理能力。该公司根本不具备足够的专业广度或资源,来妥善审视其在数学前沿的发现。研究者告诉The Verge说,这一点显而易见。

许多人描述这些论文难以理解,有时几乎无法跟上。"我最熟悉的问题的论文,快速读完后几乎不知所云,"布朗大学数学教授 Brendan Hassett 告诉The Verge。"如果这是人写的,我不会再花时间去试图理解它。当然,这还剩下 721 篇预印本!"(Hassett 是在 OpenAI 撤回三篇论文之前说这番话的)。

一些研究人员告诉The Verge,他们或同事注意到的几篇论文似乎覆盖了其他数学家已经涉足的领域,但在有机会正式审阅材料之前,他们不愿公开这么说。其他人则指出这些工作异常简短,通常他们预期需要数百页才能展开的结果被压缩到几十页甚至更少。

澳大利亚悉尼大学数学教授 Nalini Joshi 表示,快速检索这批发布内容后发现与她自己工作重叠的部分很少,但她指出她查看的一些论文"参考文献很短"。鉴于此前批评OpenAI 署名做法的声音,她说她"担心论文中的引用可能缺少完整的信息"。

但尽管存在这些粗制滥造和不确定性,总体共识是这批发布内容包含一些确实令人印象深刻的工作。

在强调评估如此大量材料的困难——以及妥善核实结果的必要性——的同时,许多研究人员The Verge采访的人表示,这些工作尽管在呈现方式上有欠缺,但似乎水准极高。他们说,在 AI 出现之前的世界里,OpenAI 的许多结果显然足以发表在顶级期刊上,也足以让作者获得一份学术生涯。其中少数被描述为那种能让一位数学家成为 Fields 奖有力竞争者的工作,这是该领域最高荣誉之一。

"我要么得去读那些可能并不正确的粗制滥造之作,要么等别人去读,要么等有人把它们形式化之后,我才能确定这些结果是否正确。"

斯坦福数学家 Jared Duker Lichtman 表示,他会把“几十项”成果归入这一类别,包括在黎曼假设方面取得的进展、霍奇猜想的一个特例,以及四维挂谷猜想的解决。这些都是数学领域的重大问题。黎曼——可以说是整个学科中最臭名昭著的未解难题——和霍奇都位列七个著名的千禧年大奖难题之中。它们分别关注素数的分布,以及(大致来说)如何用更简单的构件来理解复杂的几何形状。而挂谷猜想大致问的是,要让一根针或铅笔朝各个方向旋转所需的空间能有多小。三维挂谷猜想的证明,正是纽约大学数学家王虹今年早些时候获颁菲尔兹奖的成果之一。

“并不是说这些只是没人听说过的无聊问题,”数学家 Scott Armstrong 说。“其中许多都是非常著名的问题,很多人已经尝试了几十年。”

随着尘埃开始落定,数学家们不得不面对一个在他们周围骤然改变的格局。他们中的许多人刚刚目睹多年的工作和精心制定的研究计划瞬间化为乌有,或者认识遭遇同样情况的同行。在整个领域,无论反应中夹杂着兴奋、恐惧、绝望还是介于其间的某种情绪,都有一种深切的迷失感。

到第二天早上,这种情绪并没有太大改变。Armstrong 在穿过巴黎时通过电话表示,他想象如果索邦大学没有因持续的学生抗议而关闭,他的同事们像往常一样聚在咖啡机旁,气氛会相当“肃穆”。

在苏格兰,圣安德鲁斯大学数学教授 Colva Roney-Dougal 描述了同事和学生之间同样阴郁的气氛。她说,这股洪流让人感觉有些“可怕”,但在数周的不确定之后,它的到来也带来了一些解脱。“我有一群朋友和同事的经费申请刚刚被彻底抹掉了,”她说。

“我有很多朋友和同事的经费申请刚刚被彻底抹掉了。”

Armstrong 说,他知道有一个小组的整个研究计划几乎被这次发布“抹掉了”。Tristan Buckmaster,一位纽约大学数学家,此前曾处于OpenAI 围绕 Navier-Stokes 问题早期争议的中心,与此同时,他说他已经听说了“三个人整个研究计划被摧毁”。

类似的故事在The Verge与数学家的对话中反复出现,不过这种冲击严重集中在该领域的某些方向。苏格兰赫瑞瓦特大学数学教授 Francesco Fournier-Facio 说,概率论、组合学和理论计算机科学的研究者似乎“尤其震惊”,并补充说,他所在领域中的某些部分,群论,已经被“推平了”。

Armstrong 和其他研究者说,有些方向似乎是以近乎军事级的精确度被瞄准的。“确实有一些目标,”Armstrong 说。他特别指出 Wang 今年获得菲尔兹奖所涉领域的工作,以及几个千禧年大奖难题。他说,数学物理中的一组结果清楚表明,OpenAI 正在追求Yang-Mills 理论——支撑现代粒子物理学大部分的数学框架——及其未解决的“质量间隙”问题,这是七个大奖难题之一。

在其他地方,研究者对自己工作似乎受到的影响之小表达了一种惊讶的宽慰。Roney-Dougal 说,她自己所在的领域角落——主要围绕群论——似乎相对毫发无损。她开玩笑说,幸运的是她在一个“非常不时髦的领域”工作,不过后来发消息说,在发现自己的成果被其中一篇论文引用后,她感到“不确定”。

Joshi 同样发现与自己工作的重叠很少,她的工作主要聚焦于可积系统,也就是可以被精确求解的复杂系统。她提出,这可能是因为她的领域较少由长期存在、被正式表述的猜想和定义驱动,而更多由那些随物理学发展而起伏的问题驱动。

截至 10 月 8 日,该记录已列出大量更正,包括对十几篇手稿的修订,以及因一个据称使某项论证失效的“符号错误”而撤下三篇论文。

无论自己的工作是否受到直接影响,大多数数学家The Verge都表达了这样一种感觉:这个领域已经跨过了某种门槛,不再是一天前的样子。高等研究院的研究员 Constantin Kogler 称其为“数学史上最重要的单一时刻”,而伦敦数学科学研究所研究员 Yang-Hui He 则回溯数千年,将今年 AI 驱动的进展比作欧几里得《Elements》的出版,这是该学科最具影响力的著作之一。

很少有研究者的评价如此宏大,但普遍共识是数学正在快速变化——而数学家也必须随之改变。

OpenAI 知道这次发布将带来颠覆性影响,并做出了一些努力来缓和冲击并与数学界接触。在今年早些时候与研究者数次不愉快的交锋之后,该公司转而向数学家本人寻求帮助,与新成立的数学与人工智能咨询小组(AGMAI)合作,探讨如何负责任地发布这些结果。

AGMAI 此前已经阐明了它认为的负责任参与应当是什么样子。AI 实验室最好应发布“人类能够理解的”论文,或者以其他方式提供必要的“支持,以开展额外的数学活动,使人类能够理解和吸收其 AI 生成的数学产出,并识别其可能的应用。”他们表示,在可能的情况下,证明应当被形式化,并且公司应当公开他们用于生成这些证明的模型和提示词。该小组还敦促 AI 实验室停止将数学发布当作“推广其模型的营销工具”,并应“停止在专有模型上测试高等数学问题”,因为这些模型对更广泛的科学界无法访问。

“并不是说这些只是没人听说过的无聊问题。其中许多都是非常著名的问题,很多人已经尝试了几十年。”

OpenAI 采纳了该小组的部分建议。它表示将围绕其在数学方面的工作资助一系列研讨会和会议,以帮助社区处理和理解其工作,不过它没有提供这些活动可能是什么样子或何时举行的细节。该公司还披露了比以往发布中多得多的信息——研究人员再次表示,这只是一个很低的标准——包括其模型尝试了 4000 多个问题,以及一个典型结果使用了约 3 小时的 ChatGPT Pro 思考算力。它还实施了“论文修订和引用的协议”,并在 GitHub 上表示它“将保留”该合集的“公开发布历史”。截至 10 月 8 日,该记录已经列出了大量更正,包括对十几篇手稿的修订,以及因一个“符号错误”而撤下三篇论文,该公司称该错误使某个论证无效。OpenAI 未就记录回应The Verge的更多细节请求。

这一变化解决了与数学家产生摩擦的一个关键根源,其中一些人谈到围绕该公司所发布声明的一种“偏执”。该公司有习惯在回应批评时暗中修改新闻稿和论文,而不明确披露这些更改。

但 OpenAI 并未遵循该小组的所有建议——包括一些最重大的建议。它没有指明此次发布背后的模型,也没有披露所使用的提示词或模型尝试的完整问题集。OpenAI 似乎还承认其形式化工作有所欠缺——它表示将在获得更多形式化后添加更多——并且论文质量不达标,称“对于未来的发布,我们致力于通过引用、数学阐述和结果呈现来进一步提高论文质量,以便更好地理解。”

“我最了解的那个问题的文稿,快速读了一遍后几乎说不通。”

研究人员The Verge有人质问 OpenAI 为何不能提高这些论文的质量,并对该公司似乎懒得提前将许多结果形式化——在被撤稿的论文中,甚至懒得去核查——表示失望。诸如所用提示词之类的信息,本也会极有帮助,能减轻许多人感到的那种负担:评估公司突然抛给他们的海量材料。

最重要的是,该公司表示没有计划停止在数学问题上测试其模型,并暗示它认为这样做是一种必要之举。“我们希望直接以最先进的能力赋能科学家,并正在努力负责任地发布产生这些结果的模型,”它在公布最新结果时说。“这就是为什么继续在数学和其他科学领域评估我们的内部前沿模型很重要,这样我们才能加速开发推动这些领域进步的工具。”

在 OpenAI 公布其结果后,AGMAI称该出版物是“第一步”,并重申了关于公平获取算力和研究工具的呼吁。更根本的是,该组织主张“数学研究的未来不能仅仅由理解 AI 实验室产出的结果构成。”

尽管 OpenAI 声称解决了数百个长期存在的问题,数学家们表示仍有大量工作要做。许多人估计,理清该公司刚刚发布的所有内容可能需要学界花费数年时间。

Armstrong 将如此多新数学的突然涌现比作一次短暂的外星访问可能引发的骚动。“如果 AI 现在消失,就好像有外星人来到地球然后又离开了,我们会在接下来的 10 年里研究这些,试图理解一切。”

其中很多成果本身就令人兴奋。研究人员将不得不填补空白、提取有用的想法和联系,并将解决方案置于更广泛的数学背景中,而所有这些通常都与为人类产出解决方案密不可分。“对于其中许多结果,相关专家深切关注这些解决方案,我相信他们能够消化并呈现给更广泛的世界,”Lichtman 说。他认为,随着 AI 改变这些领域,涉及解释、验证和情境化结果的工作需要得到更多重视。“作为一个社会,我们应该更多地奖励这些消化性工作。”

留给人类去做的数学可能也还有很多。据他所知,Lichtman 说所有结果尽管“令人惊叹”,但都“出自现有的方法和技术”。它们填补的是已知数学版图中的部分,而非创造全新的版图。“事实证明,可填补的空间比专家们此前所知道的要多得多!”Lozano-Robledo 也呼应了这一观点:“它们都在以非常巧妙的方式运用现有技术。”

而现有的版图远非极限。“数学研究本质上是无限的,”Lozano-Robledo 说。“研究将继续下去。”伦敦研究所的 He 表示,他尤其期待看到接下来会出现什么,并推测研究人员最终可能会创造出新的想法,“甚至可能是新的数学领域”。

这些公司似乎准备立刻向前推进,远在学界有任何合理机会消化他们所产出的东西之前。

很少有数学家The Verge在原则上反对 AI 产出新的数学。事实上,许多人对此表示欢迎,并在不同程度上表示他们自己就是 AI 工具的热情使用者。大多数不安都指向了构建这些工具的 AI 公司进入他们领域的方式。

看看 OpenAI 和其他 AI 实验室发布的数学成果,你会觉得研究数学基本上就是把问题从清单上划掉,这种想法也情有可原。AI 实验室公布结果的方式强化了这一印象:一场花哨的发布会、一份初步的文稿,剩下的就丢给数学家去琢磨和梳理脉络。多位研究人员告诉The Verge,这些公司似乎准备立刻翻篇,远在学界有任何合理机会消化他们所产出的东西之前。

研究人员形容,这是对数学研究实际运作方式的一种贫乏理解。解答固然重要,但通往解答过程中发生的一切同样重要:发展想法、建立联系、发现新问题或开辟其他研究路径。当 OpenAI 这样的公司只是找到答案而不做任何周边工作时,数学家们说,这些工作的负担就落回到了学界身上。

“有新结果当然是好事,但这个规模是另一个层级,”波兰波兹南密茨凯维奇大学的数学家 Bartosz Naskręcki 说。“这是一团大乱,”他说。“它可能导致学术文化的大崩塌,直接毁掉大多数院系。这是一个社会问题,而 AI 实验室似乎完全无视这个问题。”

需要数年才能理解的不仅仅是数学本身。研究人员也在艰难地理解这场剧变对他们意味着什么。许多人描述,随着数学家们试图弄清自己在快速变化的领域中处于什么位置,一种黯淡、近乎存在主义式的情绪笼罩着学界。他们可能没有多少时间去弄明白。

数学家之间已经在流传关于 OpenAI 进一步发布的传闻,而 OpenAI 没有回应The Verge关于是否还有更多发布计划的提问。

Roney-Dougal 说,她害怕又一次发布——或者害怕 Anthropic 或其他 AI 实验室加入这场混战的前景。

这场冲击对博士生、初级研究人员以及其他没有终身教职的人打击尤其严重。像 OpenAI 的模型正在攻克的那些开放问题,可能支撑着博士论文、经费申请、求职材料以及多年规划的研究,而这些都是学术生涯的重要基石。几位研究人员描述了一种日益普遍的焦虑:他们赖以为生的研究工作可能突然就成为下一个目标,而 AI 模型在关闭一些方向的同时,几乎没有开辟出未来探索的新路径。“对于经费即将耗尽或正在找工作的人来说,这极具破坏性,”瑞士苏黎世联邦理工学院(ETH Zurich)的数学家 Simon Machado 说,他即将加入法国国家科学研究中心(CNRS)。

“数学研究本质上是无限的。研究仍会继续。”

士气可能尤其低落,因为一切都让人感到无休无止。OpenAI 的发现一波比一波大,之间几乎没有停顿,而公司也频繁暗示还有更多成果即将到来。“你会感觉到他们并不真正在乎这些个别的成果,”Roney-Dougal 说。“这是一种非常糟糕的感觉。”

数学家们还没来得及消化一批结果,下一批更大规模的结果就砸了下来。“再过两个月就会有东西把这一切都碾碎,”Armstrong 说。“就像是被越来越大的炸弹反复轰炸。”

Armstrong 说,他认为自己属于对 AI 最热情、最乐观的那批数学家。他在自己的工作中使用这项技术,并相信它有巨大的潜力。但即便是他,也越来越感到不安。“晚上有点难以入睡,”他承认道。

当被问及接下来打算做什么时,Armstrong 不太确定。他仍在巴黎街头走着,准备去吃午饭,他说自己眼下的首要任务是完成一些他一直在做的工作——有时借助 OpenAI 的 Codex——“赶在 OpenAI 抢在我们前面之前。”

除此之外,就连这位自称的 AI 乐观主义者也不确定,并质疑自己在数学领域还有什么未来。他尤其担心该领域的年轻研究者。“数学界接下来几年会非常诡异,”他说道。

关注话题和作者来自这篇报道,以便在你的个性化首页信息流中看到更多类似内容,并接收邮件更新。

  • Robert Hart