OpenAI 数学顾问团被指沟通混乱

在混乱的几个月里，OpenAI 展现出它能以惊人的一致性做两件事：在数学领域取得令人瞩目的突破，然后在宣布这些突破时彻底搞砸。OpenAI 现在正试图做得更好。不知怎的，它连这个也搞砸了。

OpenAI 最新一次试图修复与数学界破裂关系的尝试——它曾一再 疏远这个群体——是咨询一个新的、由顶尖从业者组成的独立顾问小组。但接受The Verge采访的数学家们，包括该小组的一名成员，描述了一场混乱而令人困惑的事件，带有 OpenAI 此前仓促涉足数学领域的诸多特征，表明该公司几乎没有从自己的错误中吸取教训。而小组首先接到的任务就令人生畏：帮助协调发布 OpenAI 所称其未发布模型产出的数十项成果，这一前景已经在研究人员中引发恐惧，担心这即将到来的突破浪潮会对他们的领域造成什么影响。

9 月 21 日，多位知名数学家宣布成立数学与人工智能顾问小组（AGMAI），发布在UCLA 数学教授、菲尔兹奖得主 Terence Tao 博客上的一篇客座文章中。Tao 曾公开批评 AI 公司在数学领域的行为。该小组将是一个由九位各自领域最顶尖的精英数学家组成的独立机构。文章称，该小组将独立于 OpenAI 运作，并就“新兴成果的审查与传播”向 OpenAI 及其他前沿 AI 实验室提供建议。在其自己的公告中，OpenAI 反复强调该小组的独立性，称成员可以自由地公开质疑公司、发表他们的建议，并提供公司未曾请求的指导。它还强调了该小组影响力的限度，指出它“不会负责就如何安排我们在数学领域的内部进展节奏向我们提供建议。”

但许多数学家，当然还有该群体之外的大多数人，只是通过 OpenAI 声势浩大得多的发布才得知这个小组的存在。

结果是，人们普遍困惑于 AGMAI 究竟是否真正独立，还是像几位数学家The Verge在公告发布后几天内接受采访时推测的那样，是某种由 OpenAI 任命的机构。这种印象并非完全没有道理，因为 AGMAI 的网站称，该组织是在 OpenAI 接触其部分最终成员、商讨设立顾问委员会之后成立的，随后这些成员决定独立出来，并邀请其他人加入。目前尚不清楚 OpenAI 最初接触的是九名成员中的哪几位。

在接受The Verge采访时，AGMAI 成员、伦敦帝国理工学院和洛桑瑞士联邦理工学院（EPFL）数学教授 Martin Hairer 在一个报告厅里通过视频通话急切地强调该组织独立于 OpenAI。他承认，OpenAI 接触一些数学家的确是促成该组织成立的最初动力，但他表示，该组织不从该公司获得任何财务、技术或其他支持，且除为获得高级研究访问权限所需的标准保密要求外，其成员均未签署限制其言论或行动的任何协议。

对 Hairer 来说，这显然是一段忙乱的日子，他将此前几天描述为“非常令人沮丧”且“紧张”的经历。“我们不为 OpenAI 工作，不由他们支付报酬，它完全独立，”他说。Hairer 表示，该组织同样愿意与其他前沿 AI 实验室合作，并且已经开始与一些实验室进行对话，但他拒绝透露具体是哪些。

尽管如此，Hairer 似乎对 OpenAI 宣布这一关系的方式感到恼火。在一篇博客文章中，Hairer 在随之而来的轩然大波中发表文章，承认如果认为 AI 公司不会试图利用该组织的参与为自己谋利，那就太天真了。鉴于该组织的出现部分是因为 OpenAI糟糕地处理了此前的数学突破，这一风险就处于最核心的位置。OpenAI 的解决方案一个备受瞩目的千禧年大奖难题迅速演变成对功劳、抢先发表以及对待数学家方式的争夺，因此学界自然心存疑虑。

Hairer 承认，OpenAI 的公告对帮助这个新成立的组织确立独立性几乎没有帮助。AGMAI 需要赢得数学家的信任，才能帮助他们应对与 AI 公司日益紧张的关系。“他们公告的措辞并没有真正起到帮助作用，”Hairer 说。“如果你逐字细读，他们说的话并没有错，”他说，并指出该公司在措辞上“很谨慎”。“他们显然是非常擅长公关的人，”他笑着说。

整个这件事——公告、组织的成立、与数学界的沟通——感觉像是仓促拼凑起来的。上周三被问及 AGMAI 的计划时，Hairer 笑着说：“所以我们，呃，你知道，两天前才刚起步。所以并不是说我们有什么宏大的总体规划。”

这种紧迫感可能源于这样一个事实：OpenAI 手上握有一批成果，显然急于尽快发布。OpenAI 表示，自解决 Navier-Stokes 千禧年大奖难题以来，其未发布的内部“模型如今已在数学的多数领域解决了 100 多个长期悬而未决的开放问题”。

为了避免又一次公关灾难，OpenAI 才费心尝试组建一支由世界顶尖数学家组成的团队来提供咨询。但一边大肆宣扬它手头等待发布的成果数量之多，一边又承诺会负责任地处理这些成果，这恰恰凸显出 OpenAI 在数学上是个多么外行的局外人。

“这不是任何学者的行事方式，”康涅狄格大学数学教授 Álvaro Lozano-Robledo 说。“我不会到处说，‘哦，我证明了所有这些东西，但我不知道拿它们怎么办。’”

他在 OpenAI 的其他声明中也看到了类似的脱节，比如当 OpenAI 的 Laurance Fauconnet 告诉The Verge该公司在另一个千禧年大奖难题上“取得了实质性进展”。“没有数学家会站出来说那种话，”Lozano-Robledo 说。“你要么已经解决了它，要么还在尝试。”

Lozano-Robledo 说，他希望与 AGMAI 的接触是 OpenAI 为回应数学家的担忧而做出的认真尝试，但强调这样做意味着它应当成为研究界负责任的一员。这需要的不仅仅是把结果抛向世界然后一走了之，正如许多数学家认为该公司对其最新发现所做的那样。研究人员The Verge在接受采访时抱怨手稿写得糟糕，且对某项发现的相关文献涉猎甚少，这一切都让人难以理解一项结果的重要性，并使关键工作得不到应有的认可。有时，该公司在文件发布后悄悄修改文件以弥补缺陷，但没有宣布更改，也没有留下清晰的修改记录。The Verge 注意到这一点是在该公司于 8 月初宣布“数学与理论计算机科学领域的十项进展”时，而 Hairer 也分别描述了数次让他觉得该公司为回应批评而“偷偷摸摸”修改手稿的情况。“这也会让人变得疑神疑鬼，对吧？”Hairer 说，称其为“粗制滥造”以及“非常糟糕且草率的学术作风”。

与别处的 AI 垃圾内容一样，制造它的人很少是承担处理它代价的人。Lozano-Robledo 将 AI 生成数学解答的洪流描述为社区的“负担”——他认为 AI 公司从根本上误解了这一负担。“负担在于他们在生产一个解答，”他说，但解答往往不如随之而来的理解重要。在人类数学中，这两者传统上一直相伴而行，而 AI 似乎正在改变这一点。

AI 公司或许正在产出令人瞩目的成果，但它们仍然需要人类数学家来判断一项成果究竟有多重要。“他们需要我们的专业知识，”Lozano-Robledo 说。“他们需要我们来庆祝那个解答。”

对于其他数学家The Verge在接受采访时表示，这种负担要个人化得多。数周以来，OpenAI 一直在暗示另一个千禧年大奖难题，并声称有 100 多项针对明显重大问题的成果准备发布，却几乎不透露这些成果究竟是什么。在过去的公告引发动荡之后，尤其是纳维-斯托克斯方程，这种不确定性营造了一种紧张氛围。许多研究人员表示，他们担心自己投入了数年甚至数十年职业生涯的问题或工作领域可能成为下一个被砍掉的对象，被一家他们怀疑是在 IPO 路上搞宣传噱头的公司突然解决。

“他们只是在助长人们对其可能证明了什么的偏执猜疑，”Lozano-Robledo 说道，并指责该公司“煽动狂热”，加剧了许多数学家的恐惧，担心自己的工作领域可能成为下一个被颠覆的对象。“比如说，当他们说‘我们几乎解决了另一个千禧年大奖难题’时，他们说的是哪个难题？这句话在数学上根本说不通。”这位研究人员强调，这种哗众取宠根本不是数学通常的做法。

对于苏格兰圣安德鲁斯大学的数学教授 Colva Roney-Dougal 来说，围绕 OpenAI 的不确定性已经对她思考自己工作的方式产生了深远影响。“知道‘大量’成果可能很快就会被公布，这多少有些令人煎熬，”她说。“成果越多，我正在进行的工作或我学生的工作突然变得无关紧要的可能性就越大。”

如此迅猛的发展速度让 Roney-Dougal 处于一种奇特的学术十字路口：“因此我不清楚自己应该尽可能多地赶发论文，还是被动等待看看这些成果是什么，还是照常继续工作，”她说。

Hairer 非常清楚这种焦虑。他说，对研究人员可能造成的颠覆，正是他在一份名单上签下自己名字的原因之一，那份菲尔兹奖得主名单试图解决他们所描述的 AI 公司与数学界“严重错位”的目标。他也意识到，OpenAI 可能会利用他和其他知名 AGMAI 成员的参与来为自己谋利，尤其是在公众面前。

他说，随他们去。“他们不会在数学界对我造成什么损害，”Hairer 说。“某种意义上，我并不真的在乎他们说什么。但我真正担心的是数学界作为一个整体。”