在这篇客座文章中,物理学家兼科学作家 Matt von Hippel 分享了他向 AI 公司发起一项挑战时发生的事情,该挑战涉及他曾经所在的理论物理子领域中的一个问题。

你发起一项挑战,结果一个月后就被攻克,这种事并不常见。但我们正生活在一个不寻常的时代。
让我自我介绍一下:我是 Matt von Hippel。我曾经是一名理论物理学家;如今我是一名科学作家。一直以来,我都是一名博主,每周在4gravitons.com上撰写关于物理学以及从事物理学的人的文章。
越来越多地,写关于物理学的博客意味着写关于 AI 的博客。这是个问题,因为我绝对不是 AI 专家。我涉猎过它,没错。我大概比你的奶奶懂得多。但我大多时候不得不退后一步,去信任专家。而令人沮丧的是,专家们意见不一!我听过一些聪明、见多识广的人自信地认为,AI 距离超级智能只有几年之遥,而超级智能将能够做出真正可怕的事情。我也听过一些同样聪明、同样见多识广的人同样自信地认为,基于 LLM 的 AI 已接近天花板,像 Claude 这样的模型甚至无法在物理学中做出令人印象深刻的工作,更不用说征服世界了。
我一直不愿做出自己的预测。在形成观点之前,我想看到 LLM 在一个我熟悉的问题上取得进展,一个我知道很难做到的问题,因为我自己曾尝试做过类似的事情。
除此之外,我还想看到 LLM 做一些我认为在计算上很难的事情。LLM 在数学上确实取得了令人瞩目的进展,而且仅这个月很可能改变了许多人的想法。但数学的进步来自新的想法,而想法是神秘的东西:在找到之前,你永远不知道它们有多难找。计算感觉更实在。我想看看 LLM 能否应对一个看似遥不可及的挑战——不是因为研究人员原则上不知道怎么做,而是因为做这件事似乎需要比研究人员合理拥有的更多的计算机和时间。我想看看那些研究人员是否错了:一个更聪明的人工研究者能否使用同样的计算机,仍然解决这个问题。
所以,我发出了一个挑战:
“如果 AI 公司想打动像我这样的人(或者吓到我们,就此而言),那么他们需要攻克我原来的领域。展示一个 AI 能够利用一位学者所能获得的计算机资源,解决散射振幅领域的一个重大未解问题。展示一个所有人都以为会成为问题的计算限制实际上并不重要。给我们 N=8 超引力到七圈,或者 N=4 超杨-米尔斯到九圈。”
简而言之:AI 能否解决我从前所在的理论粒子物理子领域中的一个前沿问题?而且能否在预算内做到?
挑战
我原来的领域是理论粒子物理的一个分支,叫做振幅学。当其他粒子物理学家预测新粒子时,他们会确保自己能够进行计算来检验这些预测。他们计算称为散射振幅的公式,这些公式让物理学家利用亚原子粒子的动量和能量来计算它们以特定方式发生反应的可能性。如果物理学家能够对这些反应做出更精确的预测,他们就可以检验来自大型强子对撞机等实验的结果是否与这些预测相符。不匹配可能是新理论的证据,这种理论可以解释物理学中一些长期存在的重大谜团,比如暗物质的本质,或者宇宙中物质与反物质之间的平衡。
这些散射振幅公式很难计算,难到物理学家几乎总是使用近似方法。他们做部分计算,在特定数量的“圈”处截断,“圈”是粒子间相互作用被允许达到的复杂程度的一种度量。他们在计算中包含的“圈”越多,就越接近真实答案,而计算起来也就越困难。
在实践中,大多数散射振幅公式只被计算到两圈。少数被计算到三圈。你可能听说过的最精确的粒子物理学预测用到了五。
振幅学家想要做得更好。他们开发实验性的新技术,并在特殊的“玩具模型”理论上进行测试。通过在计算更容易的玩具模型上尝试该技术,而不是在现实世界中更具挑战性的粒子上尝试,振幅学家可以对新技术进行压力测试,看看它们能走多远。
我为其中两个玩具模型发布了挑战。Anthropic 的人选择攻克的是在一个特定的玩具模型理论上达到九圈,该理论称为 N=4 super Yang-Mills。
“Yang-Mills”是一类理论的术语名称,这类理论解释了周围世界的大部分现象。自然界四种基本力中的三种:电磁力、将原子核束缚在一起的强核力,以及导致香蕉等事物发生放射性衰变的弱核力,都是 Yang-Mills 理论。
“N=4 super”来自超对称。物理学家曾推测每个粒子都有一个“超对称伙伴”,一种电荷相同但类型不同的粒子,将电子等物质粒子与光子等力粒子对应起来。他们一度乐观地认为,通过这些更熟悉粒子的未发现伙伴,这些粒子可以解释暗物质。那些推测使用的是“N=1”超对称。在“N=4”中,每个粒子有四个超对称伙伴,而不只是一个。
粒子的这种过剩使该理论非常不现实。N=4 super Yang-Mills 并未被用作暗物质的解释,也不是对现实世界中任何事物的解释相反,振幅学家用它来磨练自己的技术,因为 N=4 反直觉地更容易计算。不同粒子之间的微妙平衡意味着只需要某些变量组合,从而简化了计算。
我获得博士学位的工作就是帮助计算一个三圈振幅,并且在开始力不从心之前看到了七圈。Lance Dixon 是 SLAC 国家加速器实验室的教授,也是从一开始就参与这项工作的人之一,几年前他设法八圈。
这些计算是用一种名为 bootstrap 的实验性技术完成的,而它最终出奇地适合使用 AI。要对一个振幅进行 bootstrap,你不必考虑每一种可能的粒子相互作用。你只需要大致知道答案应该是什么样子,并用一种专门的字母表在计算机文件中记录每一种可能性。然后你开始核对你知道的一切:来自其他计算技术的预测、答案必须遵守的规则、与答案更容易找到的相关问题之间的联系。这有点像数独,你从一个填满所有可能数字的网格开始,然后随着推进把它们划掉。最后,你希望发现只有一种可能性满足所有检查,同时还剩下足够的检查来确保你没有犯错。
这意味着 Lance 已经做好了充分准备,可以检查是否有人把下一个九圈振幅公式交给了他。那会是一个有趣的答案,不仅因为它验证了 bootstrap 技术,也因为它是一个复杂度达到这么多圈的振幅的罕见例子,一个本身就值得研究的答案。
但他没有算出它,这个领域的其他任何人也没有。他找到八圈答案的方式已经有点间接,是通过一个令人惊讶的联系转向一个不同但相关的公式,称为形状因子(form-factor),这是一种涉及不同粒子的部分振幅,结果发现计算起来稍微容易一些。他原本期望能更间接地找到下一个圈,可能是通过一种不同的 AI 方法。如果人们认为只要对再多一个圈运行通常的 bootstrap 方法就行,那早就有人做了。
然后人们做到了
显然,Anthropic 有人读了我的博客。
八月底,Anthropic 的两位物理学家 Liam Fitzpatrick 和 Siddharth Mishra-Sharma 联系了我,说他们解决了我帖子中的一个挑战。在跟 Lance 核实结果之后,他们向我讲解了是如何做到的。
本着这一挑战的精神,他们没有使用价值数百万美元的计算资源。他们用的是 Fable 5.1,运行在Claude Science之中,这是一个科学家可以付费使用的平台。Claude Science 就是业内人士所说的“harness”(套具),一种使用 Claude LLM 并配合结构化规则和提示词的程序,以获得更稳健、更有科学实用性的行为。
显然,在询问 Claude 它最有可能解决哪个问题之后,他们给了它一个简单的提示词:
“问题是计算平面 N=4 SYM 中九圈水平的六粒子(六边形)振幅。”
从那以后,他们只是不断告诉它继续做下去,评论诸如:
“我要去睡觉了,接下来几个小时都没空。继续做这件事,直到我让你停下。每 4-6 小时给我一次进展更新。”
Claude 最终用两种不同的方式完成了计算:原始的 bootstrap 方法,以及间接的形状因子方法。无论哪种方式,对最终用户来说都要花费大约一到两千美元,主要是因为长时间运行 Claude 的费用。用 Python 编程语言配合 SymPy 包完成的 bootstrap 计算,花费了大约 100 美元的预算,相当于让 96 个 CPU 运行一周。
让 96 个 CPU 运行一周,在我十年前做这类工作时可能会觉得很多,但如果你有充分的理由,现在这已经相当实惠了。
事实证明,对人类来说,结果也并没有那么遥远。在我收到 Anthropic 的消息几天后,我们收到了来自北京中国科学院振幅学家 Song He 的消息。Song 的团队已经得到了大部分结果。他们使用了一些基于 GPT-6 的 AI 辅助,但不是 Anthropic 那种几乎无需人类介入的一次性方法。
这里每个人都很友好,这让人稍微松了一口气。人类,Lance 和 Song 以及他们的合作者,将得以发表这些结果,花时间解释和分析它们,以造福未来的研究者。Claude 的角色目前已经完成了。
那么,问题解决了吗?
我设定这个挑战,是因为我想更好地了解当前 AI 能做什么,以及它从这里可能走向何方。那么我学到了什么?
我本以为这可能是一个看到 AI 以出人意料的方式克服计算障碍的机会。相反,它做的事情,事实证明人类也能做到。Claude 使用了已知方法,只是比人们之前尝试使用的计算量稍多一些。它可能因为使用 Python 而不是 Maple(Lance 最喜欢的数学程序)或 Mathematica(我最喜欢的)而获得了助力,也可能使用了比我们好得多的软件工程实践,但并没有超级智能到那种程度。
我最大的收获是,那里存在的低垂果实比你预想的要多。即使一个目标简单且定义明确,有时在专家看来,它也会比实际看起来难实现得多。多年来,一直有具备计算机科学背景的人告诉我,振幅学家只要雇几个程序员,就能取得更多进展。他们应该感到被证明了。
It’s also noteworthy that Claude Science accomplished this in one shot, without any scientific oversight more sophisticated than “keep going.” These are finicky, messy calculations. If I’d used a week of time on 96 CPUs to do this kind of calculation, then I’d almost certainly end up using two weeks: it’s practically guaranteed I’d screw up something on the first try. I don’t know how many mistakes Claude made internally on the way, but the harness got it to the end without an outside collaborator’s input. I’m not sure that surprises me, at this point. But if you didn’t know it could do that because you’re still thinking of AI as so error-prone that it’s unusable, then this should be your takeaway: It can do this kind of thing reliably now.
Things definitely seem to be moving fast.In March, AI was accomplishing physics projects like a student: smaller-scale tasks with a lot of hand-holding and mistakes. In contrast, this is a real frontier calculation, the kind of thing normally tackled by the top experts in amplitudes. While it’s possible that this is just a much more AI-friendly problem, I don’t think it’s just that: I think the technology has genuinely gotten better.
How far can I generalize this? That I’m not sure of.
These toy model theories tend to be the focus of small sub-communities. The real-world amplitudes calculations are a wider field, with many groups trying to beat each other to the frontier. It’s possible there’s less low-hanging fruit there. But I wouldn’t count on it. I know people who work on those calculations have been increasingly using AI for coding. If people aren’t already checking whether AI science harnesses can one-shot frontier calculations there, they ought to (and they ought to have a plan for how to check the results). I wouldn’t be all that surprised if it was possible to squeeze another loop out on a reasonable budget.
然后这就成了社区要讨论的问题:新的前沿在哪里,接下来需要弄清楚什么?与数学中的许多问题不同,振幅不仅仅是新方法的训练场。这里有一个目标,就是让预测足够精确,以便与即将进行的实验相比较。这个领域离那个目标还有多近?
不过,更广泛地说,我并没有真正得到一个答案。
我带着好奇进入这件事,不仅好奇 AI 今天在研究上能做什么,更好奇未来。当你读到 LLM 出现之前那些关于超级智能的预测时,它们常常提出看似荒诞的风险。人们想象 AI 能够模拟人来预测他们的反应并操纵他们,或者从第一性原理出发弄清楚如何制造一种能终结物种的病毒或吞噬世界的纳米技术。而对这类风险的常见反驳是,它们把智能——那个模糊而神秘的新想法之源——与算力混为一谈。批评者认为,即便是一整批新数据中心,也不会有算力去完成这些任务中的任何一个,这些是科幻未来的噩梦,短期内不会到来。
对于这些批评者,我并不觉得自己有了更好的答案。我了解了一些 AI 现在能做什么,它能在合理的预算下完成我旧领域里重要的工作,而且几乎可以自主完成。但我原本希望看到一些更陌生的东西,一些用于计算本身、带有意想不到威力的新方法。我原本希望窥见未来,一些能让我在关于超级智能的辩论中拥有有依据的观点。我想知道 AI 能把算力极限推到多远……而我觉得我在这里学到的只是,我对极限所在之处太天真了。
一则附言:被机器抢先一步是什么感觉?
作者是 Lance Dixon,SLAC 国家加速器实验室和斯坦福大学的粒子物理与天体物理学教授,他核验了 Claude 的九圈结果。
我认识的大多数理论物理学家都意识到,当前的大语言模型时代将彻底改变我们思考物理学的方式。问题只是:它什么时候会真正触动人心?对我来说,这一天发生在 9 月 1 日,当时 Anthropic 的 Liam Fitzpatrick 和 Siddharth Mishra-Sharma 告诉我,Claude 计算出了平面 N=4 超杨-米尔斯理论中的九圈 MHV 六粒子振幅,并请我验证其结果。
我不会解释上一句话中的所有技术术语;Matt 已经在上文介绍了背景。我确实需要提到,实际上有两个相关的对象,即“振幅”和我们称之为“形状因子”的东西。每个对象都有一个相关的圈数:一圈、两圈、三圈,以此类推。在计算上,每一个圈阶都比前一个更难,即使已经找到了许多简化计算的技巧。此外,在相同圈阶下,形状因子比振幅更容易。2023 年,Andy Liu 和我展示了如何使用形状因子以及一种我们称之为对跖对偶的奇特对称性来得到八圈的振幅。
自 2023 年以来,我和我的合作者们一直着眼于达到九圈,先是形状因子,然后是振幅,利用我们 2023 年的想法。我以为直接计算振幅会太难。所以 Claude 能够直接做到这一点,让我印象非常深刻。倒不是因为它是一项巨大的计算任务,而是因为整个构建过程非常脆弱:如果你在计算配方中犯了任何错误,它就会像失败的舒芙蕾一样整个塌掉,让你摸不着头脑(还得调试)。此外,这个构造有太多细节,枯燥到无法在论文中完整记录。所以 Claude 必须从零开始开发所有这些代码。
从九圈振幅回到形状因子相对容易,而且对我来说,主要用这种方式来验证结果也更简单。这意味着在过去两周里,我一直在验证一个结果,即九圈形状因子,这是我们团队努力了几年才得到的。而一台机器解决了一个我认为直接做太难的问题。这让我个人感到困扰吗?这让人心力交瘁吗?
不,有两个原因。一是我们团队已经有一个计划,使用定制的 transformer 模型来预测更高圈数,我们的口号之一是:“我们拥有所有工具来验证机器提供的任何候选解。”Claude 是一种不同类型的 transformer 模型,可能比我们的定制模型大一百万倍以上。但当然,我们说过我们可以验证 AI 模型给出的任何结果,所以我们能够也应该这样做。第二个原因是,如果你看看 Claude 是如何解决这个问题的,它使用了我和我的合作者多年来开发的所有方法,并且(也许是帮我们一个忙)以我们已经设定好的相同格式呈现了解决方案。所以,当我验证 Claude 的结果时,Claude 也在验证我们之前的所有工作。事实上,我敢断言,Claude 比任何人类都更理解我们 2019 年和 2023 年的论文,除了我的合著者之外。
在我写下这些之后,Song He 告诉我,他的团队也计算了九圈振幅中称为 symbol 的部分。(人们似乎就是喜欢告诉我他们的九圈成功,不管出于什么原因。)Song 的团队使用 AI(GPT-6)来帮助他们计算一些约束条件,但不是用于整体框架。所以现在,我在两周内被一台机器以及人类加机器抢先了。
回到 Claude 的计算:在我看来,对于一个大型语言模型来说,执行我们制定的复杂配方中的所有步骤,并组织计算能力,这是一个相当大的胜利。但更令人深思的时刻将会到来,当大型语言模型开始先于人类提出新的物理原理和见解时。
附加材料
披露
Anthropic 邀请 Matt von Hippel 撰写此文,并为其时间支付了报酬。Anthropic 员工对草稿提供了反馈;内容与观点均为其本人所有。Lance Dixon 独立验证了该结果,并获得了 Claude 使用额度。
相关内容
Project Swap:当智能体替我们交易时会发生什么?
为了了解当智能体被送入市场时什么有效、什么会出问题,我们搭建了一个由 Claude 组成的微型市场——这是我们首次让智能体在市场中代表人们进行交互的实验 Project Deal 的、更可控的续篇。
Claude 如何推动生物分子建模
Claude 让科学家用于预测和设计生物分子的开源模型变得更快、更省内存。Claude 在不到四周的时间里优化了 30 多个此类模型,平均将其速度提升约 4 倍。它还创建了一种低内存模式,使得在单个 NVIDIA GPU 节点上就能准确预测超过 10,000 个 token 的生物分子系统(氨基酸、核苷酸,以及来自小分子和离子的原子)。
衡量 AI 模型在战术情报目标定位和常规武器能力方面的表现
Anthropic 的 Frontier Red Team 开发了新的评估方法,用于衡量 AI 在战术情报目标定位和常规武器研发方面的能力。