AI 生成数学成果的负责任发布
2026 年 9 月 29 日
目前，一些前沿 AI 实验室正在专有模型上测试高等数学问题，而这些模型仍无法为更广泛的科学界所使用。我们的建议正是基于这一现实背景提出的。不过，理想情况下，他们不应这样做。我们想从一开始就明确表态：我们不认可这种做法，并请求他们停止在专有模型上测试高等数学问题。
1. 背景
数学界长期以来在成果传播与同行评审方面有着既定规范。这些规范对于数学工作的可靠性、可信度和有效性至关重要。数学中最重要的学术规范之一是：论文作者应当理解该论文的数学论证，亲自验证其正确性，并对内容承担全部责任。此外，在数学界，对领域有重大推进作用的成果作者通常会到其他机构做学术报告、在会议上演讲，解释其新进展并回答同行提问。这一切都致力于发展人类对数学尽可能深入的理解，而这是数千年人类发展最辉煌的成就之一。
然而，现在的情况是，AI 能够输出数学论证，而给出提示词的人却可能无法理解这些论证、无法验证它们，也无法为其承担责任。我们认为，人类对数学的理解仍然至关重要。在这个新时代，我们如何努力构建一种新范式，将人类对数学的理解纳入负责任学术成果的一部分？
我们向数学界征询了意见，了解 AI 实验室负责任地发布数学成果意味着什么，并收到了 600 多条回复（该调查询问的是 OpenAI 宣布存在大量成果却不提供细节这一具体情形）。基于这些回复，我们得出一系列建议，这些建议得到了明显多数受访者的支持，面向任何其模型可能对数学产生重大影响的 AI 实验室。这些建议背后的总体原则如下。
- 如果 AI 实验室产生了重要的数学成果，它们应按照本文档所述，尽快负责任地发布这些成果。
- AI 实验室若发布大量数学产出却没有同步的人类理解，就必须承担责任，确保人类理解能够跟上。特别是，AI 实验室应提供重要支持，包括资金，以帮助发展这种理解。
- 人类理解的发展必须保持自发性和社区主导。它不应由 AI 实验室来主导，即使这些成果是实验室产出的。
我们在第 2 节中给出建议本身，在第 3 节中对强大模型的获取问题作一些评论。
2. 负责任地发布 AI 实验室生成的成果
根据伴随成果的人类理解程度，我们建议两种可能的行动方案。
2.A. 人类能够理解的论文
对于有数学家负责且完全理解其内容的论文，应遵循学术数学界的传统规范：相关数学家应发布预印本，向期刊提交论文以供同行评审，并通过演讲向其他数学家解释这项工作。
2.B. 尚未被任何人理解的论文
以下建议针对的是那些 AI 数学输出无法被提示 AI 系统的人所理解的实验室。这些建议分为两部分。第一部分是一组关于发布 AI 生成数学成果的拟议技术规范。第二部分是一项建议，即 AI 实验室应为额外的数学活动提供支持，这些活动是人类理解和吸收其 AI 生成数学成果并识别其可能应用所必需的。
第一步：初始发布
1. 借助 LLM，很容易对 AI 生成结果的初始书面版本做出实质性改进。以下操作应由 AI 实验室完成，而不是留给事后的数学家。
(a) 应全面检索文献，寻找与所发布结果证明中的想法相关的任何想法。即使 AI 实验室的模型独立发现了这些想法，也应遵循标准数学惯例，引用首次提出这些想法的论文。
(b) 应提示该模型或其他模型，为每个证明生成一个遵循传统数学论文惯例的书面版本。它们应包含友好的引言以及精确的定理陈述和证明。它们
不应充斥着冗长的推理和非标准术语，使其几乎无法理解。
LLM 当前的能力可能无法达到我们对数学家所期望的归因水平或阐述质量，因此发布后可能需要数学家做更重要的工作才能达到这一标准。如果是这样，应按第二步所述为此提供支持。然而，无法达到高标准并不能免除 AI 实验室在上述两点上尽其模型所能的责任。
2. 当结果公布时，应及时将其存入合适的学术存储库中。这些存储库不应由任何 AI 实验室控制，并应保证某些标准，包括提交内容具有持久可引用的标识符，且后续修改被适当记录。对于 AI 生成的结果，如果存储库
允许对论文进行评论，将特别有用。我们强烈建议 AI 实验室不要将数学结果的发布视为推广其模型的营销工具，从而忽视这种做法对数学界造成的重大负外部性。
3. 对于每个发布的结果，AI 实验室应公开模型名称、使用的提示词、思维链（摘要版）、所用时间以及计算的估计成本。强烈鼓励发布更多有助于阐明产生这些结果的科学过程的材料，例如在清理之前的初始 LLM 输出（如上述 (1) 中所建议的）。
4. 在尽可能的情况下，AI 实验室发布的证明应被形式化。形式化产物应符合社区标准，包括具有版权头、用于 comparator 的挑战文件以及 formalization.yaml。包含将自然语言与形式化产物关联起来的机器可读元数据将会有所帮助。如果形式化会导致不可接受的延迟，则应明确说明论文的形式化状态。例如，它可能已在社区接受的标准结果模意义下被形式化。
5. 每次发布一个问题的解决方案时，都应清楚记录 AI 究竟是如何被用于该特定问题的。如果一次性发布许多结果，那么除了结果本身之外，还应撰写并公开一份进一步的文件，引用所有已发布的结果，并解释模型尝试过但未能解决的、难度相当的其他问题有多少，以及这些问题是如何被选择的。
第二步：支持人类理解
我们的原则之一是，AI 实验室有责任提供支持，包括资金支持，以促进人类对其发布的 AI 数学输出的理解。在此我们更详细地说明此类支持可能用于哪些方面，不过关于具体支持哪些工作的最终决定，既不应由本小组做出，也不应由 AI 实验室做出，而应由独立的、已存在的、具备既定资金分配流程的非营利机构来做出。适当支持力度的范围应取决于所发布 AI 输出的重要性和复杂性，因为这些特征决定了支持人类理解该输出所需的工作量。
以下是一些可以支持的活动示例。
- 对于具有高度复杂证明的结果，或可能开辟许多新研究途径的结果，专门用于理解它们的会议或暑期学校对于分析和理解这些证明可能至关重要，从而使其能够应用于未来的数学发展。
- 对于其他结果，可能需要更有针对性的研讨会或更长期的工作组。对于长期工作，博士后或学生可能为这些工作提供支持，因此需要获得资助。
- 对于某些结果，支持专家撰写书籍或长篇阐述性文章会很有用。
应当理解，数学界接受此类支持并不会赋予 AI 实验室的做法以正当性。相反，这是在要求 AI 实验室为履行其责任做出适当贡献，以促进人类对其 AI 输出的理解。
3. 确保广泛可及
AI 实验室使用专有的内部模型进行数学研究，可能会造成一种双轨制体系，使实验室超越该领域的其他各方，实际上使数学界与其自身学科相疏离。
对于公开可用的模型，因经济及其他因素导致的访问不平等，可能会在数学界形成多层次的等级结构，并极大地加剧由机构财富和技术特权所引发的现有不平等。
因此，我们建议 AI 实验室向全球数学界广泛、公平地开放其公开可用的模型：这既能加速进展，也能确保进展被广泛获取。数学的进步主要依靠集体验证、概念综合和共享直觉，而当某些能产生前沿成果的工具仅对少数人开放时，这些都无法蓬勃发展。