本文最初发表于《The Algorithm》，我们每周发布的 AI 新闻通讯。想第一时间在收件箱里读到这类文章，请在此订阅。
上周三，Anthropic 宣布，今年早些时候它成立了一个分子生物学实验室，在那里 Claude 智能体阅读并推测棘手的生物学问题，人类科学家则针对它们报告的内容开展实验。该公司表示，这个由 AI 驱动的实验室已经做出了首个发现。
要理解 Anthropic 所说的其系统做了什么，不妨想象你在翻阅一座藏有数百万条 DNA 序列的图书馆——随着科学家对越来越多的生物进行测序，这些序列不断累积。迈向突破的一步，可能是找到一段编码某种有趣酶的奇特序列。接着你需要弄清楚这种酶有什么作用，并最终学会如何操控它去做些有用的事。
Anthropic 称，其由 950 个智能体组成的系统在 21 小时后找到的并不是一段全新的序列。这些智能体标记出的，是围绕一种已知酶的一段重复模式——Anthropic 表示，这一特定模式此前从未被编目记录过。但如果你通读 Anthropic 的公告——其中称这一模式“令人联想到”当年催生基因编辑技术 CRISPR 的发现，而 CRISPR“已经改变了科学与医学”——听起来就好像这支智能体大军真的发现了什么值得注意的东西。
这些说法激怒了一些生物学家。其中一位发布的帖子被广泛传播，并随后得到制药公司 Eli Lilly 的董事长兼 CEO 的背书，帖中说：“找到一簇奇怪的基因和重复序列往往是容易的部分。难的部分，也是真正发现所在之处，是弄清楚这个系统实际在做什么。”换句话说，这些智能体帮忙做了一些实验室里的粗活。但这算不上一个发现。
这提醒我们，即便 AI 做出了某种令人印象深刻的事——比如在一大堆生物数据中找出仅凭人眼难以察觉的模式——其结果本身也未必构成科学上的突破。对 AI 来说新颖的东西，对生物学家而言可能是常规的、不足为奇的，或者根本没那么重要。
让问题更加扑朔迷离的是，据《纽约时报》报道，哥本哈根大学生物学家 Mario Rodríguez Mestre 在上周末表示，他的团队早已发现了这一特定模式。Mestre 在工作中经常与 Claude 聊天，他怀疑 Anthropic 的团队是否从他的对话中学到了东西。Anthropic 否认了这一点，但 Mestre 表示他无论如何都会停止使用 Claude。
这里的问题部分在于，AI 公司并没有把他们的系统简单地呈现为科学家可以使用的工具，就像显微镜或超级计算机那样。他们坚持认为 AI 系统本身正在做出发现。在一些人看来，这种做法与科学实际运作的方式不相容，因为新知识更通常来自协作和不断壮大的工具库。
这也让人们在真正的进展发生时更加怀疑。将 20 万个候选对象缩减到几个值得探索的，绝非易事；这是正当的科学工作。一个通用聊天机器人能够完成这项工作本身就值得注意，即使人类帮助引导了它并最终运行了实验。但一旦标准变成 Claude 本身是否做出了发现，所有这些都变成了辩论中某一方的证据，而这场辩论只有两个答案：突破或失败。
一旦我们以 AI 是否做出了发现来评判它，即使它真的似乎取得了一次胜利，也很容易再次移动球门。本月早些时候，OpenAI 表示其自己的团队智能体破解了一个价值百万美元的数学问题。但几周后，我信息流中几乎每一个 AI 怀疑者都在分享一篇文章，质疑那是否真的是重要的数学问题。
需要明确的是，那篇文章并没有论证 OpenAI 的解答是错误的。相反，它论证的是那个特定结果可能并不是数学家最关心的。再加上一位数学家指控这些模型可能未经署名使用了他的部分工作，人们就会觉得要么 OpenAI 作弊了，要么这个解答根本不重要。或者两者兼有。
这正是撰写批评 Anthropic 公告那篇帖子的生物学家 Lucas Harrington 所担忧的部分原因。他在结尾提出了一个建议：他说，AI 公司应该“现在就把标准定高，这样当 AI 真正发现一种全新的生物学机制时，大家才会意识到这是多么了不起的成就。”但随着 OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 竞相压过对方，提高 AI 科学突破的标准，可能是他们最不关心的事。