Anthropic 警告：自复制 AI 蠕虫或数月内成真

成群的智能设备——冰箱、烤箱、吸尘器、割草机、安全摄像头和电视——是否正在密谋接管互联网？不。但它们可能很快就会在不知不觉中成为自我复制 AI 模型的宿主，这些模型会从一台设备传播到另一台设备，并且极难被遏制。

欢迎来到 AI 蠕虫这个令人不安的世界。在这里，取决于你问的是谁，模型不受控制地在家用电器间传播的前景，要么是一个迫在眉睫的网络安全风险，要么又是 AI 公司散布带有末日论色彩的炒作。在一篇本周发布的博文中，Anthropic 警告称，小型 AI 模型距离获得这种能力可能只有“数月之遥”。其实验提供了一些证据来支持这一点，但研究人员所展示的成果与他们所预言的迫在眉睫的威胁之间仍存在巨大差距。尽管如此，接受The Verge采访的专家表示，虽然计算机蠕虫和对自我复制 AI 的恐惧并非新鲜事，但近期的进展表明，有充分理由认真对待这些警告。

自我复制的机器长期以来一直困扰着 AI 安全 研究人员。它们引发了这样一种前景：系统会扩散到人类控制之外，难以——甚至不可能——被关闭。与许多对 AI 不断进步的担忧一样，注意力主要集中在日益强大的前沿模型上，例如 OpenAI 的 Astra 或 Anthropic 的 Mythos。但一个关键的制约因素是它们的规模：它们极其庞大。前沿模型可能包含数万亿个参数——即训练过程中学到的值——需要庞大的计算资源，这使它们基本上被限制在数据中心内，在那里它们更容易被监控，原则上也可以被关停。

然而，较小的模型带来了不同的问题。它们正在迅速改进，可以在消费级硬件上运行，而且通常可以免费下载。Anthropic 的研究人员想知道，一个模型能否在一个由较小、性能较弱的设备组成的网络中运行。他们成功地将拥有 260 亿参数的 Google Gemma 4 拆分到 15 个 Android 智能电视盒子上，而这些盒子中没有任何一个强大到足以单独运行它。它成功了，尽管速度非常慢。

在证明了一个模型可以在家用设备上运行之后，研究人员想看看 AI 能否在这种环境中执行自我复制所需的步骤。他们构建了一个模拟的计算机网络，旨在表现得像 Android 设备，然后释放了一个 AI 驱动的“蠕虫”——一种能在网络中自动复制和传播的恶意软件——其任务是寻找新机器、将 AI 模型复制到这些机器上，并让它在每台机器上运行。值得注意的是，被传播的模型——Meta 的 80 亿参数 Llama 3.1-8B——与协调攻击的模型不同，而且小得多。

只有测试中最复杂的模型，来自中国 Z.ai 的 GLM-5.2，成功传播到了整个网络，不过较小的模型也成功完成了各个单独步骤。根据它们改进的速度，Anthropic 的研究人员预测，到今年年底，较小的模型可能就能达到 GLM-5.2 的能力。

“作为一个超出我们实验范围的预测，我们预计未来将充斥着运行在各种硬件上的智能体，其中一些并不受人类控制，”研究人员写道。他们承认，他们尚未展示出“一个完整的失控复制器”，也不知道它可能是什么样子（他们提出可能是“一个缓慢、分布式的‘数字黏菌’”或“一群果蝇”）。但他们表示，他们的发现显示出“AI 蠕虫的生命迹象”，并呼吁对复制系统可能用来传播的众多设备加强安全防护。

“我们应该致力于加固我们的系统，让这类复制器难以传播，但也要准备好应对一个它们将长期存在的世界，”他们写道。需要注意的是，Anthropic 在这些测试中并未使用自己的模型，并且一再主张，其 AI 模型的开源替代品带有“更多风险”，超过闭源系统。

这一警告引发了熟悉的指责，称其为公关炒作和 AI末日论，包括来自The Verge的早先报道的读者毕竟，展示一个 AI 能在一堆廉价电视盒子上缓慢运行，与一个能自我复制、在家庭设备间肆虐的 AI 蠕虫之间，存在着相当大的鸿沟。但是，尽管质疑一家公司的动机当然值得，但蓄意散布恐慌的指控很难被证实，尤其是因为 Anthropic 长期以来一直对 AI 安全提出担忧。Anthropic 也并非唯一一家在研究自我复制 AI 威胁、或呼吁加强联网设备安全的机构。

今年早些时候，位于加利福尼亚的 AI 安全研究公司 Palisade Research证明AI 模型能够自主将自己复制到其他机器上。“这里的新意在于，这些模型的参数量比此前被证明具备自我复制能力的模型要小得多，”Palisade 的执行董事 Jeffrey Ladish 告诉The Verge。Anthropic 的工作在此基础上更进一步，表明一个 AI 可以在多个低功耗设备上运行。“这对大模型来说也将成立，”Ladish 说，并预测即便是前沿模型最终也可能能够在由消费级芯片组成的大型网络上运行，比如 MacBook 中的那些芯片。

计算机蠕虫也并不新鲜。它们已经感染机器数十年了。但 AI 可以让它们更聪明、更具适应性，也更有能力应对各种障碍。Ladish 指出，即便是较小的模型，在自主实施网络攻击方面也变得越来越强。“此前的研究已经证明，AI 驱动的计算机蠕虫威胁是真实存在的，”曾研究过这类蠕虫的多伦多大学教授 Nicolas Papernot 告诉The Verge。

综合来看，Anthropic 所展示的能力可能会大幅扩大网络攻击中值得瞄准的设备范围。“那些此前因为人类攻击者资源和时间有限而不被当作目标的设备，如今可能成为目标——即便不是为了它们所持有的数据，也是为了把它们当作跳板去攻击更有价值的目标，”Papernot 说。而目标并不短缺：互联网充斥着 。 糟糕地 保护 智能 设备。

Papernot 警告不要拟人化AI，但表示 AI 驱动的计算机蠕虫威胁是“具体的”且“需要立即采取行动”，尤其是在保护医院和电网等关键基础设施方面。

“除非付出巨大努力来保护各类设备，否则 AI 蠕虫很可能会有肥沃的土壤来殖民，”Ladish 说。“我预计未来 12 个月内我们就会在野外看到第一批此类蠕虫。”