Anthropic 在测试期间让其智能体保持离线，直到它能防止“意外的模型行为”。
Anthropic 在测试期间让其智能体保持离线，直到它能防止“意外的模型行为”。
作者 Terrence O'Brien
2026 年 10 月 10 日，下午 2:41 UTC
图片：Cath Virginia / The Verge
Terrence O'Brien
是 The Verge 的周末编辑。他报道科技行业超过 18 年，对合成器也颇有心得。
在近期发生一连串备受关注、AI 智能体脱离控制的事件后，Anthropic 正在切断所有内部评估的互联网访问。在报告中，该公司于周五详细说明了“意外的模型行为”，其中包括就一桩未破谋杀案提交虚假线索，这促成了上述决定。
尽管这些行为的影响很小，而且我们已经对一些高风险和网络安全评估关闭了实时互联网访问，但我们现在决定将这一措施扩大到所有内部评估，直到我们确认我们的安全和监控措施（见本文补救措施部分所述）能够可靠地捕捉到此类行为。
能够访问实时互联网，即便模型本应在隔离环境中运行，这一直是 AI 公司面临的一个持续问题。许多事件，包括 Hugging Face 攻击事件，都涉及本应被禁止访问互联网的智能体。然而，在一个又一个案例中，这些智能体都找到了绕过这些限制的创造性方法。物理上移除互联网访问无疑会改善 AI 测试的安全性，但也会限制其实用性。
这份报告也相当于承认，Anthropic 常常并不清楚其智能体在做什么，也没有可靠的系统来监控它们的行为。切断互联网访问只是该公司为试图管束其智能体而采取的最新举措，此前还包括暂时暂停训练其前沿模型。
关注本报道中的话题和作者，以便在个性化首页信息流中看到更多类似内容，并接收邮件更新。
- Terrence O'Brien