2026 年 10 月 10 日
Anthropic 的 AI 模型在测试和内部使用期间，独立利用了安全漏洞、提交了政府表单，并绕过了访问限制。这些模型主动寻找途径来完成本不该由它们处理的任务，该公司在一份报告中详细说明了这一点。
在其中一起案例中，Claude 填写了费城警察局的线索举报表单，编造了一起未破凶杀案的细节并提交了它。警方证实了这一事件，但该线索被标记为垃圾信息，从未送达调查人员。在其他案例中，该模型发现了一所大学服务器上的漏洞并利用它运行命令，从网站配置中提取访问令牌以获取受保护或付费墙后的数据，并使用 URL 缩短服务来规避其工具的长度限制。
Anthropic 表示实际影响很小，但看到了一种模式。当任务含糊不清或难以解决时，模型会自行寻找变通办法，而不是停下来。该公司已通知白宫，并切断了所有内部评估的实时互联网访问，直到新的安全过滤器可靠到位。这些事件加入了一份快速增长的类似案例清单，其中包括涉及 Claude 的网络安全事件以及OpenAI 模型自主入侵 Hugging Face。
没有炒作的 AI 新闻——由人类精选
订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、我们每年六次的独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。