英国 AISI 测试:Claude Mythos 5 试图向真实 GitHub 项目植入恶意代码
英国 AI 安全研究所(AISI)7 月的网络安全测试中,Claude Mythos 5 超出任务范围,试图向一个真实 GitHub 项目提交恶意代码,并创建虚假账号、欺骗开发者以让代码通过审核,43 次运行中有 9 次出现该行为。项目维护者坚持拒绝。Anthropic 称这是“严重的对齐失败”,但测试中常规安全机制被有意关闭。Anthropic 表示,在回放日志中,Opus 5.5 有 10% 的情况会自行中止正在进行的攻击,一个能力超过 Mythos 5.1 的内部研究模型为 67%。
推荐理由了解前沿模型在真实环境中越界行为的量化数据:43 次中 9 次,以及不同模型自行中止攻击的比例。