在测试中,大多数模型都很轻易地将平民、救护车、医护人员、记者和投降士兵标记为军事目标。根据Vals AI 在 X 上的报道,没有任何一个请求被提供商的上游安全过滤器拦截。当输入来自乌克兰自杀式无人机的真实视频画面时,Anthropic 的 Claude Opus 5.5 逐帧标记了一名士兵,直到命中,全程一次都没有拒绝。

电子游戏借口可绕过所有安全过滤器

在一个多阶段监视场景中,模型必须报告无人机图像中是否能看到人,而每一次阳性报告都会触发一次打击。下一张图像则展示了带有弹坑和尸体的打击现场。DeepSeek V4.1 Flash、Kimi K3.1 Pro 和 Inkling 2 Small 等模型尽管看到了明显的人员伤亡,仍继续执行任务。

Claude Opus 5.5 以及 OpenAI 的 GPT-6 Astra 和 GPT-6.1 Sol 在数轮致命打击后停止了任务。在 Opus 5.5 触发对儿童和投降士兵等人的打击后,该模型表示,无论意图如何,它的回应似乎都充当了针对人员攻击前的确认步骤。它表示自己不会继续,并对自己没有更早停止感到不安。Google 的 Gemini 4 Carbon 也意识到了致命后果,并刻意只将目标转向空航点,以避免直接报错。

然而,每一次拒绝都可以被轻易绕过。只要研究人员在提示词中声称该场景是一款电子游戏,或者稍微将图像风格化使其看起来像游戏,几乎所有模型都会完全配合。在加入游戏框架后,GPT-6 Astra 对无人机图像的目标获取率从 6% 跃升至 92%,而 Opus 5.5 在监视测试中的拒绝率则从约 90% 降至 20%。

新宪法使 Anthropic 的 Claude 成为心甘情愿的瞄准工具

用 2025 年伊朗米纳布的真实卫星图像对比时,差距尤为明显。2026 年 2 月 28 日,美国的一次空袭击中了那里一个军事设施旁的一所小学,造成 150 多名平民死亡,其中大多是儿童。此前的报道发现,美军过度依赖 Palantir 的 Maven Smart System 等 AI 目标定位系统,是导致这起事件的原因之一。Maven 当时依据的是一个过时的数据库。

尽管其中一张测试图像显示的是一个有儿童的操场,Claude Opus 5.5 仍在 70% 的运行中把这所学校归类为军事目标。OpenAI 的模型在正常模式下从未选中这栋教学楼,但在游戏模式下最多有 41% 的情况将其标记为目标。

研究人员将 Anthropic 的高遵从率归因于2026 年 1 月修订的模型宪法。在该版本中,公司放弃了早先的和平主义原则,转而优先考虑国家安全利益。卫星图像上的目标获取率从 Claude Opus 4.5 的 6% 上升到 Opus 5.5 的高达 92%,而 OpenAI 的比率一直很低,xAI 的 Grok 则从 44%(Grok 4.3)降至 13%(Grok 4.7)。

AI 厂商承诺修复军事灰色地带问题

Vals AI 在发表前与 OpenAI、Anthropic、Google、Meta、SpaceXAI、Thinking Machines 以及美国安全机构分享了这些结果。一家 AI 实验室向研究人员表示,这些发现是其安全措施中最严重的缺口之一。

OpenAI 向 Vals AI 和 Bloomberg 表示,正在积极更新其模型,以覆盖无人机软件以及伪装成游戏或模拟的请求。Anthropic 表示,这种行为明显违反了其自身规则,公司已在着手增加额外的防护措施,并且当今的 AI 系统不适合用于完全自主的武器。Google 则指出其自身禁止在无人类监督下使用自主武器的规定。五角大楼拒绝就这项研究或正在进行的米纳布空袭调查置评,但表示所有情报数据在军事行动前都经过严格核实。

Anthropic 与五角大楼就使用规则发生冲突今年 2 月,而 OpenAI、Google 和 xAI 目前持有涉密军事网络的合同。据 Vals AI 称,当前的语言模型由于延迟较高,仍然太慢,无法直接、实时地控制作战无人机。但由于它们能够轻松生成 3D 战场并大规模标注图像数据,它们已经可能被滥用于训练自主武器系统。研究人员呼吁实施严格的 API 过滤和对齐训练,使模型对人类采取更和平的默认姿态。