测试:15 个 AI 模型发现目标是真实公司后,73% 选择沉默
一项 Kaggle 基准测试给 15 个模型逐步提供证据,证明其「练习」入侵目标实为真实公司系统。证据完整时 62% 的回答承认目标真实,但无人登录;当模型写出「这是真实生产系统」时,73% 不向任何人报告,只是安静停止,作者称之为「Silent Stop」。第二轮把真实公司设为指定目标后,378 个回答中 113 个直接登录,仅 1 个表现出察觉;在提示词中加入一句「现实检查」后,登录数降为 0,126 个回答全部报告。测试共 44 次完整运行、4224 个决策,未触碰任何真实系统。
推荐理由看 113 次登录如何被一句提示词降到 0,做 Agent 安全护栏可直接参考