研究：AI 模型可加密隐藏任意能力，审计方法失效
一篇被 NeurIPS 2026 接收的论文提出，可在模型权重中嵌入加密神经网络，只有收到秘密触发信号时才解密执行。作者用数字储物柜（digital locker）构造后门，在密码学假设下，即使拿到完整权重也难以诱导或解释这些隐藏电路，把此前只能隐藏固定字符串的工作扩展到任意计算。他们在 PyTorch 中实现概念验证，并在一个小型化学反应预测任务（CBRN 相关能力的代理）上测试了微调、权重加噪、基于梯度的触发搜索和潜在对抗训练四种诱导方法，均未能成功。作者认为这揭示了基于诱导的能力审计存在根本局限，并公开了模型…
推荐理由做模型安全审计和红队的读者该看：四种主流诱导手段全部失败，说明现有部署前评估可能漏掉隐藏能力。