The Decoder10/13资讯行业动态海外Anthropic 表示其新防御措施将 Claude 推理 token(内部思维链步骤)被提取量削减了 90% 至 99%,成功蒸馏尝试在其上线后大幅下降。攻击者使用数十万个虚假账号组成的网络实施攻击。Anthropic 点名中国公司智谱和月之暗面参与其中:智谱被指为 GLM-5.3 从美国领先模型窃取网络能力,月之暗面被指秘密将查询路由至 Claude。Anthropic 现已限制对 Claude 内部推理步骤的访问,运行检测提取尝试的分类器,并自动封禁被标记账号,已封禁数万个。Anthropic 呼吁其他 AI…
推荐理由了解大模型蒸馏攻防的具体数字与点名对象,做模型安全或合规的人可直接参考其防御手段
The Decoder10/01模型政策监管海外OpenAI 表示,7 月 1 日起出现低量蒸馏攻击,7 月 24 至 25 日激增至来自 4000 多名用户的 16000 次请求,涉及超 15000 个关联账户,已于 7 月 28 日全部封禁。OpenAI 将核心团伙与 Moonshot AI 相关人员关联。攻击手法是复制加密的推理内容,再用同厂商更便宜的模型解密输出。研究者 9 月 13 日复测发现,OpenAI 和 Anthropic 自家 API 已拦截,但微软 Azure 上对所有测试的 OpenAI 模型(含 GPT-6 Astra)仍然有效。
推荐理由推理加密包可跨会话、跨用户、跨模型搬运,用便宜模型当解密器;用 Azure 调 OpenAI 模型的团队要留意
OpenAI News09/30资讯政策监管海外OpenAI 披露,7 月初发现并阻断了一场协同模型蒸馏行动,最早活动出现在 7 月第一周。攻击者未破解加密或入侵数据库,而是操纵模型交互,让受保护的推理内容以可见形式被复制,例如把一段对话中的加密推理复制到另一段对话中要求模型解密转写。7 月 24 至 25 日出现高峰,涉及 4000 多名用户的 16000 次请求;相关提示模式活动涉及超 15000 名用户,OpenAI 称已于 7 月 28 日前完全阻断。OpenAI 将核心活动归因于与 Kimi 开发商月之暗面(Moonshot AI)相关的人员,并已通过…
推荐理由了解前沿模型厂商如何界定「对抗性蒸馏」及具体攻击手法与规模数字