#模型蒸馏

全部资讯模型
清除条件
共 2 条
The Decoder10/13资讯行业动态海外

Anthropic 称蒸馏防御使 Claude 推理 token 窃取减少 99%

Anthropic 表示其新防御措施将 Claude 推理 token(内部思维链步骤)被提取量削减了 90% 至 99%,成功蒸馏尝试在其上线后大幅下降。攻击者使用数十万个虚假账号组成的网络实施攻击。Anthropic 点名中国公司智谱和月之暗面参与其中:智谱被指为 GLM-5.3 从美国领先模型窃取网络能力,月之暗面被指秘密将查询路由至 Claude。Anthropic 现已限制对 Claude 内部推理步骤的访问,运行检测提取尝试的分类器,并自动封禁被标记账号,已封禁数万个。Anthropic 呼吁其他 AI…

推荐理由了解大模型蒸馏攻防的具体数字与点名对象,做模型安全或合规的人可直接参考其防御手段

OpenAI News09/30资讯政策监管海外

OpenAI 称已阻断针对其模型的协同蒸馏攻击

OpenAI 披露,7 月初发现并阻断了一场协同模型蒸馏行动,最早活动出现在 7 月第一周。攻击者未破解加密或入侵数据库,而是操纵模型交互,让受保护的推理内容以可见形式被复制,例如把一段对话中的加密推理复制到另一段对话中要求模型解密转写。7 月 24 至 25 日出现高峰,涉及 4000 多名用户的 16000 次请求;相关提示模式活动涉及超 15000 名用户,OpenAI 称已于 7 月 28 日前完全阻断。OpenAI 将核心活动归因于与 Kimi 开发商月之暗面(Moonshot AI)相关的人员,并已通过…

推荐理由了解前沿模型厂商如何界定「对抗性蒸馏」及具体攻击手法与规模数字