先了解这件事
Anthropic 发布针对 Claude 模型蒸馏攻击的新防御方法,包括限制推理内容流向、用两阶段分类器拦截提取尝试、对反复尝试的账号实施更严格限制。Anthropic 称早期证据显示,这些措施使蒸馏者获取的数据减少约 90% 至 99%,被提取的推理 token 数量下降 10 到 100 倍。
Anthropic 称攻击者使用数十万个虚假账号提取模型的内部思维链步骤,并点名智谱和 Moonshot 参与,称智谱为 GLM-5.3 窃取美国领先模型的网络能力,Moonshot 通过 Claude 秘密转发查询。
Anthropic 同时说明措施存在权衡:部分开发者需更新集成,分类器误判率低于 0.1%。上述降幅均为 Anthropic 的早期评估说法。
AI 根据报道生成 · 23 小时前更新最新进展
Anthropic 称防御措施将 Claude 推理 token 被窃取量削减 90% 到 99%
事件进展1
Anthropic发布防御蒸馏攻击的新方法
Anthropic:Research:Anthropic 强化针对蒸馏攻击的防御,推理 token 提取量下降 10 到 100 倍