Anthropic 强化针对蒸馏攻击的防御,推理 token 提取量下降 10 到 100 倍
AI 导读Anthropic 发布博客,介绍其针对 Claude 蒸馏攻击的新防御方法,包括限制推理内容流向、采用两阶段分类器拦截提取尝试、对反复尝试的账号实施更严格限制等。早期证据显示,这些方法使蒸馏者获取的推理数据减少约 90% 到 99%,平台侧被提取的推理 token 数量下降 10 到 100 倍。Anthropic 同时说明相关措施存在权衡,包括部分开发者需更新集成、分类器误判率低于 0.1% 等。
另有 3 家信源报道
- Anthropic 称防御措施将 Claude 推理 token 被窃取量削减 90% 到 99%The Decoder:AI News · 10 月 13 日
- Anthropic 推出新防护措施,模型蒸馏攻击被窃数据量降低 90% 至 99%IT之家·人工智能 · 10 月 13 日
- Anthropic 谈抵御蒸馏攻击进展Anthropic · 10 月 13 日
来源:Anthropic:Research · anthropic.com
事件后续1
查看事件全部- Anthropic 强化针对蒸馏攻击的防御,推理 token 提取量下降 10 到 100 倍Anthropic:Research · 10 月 13 日