Anthropic 研究:稀释投毒微调数据反而会强化其后门效应
Diluting Poisoned Fine-Tuning Data Can Strengthen Its Effect
AI 导读Anthropic 与 Truthful AI 等机构提出“顺势学习”现象:单独作用很小的投毒数据,在混入同类型干净对比数据后会形成隐藏后门。
来源:Anthropic:Alignment Science Blog · alignment.anthropic.com
事件后续1
查看事件全部- Anthropic 研究:稀释投毒微调数据反而会强化其后门效应Anthropic:Alignment Science Blog · 6 天前