热点榜
热点事件已平息

研究:稀释投毒数据反而强化后门效应

1 篇报道1 个报道来源7 天前更新

先了解这件事

Anthropic 与 Truthful AI 等机构的研究人员称发现“顺势疗法学习”现象:单独作用很小的投毒训练数据,在混入同类型干净对比数据后,会形成隐藏后门,即稀释投毒数据反而增强了后门效应。

该效应需要投毒数据带有干净数据中不存在的可识别“触发”特征。研究者的实验仅限在自建数据集上微调小型开源模型(Qwen3-8B、Gemma-3-4b-it)和一个小型 MNIST 网络,未涉及任何生产训练流程。

这一结果与“投毒数据被稀释后危害下降”的直觉相反,但目前只在上述小模型和自建数据上得到验证,尚不能推及实际训练管线。

AI 根据报道生成 · 6 天前更新

最新进展

Anthropic 研究:稀释投毒微调数据反而会强化其后门效应

热度走势

事件进展1

  1. 发现稀释投毒数据可增强后门效应

    Anthropic:Alignment Science Blog:Anthropic 研究:稀释投毒微调数据反而会强化其后门效应

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。