热点榜
热点事件已平息

英国AISI:生物模型预训练数据过滤易被低成本绕过

1 篇报道1 个报道来源22 天前更新

先了解这件事

英国 AI Security Institute 的 Chem-Bio 团队从零预训练 8M 到 3B 参数的 ESM-2 蛋白质语言模型,测试预训练数据过滤能否阻止专业科学模型获得目标能力。该机构称,过滤确实削弱了模型的目标能力,但恢复这些能力所需的公开数据可常规获取,即便在最大的 3B 参数模型上,恢复全部能力也只需约 80 美元的 H100 算力。

这一结论针对开放权重的 ESM-2 蛋白质模型系列,意味着预训练数据过滤作为生物模型安全管控手段,其效果可能被低成本算力和公开数据抵消。

AI 根据报道生成 · 21 天前更新

最新进展

英国 AISI 实测 ESM-2 预训练数据过滤可削弱目标能力但约 80 美元算力即可恢复

事件进展1

  1. AISI发布生物模型预训练数据过滤研究

    英国 AI Security Institute:Blog:英国 AISI 实测 ESM-2 预训练数据过滤可削弱目标能力但约 80 美元算力即可恢复

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。