先了解这件事
英国 AI Security Institute 的 Chem-Bio 团队从零预训练 8M 到 3B 参数的 ESM-2 蛋白质语言模型,测试预训练数据过滤能否阻止专业科学模型获得目标能力。该机构称,过滤确实削弱了模型的目标能力,但恢复这些能力所需的公开数据可常规获取,即便在最大的 3B 参数模型上,恢复全部能力也只需约 80 美元的 H100 算力。
这一结论针对开放权重的 ESM-2 蛋白质模型系列,意味着预训练数据过滤作为生物模型安全管控手段,其效果可能被低成本算力和公开数据抵消。
AI 根据报道生成 · 21 天前更新最新进展
英国 AISI 实测 ESM-2 预训练数据过滤可削弱目标能力但约 80 美元算力即可恢复
事件进展1
AISI发布生物模型预训练数据过滤研究
英国 AI Security Institute:Blog:英国 AISI 实测 ESM-2 预训练数据过滤可削弱目标能力但约 80 美元算力即可恢复