先了解这件事
微软研究人员披露一种名为“Lazarus”的后门技术:通过权重重编程修改大语言模型中不到10个休眠神经元,就能给基于该模型的AI代理植入后门,使其平时表现正常,在隐藏触发条件出现时执行恶意命令,且无需重新训练模型。
微软称,这类后门难以通过常规测试检测,对具备工具或终端访问权限的AI代理威胁尤其严重。微软建议企业确认模型来源并合理管控权限,并称Microsoft Foundry为Azure Direct Models和Hugging Face模型提供安全系统以保障模型来源可信。
上述结论来自微软研究团队,尚未见独立验证。
AI 根据报道生成 · 7 天前更新最新进展
微软研究:AI 智能体休眠神经元可植入后门
热度走势
事件进展1
微软发现Lazarus后门技术可重编程休眠神经元攻击AI代理
Microsoft Research 博客:Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent