热点榜
热点事件已平息

微软研究:重编程休眠神经元可给AI代理植入后门

2 篇报道2 个报道来源7 天前更新

先了解这件事

微软研究人员披露一种名为“Lazarus”的后门技术:通过权重重编程修改大语言模型中不到10个休眠神经元,就能给基于该模型的AI代理植入后门,使其平时表现正常,在隐藏触发条件出现时执行恶意命令,且无需重新训练模型。

微软称,这类后门难以通过常规测试检测,对具备工具或终端访问权限的AI代理威胁尤其严重。微软建议企业确认模型来源并合理管控权限,并称Microsoft Foundry为Azure Direct Models和Hugging Face模型提供安全系统以保障模型来源可信。

上述结论来自微软研究团队,尚未见独立验证。

AI 根据报道生成 · 7 天前更新

最新进展

微软研究:AI 智能体休眠神经元可植入后门

热度走势

事件进展1

  1. 微软发现Lazarus后门技术可重编程休眠神经元攻击AI代理

    Microsoft Research 博客:Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI Agent

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。