微软研究:AI 智能体休眠神经元可植入后门
New research from Microsoft Research demonstrates that reprogramming just a few dormant neurons in an AI agent can create a backdoor that...
AI 导读微软研究院新研究发现,重编程 AI 智能体中的少量休眠神经元即可植入后门,让智能体平时表现正常,直到触发特定条件才激活异常行为。微软建议企业确认模型来源并合理管控权限,Microsoft Foundry 为 Azure Direct Models 和 Hugging Face 模型提供安全系统以保障模型来源可信。
另有 1 家信源报道
- Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI AgentMicrosoft Research 博客 · 7 天前
来源:Microsoft Research · x.com
事件后续1
查看事件全部- Microsoft Research 揭示 Lazarus 权重空间后门技术,通过重编程休眠神经元攻击 AI AgentMicrosoft Research 博客 · 7 天前