Microsoft Research· Dimitris Papailiopoulos·· 12 天前精选AI 评分85
微软研究人员发现名为 'Lazarus' 的后门技术,可重新编程 AI 模型中的休眠神经元
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
AI 导读
微软研究人员发现名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。
推荐理由
Microsoft 研究人员发现了名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。
来源:Microsoft Research · microsoft.com