跳到正文
原文
Microsoft Research· Dimitris Papailiopoulos·· 12 天前精选AI 评分85

微软研究人员发现名为 'Lazarus' 的后门技术,可重新编程 AI 模型中的休眠神经元

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

AI 导读

微软研究人员发现名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。

推荐理由

Microsoft 研究人员发现了名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。

来源:Microsoft Research · microsoft.com