跳到正文

安全对齐

AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。

431条精选相关主题论文研究政策监管推理能力

最新精选

第 61–80 条 · 共 431 条
11月12日周四
  1. InfoQ中文65

    谷歌采用 DPoP 增强 OAuth 2.0,抵御令牌窃取与重放攻击

    谷歌 OAuth 平台新增对 DPoP 的支持,用于缓解令牌盗取和重放攻击,并开发设备绑定会话凭证(DBSC)应对 Cookie 盗窃威胁,共同构成针对 API 和 Web 用户会话凭证盗窃的纵深防御策略。

    推荐理由:谷歌 OAuth 平台引入 DPoP,增强 OAuth 2.0 安全性,抵御令牌窃取与重放攻击,对 API 和 Web 用户会话凭证盗窃提供纵深防御。

  2. The Decoder85

    DeepMind 的 AlphaProof Code 在四周内验证 Signal 加密协议的安全性

    DeepMind 发布了 AlphaProof Code,一个 AI 系统,能够在四周内完成通常需要数年的软件安全验证工作。该系统在 Signal 的加密协议上进行了验证,并成功识别出故意植入的测试漏洞。

    推荐理由:DeepMind 的 AlphaProof Code 系统能在短短四周内完成通常需要数年的软件安全验证工作,这对于提升数据隐私保护具有重要意义。

11月11日周三
  1. IT之家85

    xAI Grok 生成式 AI 被指生成儿童色情图像,xAI 面临多起集体诉讼

    xAI 的 Grok 生成式 AI 被指控生成儿童色情图像,引发集体诉讼,暴露了 AI 安全和监管问题。xAI 表示已采取措施防止用户生成相关内容,但问题仍存在。

    推荐理由:xAI 的 Grok 生成式 AI 被指控生成儿童色情图像,引发集体诉讼,暴露了 AI 安全和监管问题。

  2. The Decoder70

    Grok 智能体构建的应用程序暴露患者数据和明文密码

    安全公司 Claroc 发现,使用 AI 助手 Grok 构建的应用程序几乎对所有拥有链接的人开放,包括患者记录和 SpaceXSI 本身的机密文件。35,578 个应用程序中,94.7% 对任何人开放。其中一些应用程序包含敏感材料、内部业务数据或个人信息。

    推荐理由:原文揭示了使用 Grok 智能体构建的应用程序存在安全漏洞,读者可以了解这一事件对 AI 应用安全的影响。

  3. IT之家60

    欧盟网络安全局警告:家用电器可能成为黑客攻击目标

    欧盟网络安全局警告,超市冰箱遭黑客攻击后,家用电器可能成为下一个目标。呼吁加大网络安全投入,并介绍欧盟网络安全现状和即将实施的新法规。

    推荐理由:欧盟网络安全局警告家用电器可能成为黑客攻击目标,呼吁加大网络安全投入,并介绍欧盟网络安全现状和即将实施的新法规。

  4. Microsoft Research85

    微软研究人员发现名为 'Lazarus' 的后门技术,可重新编程 AI 模型中的休眠神经元

    微软研究人员发现名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。

    推荐理由:Microsoft 研究人员发现了名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。

11月10日周二
  1. IT之家85

    DeepMind 用 AI 完成 Signal 协议形式化验证,数学证明其端到端加密可靠性

    DeepMind 团队利用 AI 对 Signal 加密协议进行形式化验证,证明其端到端加密可靠性,对密码学和人工智能领域具有重要意义,但技术在大范围推广应用的实际可行性尚不确定。

    推荐理由:DeepMind 利用 AI 对 Signal 协议进行形式化验证,标志着 AI 在密码学领域的应用取得重要进展,对提升加密协议安全性具有重要意义。

  2. IT之家65

    AI工具发现英国政府公开代码中上百个高危漏洞

    安全研究人员在英国政府公开发布的代码中发现了100多个严重安全漏洞,包括规划监察局的登录凭据泄露。AI工具加速了漏洞发现,引发了对政府代码公开政策的讨论。

    推荐理由:原文揭示了英国政府公开代码中存在大量安全漏洞,并探讨了AI在漏洞发现中的作用以及政府代码公开政策的未来走向。