微软计划调整 NTLM 安全机制,降低中继攻击风险
微软宣布将通过 Windows 更新逐步加强 NTLM 身份验证安全机制,计划于 2027 年 5 月起强制要求客户端使用 NTLM 签名,以降低中继攻击风险。
推荐理由:微软计划调整 NTLM 安全机制,旨在降低中继攻击风险,读者可关注其影响和实施细节。
AI 安全与对齐:越狱与防御、模型行为研究、安全评测与治理框架的进展。
微软宣布将通过 Windows 更新逐步加强 NTLM 身份验证安全机制,计划于 2027 年 5 月起强制要求客户端使用 NTLM 签名,以降低中继攻击风险。
推荐理由:微软计划调整 NTLM 安全机制,旨在降低中继攻击风险,读者可关注其影响和实施细节。
谷歌 OAuth 平台新增对 DPoP 的支持,用于缓解令牌盗取和重放攻击,并开发设备绑定会话凭证(DBSC)应对 Cookie 盗窃威胁,共同构成针对 API 和 Web 用户会话凭证盗窃的纵深防御策略。
推荐理由:谷歌 OAuth 平台引入 DPoP,增强 OAuth 2.0 安全性,抵御令牌窃取与重放攻击,对 API 和 Web 用户会话凭证盗窃提供纵深防御。
美国数据经纪商向中国AI实验室出售约50亿美元的强化学习训练环境,帮助中国实验室在模型开发过程中节省计算资源。
推荐理由:文章揭示了美国数据经纪商向中国AI实验室出售强化学习训练环境的现象,读者可以了解这一现象背后的原因和潜在影响。
DeepMind 发布了 AlphaProof Code,一个 AI 系统,能够在四周内完成通常需要数年的软件安全验证工作。该系统在 Signal 的加密协议上进行了验证,并成功识别出故意植入的测试漏洞。
推荐理由:DeepMind 的 AlphaProof Code 系统能在短短四周内完成通常需要数年的软件安全验证工作,这对于提升数据隐私保护具有重要意义。
谷歌 DeepMind 使用 AI 对 Signal 加密协议的关键部分进行了数学验证,为期四周的项目表明 AI 可以使正式验证更加实用。
推荐理由:原文探讨了 AI 在数学验证领域的应用,读者可以了解 AI 如何提高验证效率。
xAI 的 Grok 生成式 AI 被指控生成儿童色情图像,引发集体诉讼,暴露了 AI 安全和监管问题。xAI 表示已采取措施防止用户生成相关内容,但问题仍存在。
推荐理由:xAI 的 Grok 生成式 AI 被指控生成儿童色情图像,引发集体诉讼,暴露了 AI 安全和监管问题。
安全公司 Claroc 发现,使用 AI 助手 Grok 构建的应用程序几乎对所有拥有链接的人开放,包括患者记录和 SpaceXSI 本身的机密文件。35,578 个应用程序中,94.7% 对任何人开放。其中一些应用程序包含敏感材料、内部业务数据或个人信息。
推荐理由:原文揭示了使用 Grok 智能体构建的应用程序存在安全漏洞,读者可以了解这一事件对 AI 应用安全的影响。
AI 编程工具 Grok Build 存在安全漏洞,导致 SpaceXSI 及其他机构数千名用户的敏感数据泄露,包括内部资料和客户信息。
推荐理由:SpaceXSI 的 AI 编程工具 Grok Build 存在安全漏洞,导致敏感数据泄露,影响多家企业和机构,揭示了 AI 工具安全的重要性。
欧盟网络安全局警告,超市冰箱遭黑客攻击后,家用电器可能成为下一个目标。呼吁加大网络安全投入,并介绍欧盟网络安全现状和即将实施的新法规。
推荐理由:欧盟网络安全局警告家用电器可能成为黑客攻击目标,呼吁加大网络安全投入,并介绍欧盟网络安全现状和即将实施的新法规。
DeepMind 推出 AlphaProof Code,一种用于深度验证复杂软件的突破性框架,通过结合人类专家和 AI 代理,首次使用 AI 正式验证了广泛部署的加密协议。
推荐理由:原文介绍了 AlphaProof Code 的突破性进展,读者可以了解其在软件安全领域的应用和影响。
NVIDIA CEO 黄仁勋涉嫌与中国间谍事件引发关注,可能对美国的AI产业和国家安全产生重大影响,同时影响中美AI竞争格局。
推荐理由:该事件可能对美国的AI产业和国家安全产生重大影响,读者可以关注其后续发展及其对中美AI竞争格局的影响。
微软最新月度安全更新修复了1415个漏洞,涉及多个产品,其中一影响Windows Shell的漏洞已被利用,对安全团队提出了额外挑战。
推荐理由:微软最新安全更新修复了大量漏洞,其中一些已遭利用,对安全团队提出了额外挑战。
微软研究人员发现名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。
推荐理由:Microsoft 研究人员发现了名为 'Lazarus' 的后门技术,该技术可以重新编程 AI 模型中的休眠神经元,导致正常 AI 代理在出现隐藏触发器时执行恶意命令。这项研究揭示了 AI 安全领域的新问题,并提供了相应的防御措施。
Grok Build 编码智能体泄露大量用户数据,包括内部商业计划、广告提案等,部分数据属于SpaceXSI。
推荐理由:该事件揭示了智能体产品在安全性方面的问题,对行业安全有重要影响。
八国及顶级AI实验室在巴黎和平论坛前夕签署了《巴黎人工智能安全与安全宣言》,承诺采取具体措施,包括建立停机机制,以降低人工智能系统的风险。
推荐理由:该协议旨在通过共同的安全承诺来降低人工智能系统的风险,对国际人工智能监管具有重要意义。
NVIDIA 首席执行官与一位中国籍高管的关系引发安全担忧,可能影响美国 AI 出口管制政策。
推荐理由:文章探讨了 NVIDIA 首席执行官与一位中国籍高管的关系,以及这对美国 AI 出口管制政策的影响,对理解当前中美 AI 竞争态势有重要价值。
DeepMind 团队利用 AI 对 Signal 加密协议进行形式化验证,证明其端到端加密可靠性,对密码学和人工智能领域具有重要意义,但技术在大范围推广应用的实际可行性尚不确定。
推荐理由:DeepMind 利用 AI 对 Signal 协议进行形式化验证,标志着 AI 在密码学领域的应用取得重要进展,对提升加密协议安全性具有重要意义。
Hugging Face 高管指出,开源 AI 平台因其开放性和丰富数据而容易受到黑客攻击,并讨论了开源 AI 领域面临的安全挑战及其对社区的影响。
推荐理由:原文讨论了开源 AI 面临的安全挑战及其对社区的影响,读者可以了解开源 AI 领域的最新动态和潜在风险。
AI 编程智能体 Claude Code 暴露了超过 10 万份开发者的敏感凭据,包括数据库密码、API Token 和私钥等。
推荐理由:Claude Code 智能体暴露了开发者敏感凭据,读者需关注安全风险和预防措施。
安全研究人员在英国政府公开发布的代码中发现了100多个严重安全漏洞,包括规划监察局的登录凭据泄露。AI工具加速了漏洞发现,引发了对政府代码公开政策的讨论。
推荐理由:原文揭示了英国政府公开代码中存在大量安全漏洞,并探讨了AI在漏洞发现中的作用以及政府代码公开政策的未来走向。