AI 安全与对齐：越狱与防御、模型行为研究、安全评测与治理框架的进展。
Google DeepMind 宣布推出全球首个针对专有前沿 AI 模型的双盲评测，将外部评测限制在密码学环境中，避免模型提前接触测试题。该试点与新加坡 AI Safety Institute、OpenMined、AVERI 和 MLCommons 合作，在隐私保护环境下用保密基准测试一个 Gemini Flash Lite 模型，以提升评测可信度。
推荐理由：Google DeepMind 联合多方用密码学环境做双盲评测，读者可了解基准污染问题的一种技术解法。
OpenAI 发布网络安全专用模型 GPT-5.6-Cyber，通过 Daybreak Red 提供，面向授权漏洞研究、漏洞利用验证和安全测试场景。
推荐理由：OpenAI 推出面向网络安全的专用模型，读者可了解其授权使用场景与访问入口。
Google DeepMind 发布 Gemini 3.5 Flash Cyber，一款基于 3.5 Flash 微调的轻量网络安全模型，用于快速发现、验证和修补漏洞，在 CyberGym 等基准上表现优于主线 Flash 模型。
推荐理由：官方给出轻量安全模型在 CyberGym、Chrome 提交扫描等基准上的对比数据，可了解其与主线的差异。
OpenAI 发布自动红队系统 GPT-Red，通过自博弈方式提升 AI 安全、对齐以及提示注入鲁棒性。该系统面向自动化红队测试场景，用于发现和改善模型的安全问题。
推荐理由：OpenAI 公开自动红队系统 GPT-Red，读者可了解自博弈如何用于提升提示注入鲁棒性。
OpenAI 预告下一代模型 GPT-5.6 Sol，在编码、科学和网络安全方面具备更强能力，并搭配其最先进的安全栈。
推荐理由：OpenAI 官方预告下一代模型 GPT-5.6 Sol，读者可了解其在编码、科学与网络安全上的能力方向及配套安全栈。
OpenAI 推出 Daybreak 系列新工具，包括 Codex Security 和 GPT-5.5-Cyber，帮助各类组织大规模发现、验证并修复漏洞。
推荐理由：OpenAI 推出面向漏洞发现与修复的安全工具，读者可了解其覆盖的漏洞处理环节。
Google DeepMind 发布 AI Control Roadmap，一套用于构建和管理 Google 内部部署的高级 AI 的框架，采用纵深防御思路，在模型对齐之外增加系统级安全层，即使对齐不完美也能提供保障。
推荐理由：DeepMind 公开内部 AI Control Roadmap，给出检测与响应分级和百万条编码智能体轨迹的分析结论。
OpenAI 详细说明了对 TanStack「Mini Shai-Hulud」供应链攻击的应对，介绍了为保护系统和签名证书所采取的措施，并解释 macOS 用户为何必须在 2026 年 6 月 12 日前更新 OpenAI 应用。内容涵盖事件经过、受影响范围以及 OpenAI 如何加强对软件供应链威胁的防御。
推荐理由：OpenAI 官方说明 TanStack npm 供应链攻击的应对措施，并给出 macOS 用户更新应用的截止时间。
OpenAI 扩展 Trusted Access for Cyber 计划，新增 GPT-5.5 和 GPT-5.5-Cyber，面向通过验证的防御者开放。该计划旨在帮助这些防御者加快漏洞研究并保护关键基础设施。
推荐理由：OpenAI 将 GPT-5.5 与 GPT-5.5-Cyber 纳入可信访问计划，读者可了解其面向安全防御者的开放范围。
Google DeepMind 宣布 AI co-clinician 研究计划，探索 AI 智能体在医生临床监督下协助患者诊疗。在 98 个真实初级保健查询的盲评中，该系统 97 例无关键错误，医生更偏好其回答而非现有证据合成工具；在 20 个模拟远程问诊场景、140 项问诊技能评估中，专家医生整体表现更好，但 AI 在 68 项上达到或超过初级保健医生水平。
推荐理由：Google DeepMind 公开 AI co-clinician 研究，含 98 例零关键错误与 140 项问诊能力对比，可看医疗智能体的能力边界。
OpenAI 发布 Privacy Filter，这是一个开放权重模型，用于检测并脱敏文本中的个人身份信息（PII），官方称其准确率达到 state-of-the-art。
推荐理由：OpenAI 开源 PII 检测与脱敏模型，读者可了解其开放权重形态与宣称的准确率定位。
Google DeepMind 发布关于 AI 有害操纵的新研究，称其为首个经实证验证、可在真实世界测量此类操纵的工具包，并公开了用同一方法开展人类受试者研究所需的全部材料。
推荐理由：Google DeepMind 公开了首个经实证验证的 AI 有害操纵测量工具包，并给出跨英、美、印三国万人级实验的关键结论。
OpenAI 推出 Safety Bug Bounty 计划，用于识别 AI 滥用与安全风险，覆盖范围包括智能体漏洞、提示注入和数据外泄。
推荐理由：OpenAI 把智能体漏洞、提示注入和数据外泄纳入漏洞赏金范围，读者可了解其安全风险覆盖边界。
OpenAI 发布 IH-Challenge，用于训练模型优先执行可信指令，从而改进指令层级、安全可控性并增强对提示注入攻击的抵抗能力。
推荐理由：OpenAI 公开 IH-Challenge 训练方法，读者可了解前沿模型如何提升指令层级与抗提示注入能力。
OpenAI 宣布收购 AI 安全平台 Promptfoo。Promptfoo 帮助企业在开发阶段识别并修复 AI 系统中的漏洞。
推荐理由：OpenAI 收购 AI 安全平台 Promptfoo，读者可据此了解其在企业级 AI 安全测试环节的布局。
OpenAI 在 ChatGPT 中推出 Lockdown Mode 和 Elevated Risk 标签，帮助组织防御提示词注入和 AI 驱动的数据外泄。
推荐理由：OpenAI 为 ChatGPT 增加 Lockdown Mode 与 Elevated Risk 标签，读者可了解企业防御提示词注入的新入口。
OpenAI 封禁了一批使用 AI 支持恋爱诈骗流程的账号，涉及外联、翻译、与受害者互动以及投资诈骗诱饵等环节。
推荐理由：OpenAI 披露封禁用于恋爱诈骗流程的账号，读者可了解平台对 AI 滥用边界的实际处置范围。
OpenAI 正在用强化学习训练的自动化红队加固 ChatGPT Atlas，抵御提示词注入攻击。这一持续发现并修补的循环能更早识别新型攻击手法，在 AI 智能体能力增强的同时强化浏览器智能体的防御。
推荐理由：OpenAI 披露用强化学习训练的自动化红队持续发现并修补 Atlas 的提示词注入漏洞，可了解浏览器智能体的安全加固思路。
Google DeepMind 发布 Gemma Scope 2，一套面向 Gemma 3 全系列（270M 至 27B 参数）的开源可解释性工具，覆盖每一层的 SAE 与 transcoder。
推荐理由：官方给出覆盖 Gemma 3 全尺寸的开源可解释性工具与数据规模，读者可据此判断模型内部行为审计的可用手段。
OpenAI 发布 GPT-5.1-Codex-Max 系统卡，说明该模型实施的安全措施。系统卡涵盖模型层与产品层两类缓解手段，前者包括针对有害任务和提示词注入的专门安全训练，后者包括智能体沙箱和可配置网络访问。
推荐理由：系统卡披露了 GPT-5.1-Codex-Max 在模型层与产品层采取的安全措施，可了解其针对提示词注入和智能体沙箱的具体设计。