OpenAI 回应 TanStack npm 供应链攻击
OpenAI 详细说明了对 TanStack「Mini Shai-Hulud」供应链攻击的应对，介绍了为保护系统和签名证书所采取的措施，并解释 macOS 用户为何必须在 2026 年 6 月 12 日前更新 OpenAI 应用。内容涵盖事件经过、受影响范围以及 OpenAI 如何加强对软件供应链威胁的防御。
推荐理由：OpenAI 官方说明 TanStack npm 供应链攻击的应对措施，并给出 macOS 用户更新应用的截止时间。
#安全/对齐
#安全/对齐
今日 0 条OpenAI News精选AI 评分6262
OpenAI NewsAI 评分4242 OpenAI 如何安全运行 Codex
OpenAI 通过沙箱隔离、审批机制、网络策略和智能体原生遥测来安全运行 Codex，以支持编程智能体的安全合规采用。
OpenAI News精选AI 评分6060 OpenAI 以 GPT-5.5 和 GPT-5.5-Cyber 扩展 Trusted Access for Cyber
OpenAI 扩展 Trusted Access for Cyber 计划，新增 GPT-5.5 和 GPT-5.5-Cyber，面向通过验证的防御者开放。该计划旨在帮助这些防御者加快漏洞研究并保护关键基础设施。
推荐理由：OpenAI 将 GPT-5.5 与 GPT-5.5-Cyber 纳入可信访问计划，读者可了解其面向安全防御者的开放范围。
OpenAI NewsAI 评分3030 ChatGPT 推出 Trusted Contact 安全功能
OpenAI 为 ChatGPT 推出可选安全功能 Trusted Contact，当系统检测到严重的自残相关担忧时，会通知用户指定的可信任联系人。该功能为可选开启，具体上线时间与适用范围尚未公布。
OpenAI NewsAI 评分1515 ChatGPT 如何在保护隐私的同时学习世界知识
OpenAI 详解 ChatGPT 在训练中保护用户隐私的机制：减少训练数据中的个人数据，并让用户自主控制自己的对话是否用于改进 AI 模型。
Google DeepMind精选AI 评分6262 Google DeepMind 发布 AI co-clinician 医疗智能体研究
Google DeepMind 宣布 AI co-clinician 研究计划，探索 AI 智能体在医生临床监督下协助患者诊疗。在 98 个真实初级保健查询的盲评中，该系统 97 例无关键错误，医生更偏好其回答而非现有证据合成工具；在 20 个模拟远程问诊场景、140 项问诊技能评估中，专家医生整体表现更好，但 AI 在 68 项上达到或超过初级保健医生水平。
推荐理由：Google DeepMind 公开 AI co-clinician 研究，含 98 例零关键错误与 140 项问诊能力对比，可看医疗智能体的能力边界。
OpenAI NewsAI 评分2222 OpenAI 解析 GPT-5 中“哥布林”输出的来源
OpenAI 梳理了 GPT-5 中“哥布林”式输出在 AI 模型中的扩散过程，并给出时间线、根因与修复方案。该现象被归因于人格驱动的行为怪癖，而非模型能力缺陷。
OpenAI NewsAI 评分2222 OpenAI 提出 Intelligence Age 网络安全五部分行动计划
OpenAI 提出一套五部分行动计划，旨在加强 Intelligence Age 的网络安全，重点是普及 AI 驱动的网络防御并保护关键系统。
OpenAI NewsAI 评分1818 OpenAI 如何保障 ChatGPT 社区安全
OpenAI 通过模型防护、滥用检测、政策执行以及与安全专家合作，保障 ChatGPT 的社区安全。
OpenAI News精选AI 评分6565 OpenAI 发布 Privacy Filter 开放权重模型
OpenAI 发布 Privacy Filter，这是一个开放权重模型，用于检测并脱敏文本中的个人身份信息（PII），官方称其准确率达到 state-of-the-art。
推荐理由：OpenAI 开源 PII 检测与脱敏模型，读者可了解其开放权重形态与宣称的准确率定位。
OpenAI NewsAI 评分2222 OpenAI 推出 Trusted Access for Cyber，安全厂商用 GPT-5.4-Cyber 强化网络防御
OpenAI 面向网络安全领域推出 Trusted Access for Cyber 计划，领先安全公司与大型企业已加入，使用 GPT-5.4-Cyber 加强全球网络防御。该计划配套 1000 万美元 API 额度资助。
OpenAI NewsAI 评分3838 OpenAI 扩展 Trusted Access for Cyber 计划，推出 GPT-5.4-Cyber
OpenAI 扩展 Trusted Access for Cyber 计划，向经过审核的安全防御者推出 GPT-5.4-Cyber，并同步加强安全防护措施。此举发生在 AI 网络安全能力持续提升的背景下。
OpenAI NewsAI 评分4040 OpenAI 回应 Axios 开发者工具供应链攻击
OpenAI 就 Axios 开发者工具供应链攻击作出回应，已轮换 macOS 代码签名证书并更新应用，同时确认没有用户数据遭到泄露。
OpenAI NewsAI 评分88 OpenAI 发布 AI 负责任与安全使用指南
OpenAI 发布 AI 负责任使用指南，面向 ChatGPT 等工具给出安全、准确与透明三方面的最佳实践。内容聚焦如何在使用 AI 工具时保持负责任的态度，未披露新的模型版本或功能。
OpenAI NewsAI 评分2222 OpenAI 发布儿童安全蓝图
OpenAI 发布儿童安全蓝图，为负责任地构建 AI 提供路线图，涵盖安全防护措施、适龄设计和多方协作，旨在保护并赋能年轻人在线体验。
OpenAI NewsAI 评分3232 OpenAI 宣布启动 OpenAI Safety Fellowship
OpenAI 推出试点项目 OpenAI Safety Fellowship，用于支持独立的安全与对齐研究，并培养下一代人才。该项目为 pilot program，具体资助规模、申请条件与时间表尚未公布。
Google DeepMind精选AI 评分5050 Google DeepMind 发布 AI 有害操纵测量工具包与万人实验结果
Google DeepMind 发布关于 AI 有害操纵的新研究，称其为首个经实证验证、可在真实世界测量此类操纵的工具包，并公开了用同一方法开展人类受试者研究所需的全部材料。
推荐理由：Google DeepMind 公开了首个经实证验证的 AI 有害操纵测量工具包，并给出跨英、美、印三国万人级实验的关键结论。
OpenAI NewsAI 评分2222 OpenAI 解读其 Model Spec 方法：模型行为的公开框架
OpenAI 阐述 Model Spec 如何作为模型行为的公开框架，在 AI 系统演进中平衡安全、用户自由与问责。该规范面向公众开放，用于指导模型行为准则。
OpenAI News精选AI 评分5858 OpenAI 推出安全漏洞赏金计划
OpenAI 推出 Safety Bug Bounty 计划，用于识别 AI 滥用与安全风险，覆盖范围包括智能体漏洞、提示注入和数据外泄。
推荐理由：OpenAI 把智能体漏洞、提示注入和数据外泄纳入漏洞赏金范围，读者可了解其安全风险覆盖边界。
OpenAI NewsAI 评分2222 OpenAI 为开发者发布基于提示词的青少年安全策略，适配 gpt-oss-safeguard
OpenAI 面向使用 gpt-oss-safeguard 的开发者发布基于提示词的青少年安全策略，用于在 AI 系统中审核针对不同年龄段的特定风险。
OpenAI NewsAI 评分2222 OpenAI 为 Sora 2 与 Sora 应用构建安全基础
OpenAI 针对先进视频模型与新型社交创作平台带来的新型安全挑战，为 Sora 2 和 Sora 应用从底层构建了安全机制，其方法以具体防护措施为核心。
OpenAI NewsAI 评分4040 OpenAI 如何用思维链监控内部编程智能体的失准行为
OpenAI 采用思维链监控（chain-of-thought monitoring）研究内部编程智能体的失准（misalignment）问题，通过分析真实部署环境来检测风险并强化 AI 安全保障措施。
Google DeepMindAI 评分4040 Google DeepMind 发布 AGI 认知框架，并联合 Kaggle 发起评测黑客松
Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》，提出包含感知、生成、注意力、学习、记忆、推理、元认知、执行功能、问题解决、社会认知 10 项能力的认知分类框架，并配套三阶段评估协议，用留出测试集防止数据污染、采集具人口代表性的人类基线、将 AI 表现映射到人类表现分布。
OpenAI NewsAI 评分2222 OpenAI Japan 发布日本青少年安全蓝图，将青少年安全置于首位
OpenAI Japan 发布日本青少年安全蓝图，为使用生成式 AI 的青少年引入更严格的年龄保护、家长控制和身心健康保障措施。
OpenAI NewsAI 评分3232 Codex Security 为何不提供 SAST 报告
OpenAI 详解 Codex Security 为何不依赖传统 SAST，而是用 AI 驱动的约束推理与验证来发现真实漏洞，减少误报。
OpenAI NewsAI 评分4040 OpenAI 如何设计 AI 智能体抵御提示词注入
OpenAI 介绍了 ChatGPT 在智能体工作流中抵御提示词注入与社会工程攻击的设计思路：通过限制高风险操作、保护敏感数据来降低风险。
OpenAI News精选AI 评分6262 OpenAI 提出 IH-Challenge 改进前沿 LLM 指令层级
OpenAI 发布 IH-Challenge，用于训练模型优先执行可信指令，从而改进指令层级、安全可控性并增强对提示注入攻击的抵抗能力。
推荐理由：OpenAI 公开 IH-Challenge 训练方法，读者可了解前沿模型如何提升指令层级与抗提示注入能力。
OpenAI News精选AI 评分6060 OpenAI 宣布收购 AI 安全平台 Promptfoo
OpenAI 宣布收购 AI 安全平台 Promptfoo。Promptfoo 帮助企业在开发阶段识别并修复 AI 系统中的漏洞。
推荐理由：OpenAI 收购 AI 安全平台 Promptfoo，读者可据此了解其在企业级 AI 安全测试环节的布局。
OpenAI NewsAI 评分4242 OpenAI 研究：推理模型难以控制自身思维链，而这正是好事
OpenAI 提出 CoT-Control，发现推理模型难以控制自己的思维链，这反而强化了可监控性作为 AI 安全保障的价值。
OpenAI NewsAI 评分2222 OpenAI 更新心理健康相关工作：家长控制、可信联系人、痛苦检测与诉讼进展
OpenAI 公布其心理健康安全工作的多项更新，包括家长控制、可信联系人、改进的痛苦检测，以及近期诉讼进展。
OpenAI NewsAI 评分3030 OpenAI 发布 2026 年 2 月威胁报告：剖析 AI 模型的恶意使用
OpenAI 最新威胁报告剖析了恶意行为者如何将 AI 模型与网站、社交平台结合使用，并探讨这对检测与防御意味着什么。
OpenAI NewsAI 评分3838 OpenAI 投入 750 万美元资助 The Alignment Project 推进 AI 对齐独立研究
OpenAI 承诺向 The Alignment Project 投入 750 万美元，用于资助独立的 AI 对齐研究，以加强全球应对 AGI 安全与安保风险的努力。
OpenAI NewsAI 评分4040 OpenAI 与 Paradigm 推出 EVMbench，评估 AI 智能体发现与利用智能合约漏洞能力
OpenAI 与 Paradigm 推出 EVMbench，用于评估 AI 智能体检测、修补和利用高危智能合约漏洞的能力。该基准聚焦高严重性漏洞的发现、修复与攻击三个环节。
OpenAI News精选AI 评分6060 OpenAI 在 ChatGPT 中推出 Lockdown Mode 与 Elevated Risk 标签
OpenAI 在 ChatGPT 中推出 Lockdown Mode 和 Elevated Risk 标签，帮助组织防御提示词注入和 AI 驱动的数据外泄。
推荐理由：OpenAI 为 ChatGPT 增加 Lockdown Mode 与 Elevated Risk 标签，读者可了解企业防御提示词注入的新入口。
OpenAI NewsAI 评分4242 OpenAI 推出 Trusted Access for Cyber
OpenAI 推出 Trusted Access for Cyber，一个基于信任的框架，旨在扩大对前沿网络安全能力的访问，同时加强对滥用的防护。
OpenAI NewsAI 评分4040 OpenAI 封禁疑似源自柬埔寨的 AI 诈骗账号：针对印尼交友用户的“Date Bait”行动
OpenAI 封禁了一批很可能源自柬埔寨的账号，这些账号利用 AI 对印尼交友用户实施诈骗，包括翻译和互动。该行动被命名为“Date Bait”。
OpenAI NewsAI 评分3838 OpenAI 封禁“No Bell”行动相关账号
OpenAI 封禁了一批与此前未被报道、疑似源自俄罗斯的行动“No Bell”相关的账号，该行动利用 AI 面向非洲受众生成批评美国及其盟友的内容。
OpenAI NewsAI 评分4242 OpenAI 封禁与 Rybar 网络关联的账号：AI 驱动的多语言影响力活动
OpenAI 封禁了与 Rybar 网络关联的账号，其中部分账号可能源自俄罗斯，这些账号利用 AI 在网站和社交平台上开展多语言影响力活动。
OpenAI NewsAI 评分3838 OpenAI 封禁冒充执法机构的虚假追损服务账号
OpenAI 封禁了一批很可能源自柬埔寨的账号，这些账号利用 AI 冒充追损服务、律师事务所和执法机构，专门针对诈骗受害者行骗。该行动被命名为“False Witness”。
OpenAI News精选AI 评分5050 OpenAI 封禁用于恋爱诈骗流程的 AI 账号
OpenAI 封禁了一批使用 AI 支持恋爱诈骗流程的账号，涉及外联、翻译、与受害者互动以及投资诈骗诱饵等环节。
推荐理由：OpenAI 披露封禁用于恋爱诈骗流程的账号，读者可了解平台对 AI 滥用边界的实际处置范围。