OpenAI 封禁与俄罗斯关联的“Trolling Stone”影响力行动账号
OpenAI 封禁了一批与此前未披露的“Trolling Stone”行动相关的账号，该行动利用 AI 生成关于一名俄罗斯邪教头目在阿根廷被捕的评论内容。
#安全/对齐
#安全/对齐
今日 0 条OpenAI NewsAI 评分4040 OpenAI NewsAI 评分4040 OpenAI 封禁疑似中国来源账号：利用 AI 研究美国人员与社工手法
OpenAI 封禁了一批疑似中国来源的账号，这些账号利用 AI 研究美国人员、地点及社会工程学手法。
OpenAI NewsAI 评分4242 OpenAI 封禁与中国执法部门相关人员关联的账号：利用 AI 策划影响力行动
OpenAI 封禁了一个与中国执法部门相关人员关联的账号，该账号利用 AI 策划影响力活动、骚扰和网络行动。
OpenAI NewsAI 评分1010 OpenAI 启动 EMEA 青年与福祉资助计划
OpenAI 推出 EMEA Youth & Wellbeing Grant，总额 50 万欧元，资助非政府组织和研究人员推进 AI 时代的青年安全与福祉。申请现已开放。
OpenAI NewsAI 评分2828 OpenAI 如何保障 AI 智能体点击链接时的数据安全
OpenAI 介绍了 AI 智能体打开链接时保护用户数据的机制，通过内置防护措施防止基于 URL 的数据外泄和提示词注入。
OpenAI NewsAI 评分2222 OpenAI 为 ChatGPT 推出年龄预测功能
ChatGPT 正在推出年龄预测功能，用于判断账号用户是否年满 18 岁，并对青少年账号应用相应保护措施。OpenAI 表示该功能会随时间推移不断优化准确性。
OpenAI News精选AI 评分5757 OpenAI 持续加固 ChatGPT Atlas 抵御提示词注入
OpenAI 正在用强化学习训练的自动化红队加固 ChatGPT Atlas，抵御提示词注入攻击。这一持续发现并修补的循环能更早识别新型攻击手法，在 AI 智能体能力增强的同时强化浏览器智能体的防御。
推荐理由：OpenAI 披露用强化学习训练的自动化红队持续发现并修补 Atlas 的提示词注入漏洞，可了解浏览器智能体的安全加固思路。
OpenAI NewsAI 评分4141 OpenAI 发布思维链可监控性评估框架与评测套件
OpenAI 推出面向思维链可监控性的新框架与评测套件，覆盖 24 种环境下的 13 项评估。结果显示，监控模型内部推理远比仅监控输出更有效，为 AI 系统能力提升后的可扩展控制提供了可行路径。
OpenAI NewsAI 评分2020 OpenAI 为青少年和家长推出 AI 素养资源
OpenAI 发布面向青少年和家长的 AI 素养资源，帮助其更审慎、安全地使用 ChatGPT。指南包含经专家审核的建议，涵盖负责任使用、批判性思维、健康边界，以及如何支持青少年应对情绪或敏感话题。
OpenAI NewsAI 评分4040 OpenAI 更新 Model Spec，为 ChatGPT 增加未成年人保护原则
OpenAI 更新 Model Spec，新增 Under-18 Principles，规定 ChatGPT 应基于发展科学为青少年提供安全、适龄的引导。此次更新强化了护栏，明确了模型在更高风险情境下的预期行为，并延续其在 ChatGPT 上改善青少年安全的整体工作。
Google DeepMind精选AI 评分6262 Google DeepMind 发布 Gemma Scope 2 开源可解释性工具套件
Google DeepMind 发布 Gemma Scope 2，一套面向 Gemma 3 全系列（270M 至 27B 参数）的开源可解释性工具，覆盖每一层的 SAE 与 transcoder。
推荐理由：官方给出覆盖 Gemma 3 全尺寸的开源可解释性工具与数据规模，读者可据此判断模型内部行为审计的可用手段。
OpenAI NewsAI 评分3838 OpenAI 发布评估框架，衡量 AI 加速生物研究的能力
OpenAI 推出一个真实世界评估框架，用于衡量 AI 在湿实验室中加速生物研究的能力。该工作使用 GPT-5 优化分子克隆协议，同时探讨了 AI 辅助实验的前景与风险。
Google DeepMindAI 评分2222 Google DeepMind 扩大与英国 AI Security Institute 的合作
Google DeepMind 宣布与英国 AI Security Institute（AISI）签署新谅解备忘录，将合作从模型测试扩展到基础安全研究。双方将共享模型、数据与思路，联合发布报告，并聚焦 AI 推理过程监控（CoT）、社会情感失准的伦理影响以及 AI 对经济系统的潜在影响三个方向。Google DeepMind 称 Gemini 3 是其迄今最智能、最安全的模型。
OpenAI NewsAI 评分2222 OpenAI 如何随 AI 能力提升强化网络韧性
OpenAI 正随 AI 模型网络安全能力增强而投入更强的防护措施与防御能力。其说明了如何评估风险、限制滥用，并与安全社区合作强化网络韧性。
OpenAI NewsAI 评分4040 OpenAI 如何用"confessions"让语言模型更诚实
OpenAI 研究人员正在测试一种名为"confessions"的方法，训练模型在犯错或做出不当行为时主动承认，以提升 AI 的诚实性、透明度以及人们对模型输出的信任。
OpenAI NewsAI 评分2525 OpenAI 拨款最高 200 万美元资助 AI 与心理健康研究
OpenAI 将提供最高 200 万美元资助金，用于支持 AI 与心理健康交叉领域的研究。该计划资助探索现实世界风险、收益与应用的项目，目标是提升安全性与福祉。
OpenAI NewsAI 评分3030 OpenAI 披露 Mixpanel 安全事件：部分 API 分析数据受影响
OpenAI 披露一起 Mixpanel 安全事件，涉及有限的 API 分析数据，但 API 内容、凭证和支付信息均未泄露。OpenAI 同时说明了事件经过及正在采取的用户保护措施。
OpenAI NewsAI 评分2222 OpenAI 通过外部测试强化安全生态
OpenAI 与独立专家合作评估前沿 AI 系统，借助第三方测试强化安全保障、验证防护措施，并提升模型能力与风险评估的透明度。
OpenAI News精选AI 评分6060 OpenAI 发布 GPT-5.1-Codex-Max 系统卡
OpenAI 发布 GPT-5.1-Codex-Max 系统卡，说明该模型实施的安全措施。系统卡涵盖模型层与产品层两类缓解手段，前者包括针对有害任务和提示词注入的专门安全训练，后者包括智能体沙箱和可配置网络访问。
推荐理由：系统卡披露了 GPT-5.1-Codex-Max 在模型层与产品层采取的安全措施，可了解其针对提示词注入和智能体沙箱的具体设计。
OpenAI NewsAI 评分3838 OpenAI 用稀疏电路理解神经网络
OpenAI 正在探索机制可解释性，以理解神经网络如何进行推理。其提出的稀疏模型方法有望让 AI 系统更透明，并支持更安全、更可靠的行为。
OpenAI News精选AI 评分5050 OpenAI 发布 GPT-5.1 Instant 与 GPT-5.1 Thinking 系统卡增补
OpenAI 发布 GPT-5 系统卡增补，给出 GPT-5.1 Instant 和 GPT-5.1 Thinking 的更新安全指标。增补还包含针对心理健康与情感依赖的新评估。
推荐理由：OpenAI 公布 GPT-5.1 两个版本的安全指标，并新增心理健康与情感依赖评估，可了解其安全评测口径的变化。
OpenAI NewsAI 评分2222 OpenAI 解读提示词注入：前沿安全挑战
OpenAI 发文解析提示词注入这一 AI 系统的前沿安全挑战，说明此类攻击的运作方式，并介绍 OpenAI 在推进相关研究、训练模型以及为用户构建防护措施方面的进展。
OpenAI NewsAI 评分88 OpenAI 谈 AI 进展与建议
OpenAI 发文称 AI 正快速进步，人类有机会塑造其发展方向，使其走向科学发现、安全以及惠及所有人的更好未来。
OpenAI NewsAI 评分2222 OpenAI 发布青少年安全蓝图
OpenAI 发布青少年安全蓝图，为负责任地构建 AI 提供路线图，涵盖安全防护、适龄设计与协作机制，以保护和赋能青少年上网。
OpenAI News精选AI 评分6060 OpenAI 推出智能体安全研究员 Aardvark
OpenAI 推出 Aardvark，一个 AI 驱动的安全研究员，可自主发现、验证并协助修复软件漏洞。该系统目前处于私有测试阶段，可报名参与早期测试。
推荐理由：OpenAI 官方给出智能体安全研究员的定位与私有测试入口，可据此判断自动化漏洞发现的产品化方向。
OpenAI News精选AI 评分6060 OpenAI 发布 gpt-oss-safeguard 开源权重安全分类模型
OpenAI 发布 gpt-oss-safeguard，这是一组面向安全分类的开源权重推理模型。开发者可以基于它应用并迭代自定义策略。
推荐理由：OpenAI 发布面向安全分类的开源权重推理模型，开发者可据此自定义并迭代策略。
OpenAI News精选AI 评分6060 OpenAI 发布 gpt-oss-safeguard 技术报告
OpenAI 发布 gpt-oss-safeguard 技术报告，介绍 gpt-oss-safeguard-120b 和 gpt-oss-safeguard-20b 两个开放权重推理模型。这两个模型基于 gpt-oss 模型后训练，能够依据给定策略进行推理，从而按该策略对内容打标签。报告描述了模型能力，并以底层 gpt-oss 模型为基线给出了安全评测结果。
推荐理由：OpenAI 公开了 gpt-oss-safeguard 两个开放权重模型的技术报告与基线安全评测，可供关注内容审核与策略推理的读者参考。
OpenAI NewsAI 评分2222 Doppel 用 GPT-5 打造 AI 防御系统，在攻击扩散前拦截
Doppel 借助 GPT-5 和强化微调构建 AI 防御系统，用于拦截深度伪造与冒充攻击，将分析师工作量削减 80%，响应时间从数小时缩短至数分钟。
OpenAI NewsAI 评分4040 GPT-5 系统卡增补：敏感对话处理
OpenAI 为 GPT-5 系统卡发布增补，说明其在敏感对话处理上的改进，并新增情绪依赖、心理健康和抗越狱三项基准。
OpenAI NewsAI 评分4040 OpenAI 与 170+ 心理健康专家合作，提升 ChatGPT 在敏感对话中的回应能力
OpenAI 与 170+ 心理健康专家合作，改进 ChatGPT 识别痛苦情绪、共情回应并引导用户寻求现实支持的能力，将不安全回应减少最多 80%。
OpenAI NewsAI 评分1818 OpenAI 成立福祉与 AI 专家委员会，指导 ChatGPT 情感健康支持
OpenAI 成立"福祉与 AI 专家委员会"，汇集心理学家、临床医生和研究人员，为 ChatGPT 如何支持用户情感健康提供指导，尤其针对青少年群体。该委员会将参与塑造更安全、更具关怀的 AI 体验。
OpenAI NewsAI 评分2222 OpenAI 如何定义和评估 LLM 的政治偏见
OpenAI 公布了一套面向 ChatGPT 政治偏见的真实世界测试方法，用于提升客观性并减少偏见。该方法同时给出了 LLM 政治偏见的定义与评估思路。
OpenAI NewsAI 评分2222 OpenAI 2025 年 10 月报告：识别与阻断 AI 恶意使用
OpenAI 发布 2025 年 10 月报告，披露其识别和阻断 AI 恶意使用的进展。报告介绍了 OpenAI 如何打击滥用行为、执行政策，并保护用户免受现实世界危害。
OpenAI News精选AI 评分4747 OpenAI 封禁与俄语犯罪团伙相关的恶意软件工具账号
OpenAI 封禁了一批可能与俄语犯罪团伙有关的账号，这些账号利用 AI 构建恶意软件加载器、规避层、凭据窃取脚本和 C2 基础设施。
推荐理由：OpenAI 披露封禁与俄语犯罪团伙相关的账号，可了解 AI 被用于恶意软件工具链的具体环节。
OpenAI NewsAI 评分4242 OpenAI 封禁利用 AI 支持恶意软件开发的韩语账号
OpenAI 封禁了一批韩语账号，这些账号利用 AI 进行恶意软件开发支持、调试、钓鱼和凭据窃取等工作流。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 支持钓鱼与脚本工作流的账号
OpenAI 封禁了一批账号，其活动与已公开报道的威胁组织存在重叠，并带有符合中国情报需求的典型特征，利用 AI 支持钓鱼与脚本工作流。
OpenAI NewsAI 评分3535 OpenAI 封禁俄罗斯"Stop News"影响力行动相关账号
OpenAI 封禁了一批与俄罗斯来源的"Stop News"行动相关的账号，该行动利用 AI 生成针对非洲和英国的影响力内容。OpenAI 称其为屡次违规的影响力行动。
OpenAI News精选AI 评分5252 OpenAI 封禁与 PRC 相关账号，涉监控与影响力活动
OpenAI 封禁了一批与 PRC 相关的账号，这些账号利用 AI 支持监控相关规划、针对性画像，以及对批评者和其他个人的研究。
推荐理由：OpenAI 披露封禁与 PRC 相关账号，读者可了解平台对 AI 滥用行为的处置口径。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 支持网络诈骗的账号
OpenAI 封禁了一批与网络诈骗团伙相关的账号，这些账号利用 AI 生成诈骗话术、实施冒充、翻译并接触受害者。
OpenAI News精选AI 评分6262 OpenAI 发布 Sora 2 与 Sora 应用，强调安全优先
OpenAI 发布 Sora 2 和 Sora 应用，称两者在构建时以安全为基础，以应对先进视频模型与新型社交创作平台带来的新安全问题。官方表示其做法建立在具体防护措施之上。
推荐理由：OpenAI 官方说明 Sora 2 与 Sora 应用的安全设计思路，可了解视频模型与社交创作平台叠加后的防护取向。