OpenAI 封禁疑似源自柬埔寨的 AI 恋爱诈骗账号
OpenAI 封禁了一批疑似源自柬埔寨的账号，这些账号使用 AI 翻译并生成恋爱、投资诈骗对话。原文称其涉及 AI 辅助的杀猪盘（pig butchering）流程。
推荐理由：OpenAI 披露封禁疑似源自柬埔寨的账号，读者可了解生成式 AI 被用于诈骗的具体环节。
#安全/对齐
#安全/对齐
今日 0 条OpenAI News精选AI 评分4848 OpenAI NewsAI 评分3838 OpenAI 封禁与伊朗影响力活动相关的账号
OpenAI 封禁了一批与伊朗有关联的账号，这些账号利用 AI 生成与 IUVM 和 STORM-2035 影响力活动相关的文章和社交帖子。相关活动横跨多个平台。
OpenAI NewsAI 评分4242 OpenAI 封禁疑似朝鲜 IT 工作者欺诈招聘账号
OpenAI 封禁了一批可能被用于协助欺诈性就业计划的账号，该计划带有公开报道过的朝鲜 IT 工作者活动特征。
OpenAI News精选AI 评分6262 OpenAI 发布 o3-mini 系统卡
OpenAI 发布 o3-mini 系统卡，说明该模型的安全工作，包括安全评估、外部红队测试和 Preparedness Framework 评测。
推荐理由：官方系统卡披露 o3-mini 的安全评估、外部红队与 Preparedness 框架评测范围，可了解其安全工作的构成。
OpenAI NewsAI 评分4040 OpenAI 发布 Operator 系统卡
OpenAI 发布 Operator 系统卡，说明其多层安全防护方案，包括针对提示词工程与越狱的模型和产品层缓解措施，以及隐私与安全保护。文件还披露了外部红队测试、安全评估结果，以及持续改进这些防护措施的后续工作。
OpenAI NewsAI 评分3838 OpenAI 研究：用推理时计算换取对抗鲁棒性
OpenAI 提出通过增加推理时计算来提升模型的对抗鲁棒性，即让模型在生成回答前投入更多计算进行推理，从而抵御对抗性攻击。该研究探讨了推理时计算与对抗鲁棒性之间的权衡关系。
OpenAI News精选AI 评分5757 OpenAI 提出审议式对齐：用推理提升语言模型安全性
OpenAI 为 o1 模型提出新的对齐策略“审议式对齐”，直接向模型教授安全规范，并训练其对这些规范进行推理。该策略借助模型的推理能力来提升语言模型的安全性。
推荐理由：OpenAI 公开 o1 模型的对齐策略，读者可了解推理能力如何被用于安全规范的理解与执行。
OpenAI News精选AI 评分6262 OpenAI 发布 o1 系统卡
OpenAI 发布 o1 系统卡，说明在发布 o1 和 o1-mini 之前开展的安全工作，包括外部红队测试以及依据其 Preparedness Framework 进行的前沿风险评测。
推荐理由：OpenAI 官方披露 o1 与 o1-mini 发布前的安全评估流程，可了解其 Preparedness Framework 下的风险评测做法。
OpenAI NewsAI 评分2222 OpenAI 如何用人类与 AI 推进红队测试
OpenAI 发布文章阐述如何结合人类与 AI 推进红队测试（red teaming）。原文未披露具体模型版本、参数规模或评测数据，仅说明人类与 AI 协同参与这一方向。
OpenAI NewsAI 评分2222 OpenAI 评估 ChatGPT 的公平性
OpenAI 分析了 ChatGPT 如何根据用户姓名作出不同回应，并借助 AI 研究助手保护隐私。该评估聚焦 ChatGPT 的公平性问题。
OpenAI News精选AI 评分5252 OpenAI 封禁俄罗斯来源的 Stop News 影响力账号
OpenAI 封禁了俄罗斯来源的 Stop News 账号，这些账号利用 AI 生成多语言文章和帖子，针对乌克兰和西方。该行动被 OpenAI 定性为俄罗斯来源的影响力活动。
推荐理由：OpenAI 披露封禁俄罗斯来源的 Stop News 账号，读者可了解平台如何处置利用 AI 生成多语言内容的舆论行动。
OpenAI NewsAI 评分4040 OpenAI 封禁与 CyberAv3ngers 关联的账号
OpenAI 封禁了一批疑似属于 CyberAv3ngers 的账号，这些账号利用 AI 研究工业控制系统、默认凭据及攻击目标。该组织被认为与伊朗有关联。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 生成多语言影响力内容的“A2Z”账号网络
OpenAI 封禁了名为“A2Z”的账号网络，这些账号利用 AI 在多个平台生成涉及选举、乌克兰和政治的多语言影响力内容。
OpenAI NewsAI 评分4040 OpenAI 封禁与伊朗关联的 STORM-0817 账号
OpenAI 封禁了一批与伊朗关联的 STORM-0817 账号，这些账号利用 AI 调试 Android 恶意软件、抓取社交平台内容并翻译工具。
OpenAI NewsAI 评分4242 OpenAI 封禁疑似中国关联黑客组织 SweetSpecter 账号
OpenAI 封禁了一批疑似属于中国关联攻击组织 SweetSpecter 的账号，该组织利用 AI 研究漏洞、编写代码并支持鱼叉式钓鱼活动。
OpenAI NewsAI 评分4040 OpenAI 封禁卢旺达选举前使用 AI 生成党派评论的账号
OpenAI 封禁了一批源自卢旺达的账号，这些账号在该国选举前使用 AI 生成党派性评论内容。
OpenAI NewsAI 评分4040 OpenAI 封禁利用 AI 生成批评俄罗斯反腐基金会评论的账号
OpenAI 封禁了一批利用 AI 生成针对俄罗斯反腐基金会及相关人物批评评论的账号。
OpenAI NewsAI 评分2222 OpenAI 封禁用 AI 伪造 ChatGPT“俄罗斯水军”报错信息的账号
OpenAI 封禁了一个很可能源自美国的账号，该账号用 AI 生成了一条虚假的 ChatGPT 报错信息，声称能检测“俄罗斯水军”活动。
OpenAI NewsAI 评分3737 OpenAI 封禁利用 AI 起草针对越南公众人物的滥用举报账号
OpenAI 封禁了一批利用 AI 起草滥用举报和投诉的账号，这些举报针对越南公众人物和平台。
OpenAI NewsAI 评分3030 OpenAI 封禁利用其模型在 X 上发送赌博垃圾链接的账号
OpenAI 封禁了一批通过一家以色列初创公司访问其模型、用于生成对话并在 X 上发送赌博网站链接的账号。这些账号借助模型生成内容，再向 X 平台投放赌博站点链接。
OpenAI News精选AI 评分5252 OpenAI 封禁伊朗来源的 STORM-2035 账号
OpenAI 封禁了伊朗来源的 STORM-2035 账号，这些账号利用 AI 生成美国和英国选举相关内容并发布到多个网站。
推荐理由：OpenAI 披露封禁伊朗来源账号，读者可了解平台对选举期 AI 滥用账号的处置口径。
OpenAI NewsAI 评分2020 OpenAI 更新安全与安保实践
OpenAI 发布安全与安保实践更新。该更新涉及其安全与安保相关做法，但原文未披露具体措施、时间表或涉及的产品与模型细节。
OpenAI NewsAI 评分4040 Zico Kolter 加入 OpenAI 董事会
Zico Kolter 加入 OpenAI 董事会，将同时进入安全与安保委员会。OpenAI 表示此举旨在以 AI 安全与对齐领域的专业能力强化公司治理。
OpenAI News精选AI 评分6262 OpenAI 发布 GPT-4o 系统卡
OpenAI 发布 GPT-4o 系统卡，用于说明该模型在安全与风险方面的评估情况。原文正文未能抓取，仅标题可用。
OpenAI NewsAI 评分3535 OpenAI 用基于规则的奖励（RBR）提升模型安全行为
OpenAI 开发并应用了一种基于规则的奖励（RBR）新方法，无需大量人工数据收集即可让模型行为更安全。该方法用于对齐模型的安全行为。
OpenAI NewsAI 评分3838 OpenAI 用证明者-验证者博弈提升语言模型输出的可读性
OpenAI 提出用证明者-验证者博弈提升语言模型输出的可读性，让 AI 给出的解答更清晰、更易被验证，对人和机器都更可信。
OpenAI NewsAI 评分4040 OpenAI 与洛斯阿拉莫斯国家实验室宣布研究合作
OpenAI 与洛斯阿拉莫斯国家实验室宣布建立研究合作，共同开发安全评估方法，用于评估和衡量前沿模型相关的生物能力与风险。
OpenAI NewsAI 评分4242 OpenAI 用 GPT-4 训练 CriticGPT 查找 GPT-4 的错误
OpenAI 发布基于 GPT-4 的 CriticGPT，用于对 ChatGPT 的回答撰写批评意见，帮助人类训练师在 RLHF 过程中发现错误。
OpenAI NewsAI 评分1212 OpenAI 通过网络安全资助计划赋能防御者
OpenAI 公布网络安全资助计划，聚焦网络安全领域的创新研究与 AI 集成。该计划旨在赋能防御者，具体资助金额、入选项目及申请方式未在文中披露。
OpenAI NewsAI 评分2020 OpenAI 提出面向真实世界内容审核的整体性不良内容检测方法
OpenAI 提出一套构建稳健自然语言分类系统的整体性方法，用于真实场景下的内容审核与不良内容检测。该系统面向真实世界的内容审核需求，强调稳健性与实用性。
OpenAI NewsAI 评分4040 OpenAI 任命退役美国陆军上将 Paul M. Nakasone 为董事会成员
OpenAI 任命退役美国陆军上将 Paul M. Nakasone 加入董事会，他将加入董事会的安全与安保委员会。Nakasone 为持续扩大的董事会带来网络安全领域的经验。
OpenAI NewsAI 评分4040 OpenAI 详解 Voice Engine 工作原理与安全研究
OpenAI 详解其文本转语音模型 Voice Engine 的技术原理及安全研究。
OpenAI NewsAI 评分4242 从 GPT-4 中提取概念：OpenAI 用稀疏自编码器识别 1600 万个模式
OpenAI 用可扩展的稀疏自编码器技术，自动识别出 GPT-4 计算过程中的 1600 万个模式。
OpenAI NewsAI 评分3232 OpenAI 打击隐蔽影响行动中的 AI 欺骗性使用
OpenAI 终止了与隐蔽影响行动相关的账号，并称这些账号未因使用其服务获得显著受众增长。
OpenAI NewsAI 评分1616 OpenAI 的安全实践
OpenAI 阐述了其安全实践：通用人工智能有潜力惠及生活几乎方方面面，因此必须以负责任的方式开发和部署。
OpenAI News精选AI 评分5252 OpenAI 发布 Model Spec
OpenAI 发布 Model Spec，用于说明其模型在行为与价值取向上的规范。原文正文未能获取，具体内容暂无法确认。
OpenAI NewsAI 评分3232 OpenAI 推出内容溯源新技术并加入 C2PA 指导委员会
OpenAI 推出新技术，帮助研究人员识别由其工具生成的内容，同时加入内容来源与真实性联盟（C2PA）指导委员会以推动行业标准。
OpenAI NewsAI 评分3838 OpenAI 封禁伊朗关联影响内容网络 IUVM 相关账号
OpenAI 封禁了与伊朗背景行动 "IUVM" 相关的账号，该行动利用 AI 生成并翻译亲伊朗、反以色列和反美的网站内容。
OpenAI NewsAI 评分4242 OpenAI 封禁与俄罗斯关联的 Telegram 评论操作账号 "Bad Grammar"
OpenAI 封禁了一批与俄罗斯相关、此前未被报道的操作账号，该行动被命名为 "Bad Grammar"。这些账号利用 AI 在 Telegram 上生成英语和俄语评论，涉及乌克兰、摩尔多瓦、波罗的海及美国政治话题。
OpenAI NewsAI 评分4040 OpenAI 封禁与以色列相关的影响力行动“Zero Zeno”账号
OpenAI 封禁了一批与一个此前未被报道的以色列来源行动相关的账号，该行动被命名为“Zero Zeno”。这些账号利用 AI 生成反哈马斯、反卡塔尔、亲以色列、反印度人民党（BJP）以及亲以色列总工会（Histadrut）的内容。