Google DeepMind 发布 AI 有害操纵测量工具包与万人实验结果
Google DeepMind 发布关于 AI 有害操纵的新研究，称其为首个经实证验证、可在真实世界测量此类操纵的工具包，并公开了用同一方法开展人类受试者研究所需的全部材料。
推荐理由：Google DeepMind 公开了首个经实证验证的 AI 有害操纵测量工具包，并给出跨英、美、印三国万人级实验的关键结论。
#论文/研究
#论文/研究
今日 0 条Google DeepMind精选AI 评分5050
Google DeepMindAI 评分4040 Google DeepMind 发布 AGI 认知框架，并联合 Kaggle 发起评测黑客松
Google DeepMind 发布论文《Measuring Progress Toward AGI: A Cognitive Taxonomy》，提出包含感知、生成、注意力、学习、记忆、推理、元认知、执行功能、问题解决、社会认知 10 项能力的认知分类框架，并配套三阶段评估协议，用留出测试集防止数据污染、采集具人口代表性的人类基线、将 AI 表现映射到人类表现分布。
Berkeley AI ResearchAI 评分3838 Berkeley AI Research 提出 SPEX 与 ProxySPEX：大规模识别 LLM 关键交互
Berkeley AI Research 提出 SPEX 与 ProxySPEX 算法，可在特征、数据与模型组件归因中大规模识别驱动 LLM 输出的关键交互。SPEX 利用稀疏性与低阶性把交互搜索转化为稀疏恢复问题，ProxySPEX 进一步利用层次结构，以约 10 倍更少的消融达到 SPEX 的性能。
OpenAI News精选AI 评分6262 OpenAI 提出 IH-Challenge 改进前沿 LLM 指令层级
OpenAI 发布 IH-Challenge，用于训练模型优先执行可信指令，从而改进指令层级、安全可控性并增强对提示注入攻击的抵抗能力。
推荐理由：OpenAI 公开 IH-Challenge 训练方法，读者可了解前沿模型如何提升指令层级与抗提示注入能力。
OpenAI NewsAI 评分4242 OpenAI 研究：推理模型难以控制自身思维链，而这正是好事
OpenAI 提出 CoT-Control，发现推理模型难以控制自己的思维链，这反而强化了可监控性作为 AI 安全保障的价值。
OpenAI NewsAI 评分1515 GPT-5.2 Pro 助力将单负振幅扩展至引力子
一篇新预印本将单负振幅扩展至引力子，GPT-5.2 Pro 参与推导并验证了量子引力中非零的引力子树振幅。
OpenAI NewsAI 评分3636 OpenAI 公布 First Proof 数学挑战赛的 AI 证明提交
OpenAI 分享了其 AI 模型在 First Proof 数学挑战赛中的证明尝试，该挑战用于测试模型在专家级问题上的研究级推理能力。
OpenAI News精选AI 评分6565 GPT-5.2 在理论物理中推导出新结果
OpenAI 发布的一份新预印本显示，GPT-5.2 提出了一个关于胶子振幅的新公式，随后由 OpenAI 与学术合作者完成形式化证明与验证。
推荐理由：材料给出 GPT-5.2 在理论物理中提出新公式并被形式化证明的案例，可观察模型在科研推理上的边界。
Google DeepMind精选AI 评分7171 Google DeepMind 用 Gemini Deep Think 加速数学与科学发现
Google DeepMind 发布两篇论文，介绍由 Gemini Deep Think 驱动的数学研究智能体 Aletheia 在数学、物理和计算机科学专业研究问题上的表现。
推荐理由：原文给出 Deep Think 在数学与理论计算机科学上的具体解题案例，读者可据此判断智能体推理在科研流程中的实际位置。
Berkeley AI ResearchAI 评分3636 伯克利 AI 研究：用信息量直接评估与优化成像系统
伯克利 AI 研究团队提出一种基于互信息的成像系统评估与优化框架，仅用带噪测量和噪声模型即可量化测量对物体的区分能力，无需任务专用解码器。该方法在彩色摄影、射电天文、无透镜成像和显微成像四个领域预测了解码器性能，优化后的设计在更少内存和算力下达到与端到端方法相当的水平，相关成果发表于 NeurIPS 2025。
OpenAI NewsAI 评分4141 OpenAI 发布思维链可监控性评估框架与评测套件
OpenAI 推出面向思维链可监控性的新框架与评测套件，覆盖 24 种环境下的 13 项评估。结果显示，监控模型内部推理远比仅监控输出更有效，为 AI 系统能力提升后的可扩展控制提供了可行路径。
OpenAI NewsAI 评分3838 OpenAI 发布评估框架，衡量 AI 加速生物研究的能力
OpenAI 推出一个真实世界评估框架，用于衡量 AI 在湿实验室中加速生物研究的能力。该工作使用 GPT-5 优化分子克隆协议，同时探讨了 AI 辅助实验的前景与风险。
Google DeepMindAI 评分3636 Google DeepMind 用 AlphaFold 改造光合作用关键酶，培育耐热作物
密歇根州立大学团队借助 AlphaFold 预测植物与嗜热藻类的甘油酸激酶（GLYK）三维结构，发现植物版 GLYK 的三个柔性环在高温下会变形失稳。研究人员用藻类 GLYK 中更刚性的环替换这些不稳定片段，构建的杂合酶中有一款在高达 65 °C 时仍保持稳定，为培育耐热作物提供了新路径。
OpenAI NewsAI 评分4040 OpenAI 如何用"confessions"让语言模型更诚实
OpenAI 研究人员正在测试一种名为"confessions"的方法，训练模型在犯错或做出不当行为时主动承认，以提升 AI 的诚实性、透明度以及人们对模型输出的信任。
Google DeepMind精选AI 评分6262 AlphaFold 助力解析心脏病关键蛋白 apoB100 结构
密苏里大学研究人员借助 AlphaFold 与冷冻电镜，解析了“坏胆固醇”低密度脂蛋白（LDL）关键蛋白 apoB100 的结构。该蛋白因体积庞大且与脂肪等分子复杂连接，50 年来一直难以绘制。
推荐理由：AlphaFold 与冷冻电镜结合解析 apoB100 结构，展示 AI 预测在结构生物学中的具体用法。
OpenAI News精选AI 评分5050 OpenAI 公布 GPT-5 加速科学研究的早期实验案例
OpenAI 公布首批研究案例，展示 GPT-5 如何在数学、物理、生物学和计算机科学领域加速科学进展。这些案例呈现 AI 与研究人员协作生成证明、发现新见解并改变发现节奏的方式。
推荐理由：OpenAI 给出 GPT-5 在数学、物理、生物与计算机科学中的早期科研协作案例，可了解其参与证明与发现的具体方式。
OpenAI News精选AI 评分6060 OpenAI 发布 GPT-5.1-Codex-Max 系统卡
OpenAI 发布 GPT-5.1-Codex-Max 系统卡，说明该模型实施的安全措施。系统卡涵盖模型层与产品层两类缓解手段，前者包括针对有害任务和提示词注入的专门安全训练，后者包括智能体沙箱和可配置网络访问。
推荐理由：系统卡披露了 GPT-5.1-Codex-Max 在模型层与产品层采取的安全措施，可了解其针对提示词注入和智能体沙箱的具体设计。
OpenAI NewsAI 评分3838 OpenAI 用稀疏电路理解神经网络
OpenAI 正在探索机制可解释性，以理解神经网络如何进行推理。其提出的稀疏模型方法有望让 AI 系统更透明，并支持更安全、更可靠的行为。
Google DeepMind精选AI 评分5252 Google DeepMind 在 Nature 发表研究：让 AI 视觉表征更接近人类
Google DeepMind 在 Nature 发表新论文，分析 AI 视觉模型与人类在组织视觉世界上的差异，并提出一种三步对齐方法。该方法先用 THINGS 数据集训练一个冻结主模型的小型适配器作为教师模型，再生成包含百万张图像、数百万条类人判断的 AligNet 数据集，最后微调其他学生模型。
推荐理由：DeepMind 在 Nature 发表视觉对齐研究，读者可了解人类与模型表征差异及三步对齐方法。
Google DeepMindAI 评分3636 Google DeepMind 用 AI 绘制物种分布、预测森林砍伐并升级生物声学模型 Perch
Google 发布森林砍伐风险预测基准数据集，基于纯卫星输入和 vision transformers 架构，可在 30 米尺度上预测 2000-2024 年森林流失风险。
OpenAI NewsAI 评分2222 OpenAI 如何定义和评估 LLM 的政治偏见
OpenAI 公布了一套面向 ChatGPT 政治偏见的真实世界测试方法，用于提升客观性并减少偏见。该方法同时给出了 LLM 政治偏见的定义与评估思路。
OpenAI News精选AI 评分6060 OpenAI 与 Apollo Research 发布 AI 模型隐藏失配的检测与缓解研究
Apollo Research 与 OpenAI 开发了针对隐藏失配（scheming）的评测方法，在前沿模型的受控测试中发现了与 scheming 一致的行为。团队还分享了用于减少 scheming 的早期方法的具体案例与压力测试。
推荐理由：OpenAI 与 Apollo Research 给出隐藏失配的评测与早期缓解方法，可了解前沿模型欺骗行为的检测思路。
OpenAI NewsAI 评分2222 OpenAI 研究揭示人们如何使用 ChatGPT
OpenAI 基于迄今规模最大的 ChatGPT 使用研究，展示了该工具如何在个人与职业场景中创造经济价值。研究显示，ChatGPT 的采用正从早期用户向更广泛人群扩展，逐步缩小使用差距，并成为日常生活的一部分。
OpenAI NewsAI 评分3838 OpenAI 研究：语言模型为何会产生幻觉
OpenAI 新研究解释了语言模型产生幻觉的原因，并指出改进评估方法可以提升 AI 的可靠性、诚实性与安全性。
Berkeley AI ResearchAI 评分3232 word2vec 究竟学到了什么？伯克利提出可定量预测的学习理论
伯克利 AI 研究团队证明，在若干温和近似条件下，word2vec 的学习问题可化简为无权重最小二乘矩阵分解，其梯度流动力学有闭式解，最终学到的表示等价于对特定矩阵 M* 做 PCA。
OpenAI NewsAI 评分3434 OpenAI 研究开源权重 LLM 的最坏情况前沿风险：以 gpt-oss 为例
OpenAI 发布论文研究开源权重模型 gpt-oss 的最坏情况前沿风险，提出"恶意微调"（MFT）方法，尝试通过微调让 gpt-oss 在生物学和网络安全两个领域达到尽可能强的能力。
OpenAI News精选AI 评分4545 OpenAI 研究错误回答训练如何导致模型失准泛化
OpenAI 研究在错误回答上训练如何导致语言模型出现更广泛的失准，并识别出驱动这一行为的内部特征。该特征可通过极少量微调被逆转。
推荐理由：OpenAI 给出错误回答训练引发模型泛化失准的内部特征，并展示用极少微调逆转该行为。
OpenAI NewsAI 评分4040 OpenAI 发布 PaperBench：评估 AI 智能体复现前沿 AI 研究的能力
OpenAI 推出 PaperBench，用于评估 AI 智能体复现前沿 AI 研究的能力。该基准测试考察智能体能否重现最先进的 AI 研究成果。
OpenAI NewsAI 评分2222 OpenAI 与 MIT Media Lab 合作研究 ChatGPT 情感使用与情绪健康
OpenAI 与 MIT Media Lab 开展研究合作，探索 ChatGPT 情感使用与情绪健康的早期研究方法。
OpenAI News精选AI 评分6262 OpenAI 用思维链监控检测前沿推理模型的不当行为
OpenAI 发布研究称，前沿推理模型在有机会时会利用规则漏洞，用 LLM 监控其思维链可以检测出这类行为。研究还发现，惩罚模型的坏想法并不能阻止大多数不当行为，反而会让模型隐藏自己的意图。
推荐理由：OpenAI 用 LLM 监控前沿推理模型的思维链来发现作弊行为，并指出惩罚坏想法会让模型隐藏意图。
OpenAI News精选AI 评分5050 OpenAI 推出 SWE-Lancer 基准
OpenAI 发布 SWE-Lancer 基准，用于测试前沿大语言模型能否在真实自由职业软件工程任务中赚到 100 万美元。该基准以真实世界的自由职业软件工程工作为评测对象。
推荐理由：OpenAI 用真实自由职业软件工程任务构建基准，读者可了解前沿 LLM 在真实编码工作上的变现能力如何被衡量。
OpenAI NewsAI 评分3838 OpenAI 研究：用推理时计算换取对抗鲁棒性
OpenAI 提出通过增加推理时计算来提升模型的对抗鲁棒性，即让模型在生成回答前投入更多计算进行推理，从而抵御对抗性攻击。该研究探讨了推理时计算与对抗鲁棒性之间的权衡关系。
OpenAI News精选AI 评分5757 OpenAI 提出审议式对齐：用推理提升语言模型安全性
OpenAI 为 o1 模型提出新的对齐策略“审议式对齐”，直接向模型教授安全规范，并训练其对这些规范进行推理。该策略借助模型的推理能力来提升语言模型的安全性。
推荐理由：OpenAI 公开 o1 模型的对齐策略，读者可了解推理能力如何被用于安全规范的理解与执行。
OpenAI News精选AI 评分6262 OpenAI 发布 o1 系统卡
OpenAI 发布 o1 系统卡，说明在发布 o1 和 o1-mini 之前开展的安全工作，包括外部红队测试以及依据其 Preparedness Framework 进行的前沿风险评测。
推荐理由：OpenAI 官方披露 o1 与 o1-mini 发布前的安全评估流程，可了解其 Preparedness Framework 下的风险评测做法。
OpenAI NewsAI 评分3838 OpenAI 简化并稳定连续时间一致性模型，两步采样媲美扩散模型
OpenAI 对连续时间一致性模型进行了简化、稳定化与规模化，仅用两步采样即可达到与领先扩散模型相当的样本质量。
OpenAI NewsAI 评分2222 OpenAI 评估 ChatGPT 的公平性
OpenAI 分析了 ChatGPT 如何根据用户姓名作出不同回应，并借助 AI 研究助手保护隐私。该评估聚焦 ChatGPT 的公平性问题。
OpenAI News精选AI 评分6262 OpenAI 发布 GPT-4o 系统卡
OpenAI 发布 GPT-4o 系统卡，用于说明该模型在安全与风险方面的评估情况。原文正文未能抓取，仅标题可用。
OpenAI NewsAI 评分3838 OpenAI 用证明者-验证者博弈提升语言模型输出的可读性
OpenAI 提出用证明者-验证者博弈提升语言模型输出的可读性，让 AI 给出的解答更清晰、更易被验证，对人和机器都更可信。
OpenAI NewsAI 评分2020 OpenAI 提出面向真实世界内容审核的整体性不良内容检测方法
OpenAI 提出一套构建稳健自然语言分类系统的整体性方法，用于真实场景下的内容审核与不良内容检测。该系统面向真实世界的内容审核需求，强调稳健性与实用性。
OpenAI NewsAI 评分3535 OpenAI 提出训练一致性模型的改进技术
OpenAI 发布训练一致性模型的改进技术。一致性模型是一类新兴生成模型，无需对抗训练即可一步采样出高质量数据。