OpenAI 推理模型将用于美国国家实验室推动科学突破
OpenAI 最新一代推理模型将供美国国家实验室的顶尖科学家使用，以推动科学突破。该合作旨在加强美国在 AI 领域的领导地位。
#推理
#推理
今日 0 条OpenAI NewsAI 评分2727
OpenAI NewsAI 评分3838 OpenAI 研究：用推理时计算换取对抗鲁棒性
OpenAI 提出通过增加推理时计算来提升模型的对抗鲁棒性，即让模型在生成回答前投入更多计算进行推理，从而抵御对抗性攻击。该研究探讨了推理时计算与对抗鲁棒性之间的权衡关系。
OpenAI News精选AI 评分5757 OpenAI 提出审议式对齐：用推理提升语言模型安全性
OpenAI 为 o1 模型提出新的对齐策略“审议式对齐”，直接向模型教授安全规范，并训练其对这些规范进行推理。该策略借助模型的推理能力来提升语言模型的安全性。
推荐理由：OpenAI 公开 o1 模型的对齐策略，读者可了解推理能力如何被用于安全规范的理解与执行。
OpenAI News精选AI 评分8080 OpenAI 发布 o1 模型
OpenAI 发布 o1 模型，官方页面标题为 Introducing OpenAI o1，正文内容未能抓取。
OpenAI News精选AI 评分7878 OpenAI 发布 o1-mini 推理模型
OpenAI 发布 o1-mini，官方将其定位为在推理能力上更具成本效率的模型。
OpenAI NewsAI 评分00 OpenAI o1 贡献者名单
OpenAI 公布了 o1 模型的贡献者名单。o1 是 OpenAI 推出的推理模型。原文未披露该名单的具体人数、成员姓名或所属团队等细节。
OpenAI NewsAI 评分2222 OpenAI o1 如何加速罕见病基因诊断
遗传学家 Catherine Brownstein 展示了 OpenAI o1 如何加速罕见医学难题的诊断流程。该演示聚焦于将 o1 用于基因数据分析，以缩短罕见病确诊所需时间。
OpenAI NewsAI 评分2222 OpenAI o1 如何应对复杂经济学问题
经济学家 Tyler Cowen 解读 OpenAI o1 如何解答复杂的经济学问题。
OpenAI NewsAI 评分1818 OpenAI o1 如何回答量子物理问题
量子物理学家 Mario Krenn 使用 OpenAI o1 帮助回答生命中最重大的问题。
OpenAI News精选AI 评分6262 OpenAI 用过程监督提升数学推理能力
OpenAI 训练了一个模型，通过奖励每一步正确推理（过程监督）而非只奖励最终正确答案（结果监督），在数学问题求解上取得新的 SOTA。除性能提升外，过程监督还带来对齐收益：直接训练模型产出被人类认可的思维链。
推荐理由：OpenAI 用过程监督替代结果监督训练数学推理模型，读者可了解两种奖励方式的差异与对齐收益。
OpenAI News精选AI 评分6262 OpenAI 构建神经定理证明器，用 Lean 求解部分数学奥赛题
OpenAI 构建了一个面向 Lean 的神经定理证明器，能够求解多道高难度高中数学奥赛题，包括来自 AMC12 和 AIME 的题目，以及两道改编自 IMO 的问题。
推荐理由：OpenAI 用神经定理证明器在 Lean 中解出 AMC12、AIME 及两道改编自 IMO 的题目，可了解形式化数学推理的早期进展。
OpenAI News精选AI 评分6262 OpenAI 训练系统求解小学数学应用题，准确率接近 9-12 岁儿童
OpenAI 训练了一个求解小学数学应用题的模型，准确率约为微调 GPT-3 模型的两倍。在自建数据集的同一批题目上，该系统的得分为 55%，而一小批 9-12 岁儿童的得分为 60%。
推荐理由：OpenAI 自述其数学应用题系统在自建数据集上接近 9-12 岁儿童水平，可对照理解当时模型推理能力的位置。
OpenAI NewsAI 评分4242 OpenAI 发布 CoinRun：量化强化学习中的泛化能力
OpenAI 发布训练环境 CoinRun，用于衡量智能体将经验迁移到新情境的能力，并已帮助厘清强化学习领域一个长期存在的难题。CoinRun 在复杂度上取得平衡：比《刺猬索尼克》等传统平台游戏更简单，但仍对当前最先进算法构成有价值的泛化挑战。
OpenAI NewsAI 评分4242 OpenAI 用能量函数模型学习概念
OpenAI 开发了一种基于能量的模型，仅需五次演示即可学会识别并生成以 2D 点集表达的概念，如 near、above、between、closest 和 furthest。该模型还能实现跨域迁移，将 2D 粒子环境中习得的概念用于解决 3D 物理机器人任务。
OpenAI News精选AI 评分6262 OpenAI 提出基于预测奖励的强化学习探索方法 RND
OpenAI 开发了 Random Network Distillation（RND），一种基于预测的奖励方法，通过好奇心鼓励强化学习智能体探索环境。该方法在《蒙特祖玛的复仇》上首次超过人类平均表现。
推荐理由：OpenAI 提出基于预测的随机网络蒸馏探索方法，在《蒙特祖玛的复仇》上首次超过人类平均分。
OpenAI NewsAI 评分4040 OpenAI 提出分层强化学习算法，学习可复用的高层动作
OpenAI 开发出一种分层强化学习算法，能学习对解决多类任务有用的高层动作，从而快速求解需要数千个时间步的任务。在导航问题集上，该算法发现了向不同方向行走和爬行的高层动作，使智能体能够快速掌握新的导航任务。
OpenAI NewsAI 评分3030 OpenAI 谈强化学习中的奖励函数设定错误
OpenAI 发文探讨强化学习算法中一种反直觉的失效模式：奖励函数设定错误。当奖励函数被错误指定时，算法会以出人意料的方式被"钻空子"，偏离设计者本意。