OpenAI 研究错误回答训练如何导致模型失准泛化
OpenAI 研究在错误回答上训练如何导致语言模型出现更广泛的失准，并识别出驱动这一行为的内部特征。该特征可通过极少量微调被逆转。
推荐理由：OpenAI 给出错误回答训练引发模型泛化失准的内部特征，并展示用极少微调逆转该行为。
#数据/训练
#数据/训练
今日 0 条OpenAI News精选AI 评分4545
OpenAI NewsAI 评分3232 OpenAI API 中的模型蒸馏：用前沿大模型输出微调低成本模型
OpenAI 在 API 中推出模型蒸馏功能，可用大型前沿模型的输出微调成本更低的模型，全部在 OpenAI 平台上完成。该功能面向希望以更低成本获得接近前沿模型效果的开发者。
OpenAI NewsAI 评分3535 ChatGPT Enterprise 教程：如何高效分析数据并发现洞察
OpenAI 发布视频教程，展示员工如何利用 ChatGPT Enterprise 高效分析数据并发现洞察。
OpenAI NewsAI 评分3838 ChatGPT 数据分析功能升级：支持表格图表交互与 Google Drive、Microsoft OneDrive 直接导入
ChatGPT 的数据分析功能获得升级，用户现在可以与表格和图表进行交互，并直接从 Google Drive 和 Microsoft OneDrive 添加文件。
OpenAI NewsAI 评分4040 OpenAI 与 Reddit 达成合作
OpenAI 与 Reddit 达成合作，将 Reddit 的独特内容引入 ChatGPT 及 OpenAI 旗下产品。
OpenAI NewsAI 评分3535 OpenAI 改进微调 API 并扩展自定义模型计划
OpenAI 为微调 API 增加新功能，让开发者对微调拥有更多控制权，同时公布构建自定义模型的新方式。此次更新属于其自定义模型计划的扩展，具体功能细节与可用范围尚未披露。
OpenAI NewsAI 评分3030 OpenAI 数据合作计划：共建开源与私有 AI 训练数据集
OpenAI 启动 Data Partnerships 数据合作计划，与各方合作创建用于 AI 训练的开源和私有数据集。
OpenAI NewsAI 评分2222 OpenAI 携手 Scale 为企业微调模型提供支持
OpenAI 与 Scale 达成合作，企业客户可借助 Scale 的 AI 专业能力微调 OpenAI 最先进的模型。该支持面向企业微调场景，帮助客户定制模型。
OpenAI News精选AI 评分6262 OpenAI 用过程监督提升数学推理能力
OpenAI 训练了一个模型，通过奖励每一步正确推理（过程监督）而非只奖励最终正确答案（结果监督），在数学问题求解上取得新的 SOTA。除性能提升外，过程监督还带来对齐收益：直接训练模型产出被人类认可的思维链。
推荐理由：OpenAI 用过程监督替代结果监督训练数学推理模型，读者可了解两种奖励方式的差异与对齐收益。
OpenAI News精选AI 评分6262 OpenAI 研究：用语言模型解释语言模型中的神经元
OpenAI 使用 GPT-4 自动为大型语言模型中的神经元行为撰写解释，并对这些解释打分。团队同时发布了覆盖 GPT-2 全部神经元的解释与评分数据集，并说明这些解释并不完美。
推荐理由：OpenAI 用 GPT-4 自动为 GPT-2 神经元生成并评分解释，并公开全部神经元的解释数据集。
OpenAI News精选AI 评分5050 OpenAI 研究语言模型中间填充的高效训练方法
OpenAI 发布研究《Efficient training of language models to fill in the middle》，探讨语言模型中间填充任务的高效训练方法。原文正文未能抓取，仅标题可用。
OpenAI News精选AI 评分7474 OpenAI 用 Video PreTraining 训练神经网络玩 Minecraft
OpenAI 训练了一个神经网络，通过 Video PreTraining（VPT）在大量无标注的人类 Minecraft 游玩视频数据集上学习，仅使用少量标注的承包商数据。经微调后，该模型能学会制作钻石工具，这一任务通常需要熟练人类花费超过 20 分钟（24,000 次操作）。模型使用键盘按键和鼠标移动的原生人类交互界面，因此具有较强通用性，是迈向通用计算机操作智能体的一步。
推荐理由：OpenAI 用大量无标注人类游戏视频预训练网络，展示从少量标注数据到通用计算机操作智能体的路径。
OpenAI NewsAI 评分3030 OpenAI 详解大型神经网络训练技术
大型神经网络是近期多项 AI 进展的核心，但其训练是一项困难的工程与研究挑战，需要编排一整个 GPU 集群来完成单次同步计算。OpenAI 分享了训练这类大型神经网络的相关技术。
OpenAI News精选AI 评分6262 OpenAI 构建神经定理证明器，用 Lean 求解部分数学奥赛题
OpenAI 构建了一个面向 Lean 的神经定理证明器，能够求解多道高难度高中数学奥赛题，包括来自 AMC12 和 AIME 的题目，以及两道改编自 IMO 的问题。
推荐理由：OpenAI 用神经定理证明器在 Lean 中解出 AMC12、AIME 及两道改编自 IMO 的题目，可了解形式化数学推理的早期进展。
OpenAI News精选AI 评分6262 OpenAI 训练系统求解小学数学应用题，准确率接近 9-12 岁儿童
OpenAI 训练了一个求解小学数学应用题的模型，准确率约为微调 GPT-3 模型的两倍。在自建数据集的同一批题目上，该系统的得分为 55%，而一小批 9-12 岁儿童的得分为 60%。
推荐理由：OpenAI 自述其数学应用题系统在自建数据集上接近 9-12 岁儿童水平，可对照理解当时模型推理能力的位置。
OpenAI News精选AI 评分5050 OpenAI 用人类反馈总结书籍
OpenAI 发布文章《Summarizing books with human feedback》，介绍如何将人类监督扩展到难以评估的任务上。
OpenAI NewsAI 评分4040 OpenAI 研究：用精选数据集微调可改善语言模型行为
OpenAI 研究发现，通过在小型精选数据集上微调，可以改善语言模型在特定行为价值观方面的表现。
OpenAI News精选AI 评分6262 OpenAI 用人类反馈训练摘要模型
OpenAI 将人类反馈强化学习（RLHF）应用于语言模型训练，使其在摘要任务上表现更好。
推荐理由：OpenAI 把人类反馈强化学习用于摘要任务，可了解 RLHF 早期在语言模型训练中的一次具体应用。
OpenAI News精选AI 评分6262 OpenAI 分析：训练同等性能神经网络所需算力每 16 个月减半
OpenAI 发布一项分析，指出自 2012 年以来，在 ImageNet 分类任务上训练达到同等性能的神经网络所需算力每 16 个月减少一半。相比 2012 年，训练达到 AlexNet 水平的网络所需算力已减少 44 倍，而同期摩尔定律带来的成本改善约为 11 倍。分析认为，在近期投入较高的 AI 任务上，算法进步带来的收益超过传统硬件效率提升。
推荐理由：OpenAI 用 ImageNet 训练算力数据量化算法进步速度，可与摩尔定律对照理解 AI 效率来源。
OpenAI NewsAI 评分4242 OpenAI 研究：深度神经网络中的双重下降现象
OpenAI 发现双重下降现象在 CNN、ResNet 和 Transformer 中普遍存在：随着模型规模、数据量或训练时间增加，性能先提升、再变差、然后再次提升，这种效应通常可通过精细的正则化避免。该行为看似相当普遍，但其成因尚未被完全理解，OpenAI 将其视为重要的研究方向。
OpenAI News精选AI 评分6767 OpenAI 用人类偏好微调 774M 参数 GPT-2
OpenAI 用人类反馈对 774M 参数的 GPT-2 语言模型进行微调，在多项任务上成功匹配外部人类标注者的偏好，但这些偏好并不总与 OpenAI 自身的一致。在摘要任务中，标注者偏好直接从输入中整句复制的内容，模型因此学会了复制；摘要任务需要 60k 条人类标注，而按不同风格续写文本等更简单的任务只需 5k 条。OpenAI 表示其动机是让安全技术更接近“机器与人对话”这一通用任务。
推荐理由：OpenAI 用人类反馈微调 GPT-2 的早期实验，展示了偏好数据如何让模型学会复制原文，也暴露了标注偏好与研究者预期的偏差。
OpenAI News精选AI 评分6262 OpenAI 提出 Sparse Transformer，可处理长 30 倍的序列
OpenAI 开发了 Sparse Transformer，这是一种深度神经网络，在预测文本、图像或声音序列中下一个内容的任务上创下新纪录。它通过对注意力机制做算法改进，从比以往长 30 倍的序列中提取模式。
推荐理由：OpenAI 用稀疏注意力把可建模序列拉长 30 倍，读者可了解长序列建模的早期技术路线。
OpenAI NewsAI 评分4242 OpenAI 提出能量模型（EBM）隐式生成与泛化方法
OpenAI 在能量模型（EBM）的稳定、可扩展训练上取得进展，样本质量和泛化能力优于现有模型。EBM 生成通过投入更多算力持续精修答案，在低温下可生成与 GAN 媲美的样本，同时具备似然类模型的模式覆盖保证。
OpenAI News精选AI 评分7373 OpenAI 训练大规模无监督语言模型并取得多项基准最优表现
OpenAI 训练了一个大规模无监督语言模型，能够生成连贯的段落文本，在多项语言建模基准上取得当时最优表现。该模型无需针对特定任务训练，即可完成基础的阅读理解、机器翻译、问答和摘要任务。
推荐理由：原文给出无监督语言模型在多项基准上的表现，可据此了解早期通用语言模型的训练思路。
OpenAI NewsAI 评分4040 OpenAI 研究：AI 训练如何扩展——梯度噪声尺度可预测并行性
OpenAI 发现梯度噪声尺度这一简单统计指标能预测神经网络训练在多种任务上的可并行性。复杂任务的梯度噪声更大，因此未来更大的 batch size 可能变得有用，从而消除 AI 系统继续扩展的一个潜在限制。该结果还表明神经网络训练并非神秘技艺，而是可以被严格化和系统化的。
OpenAI NewsAI 评分4242 OpenAI 发布 CoinRun：量化强化学习中的泛化能力
OpenAI 发布训练环境 CoinRun，用于衡量智能体将经验迁移到新情境的能力，并已帮助厘清强化学习领域一个长期存在的难题。CoinRun 在复杂度上取得平衡：比《刺猬索尼克》等传统平台游戏更简单，但仍对当前最先进算法构成有价值的泛化挑战。
OpenAI News精选AI 评分8282 OpenAI 用无监督学习提升语言理解能力
OpenAI 用 Transformer 与无监督预训练相结合的可扩展、与任务无关的系统，在一系列多样化语言任务上取得当时最优结果，并对外发布了该系统。这一结果说明监督学习方法与无监督预训练搭配效果很好，OpenAI 希望它推动在更大、更多样数据集上继续探索这一思路。
推荐理由：OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果，并公开了这套与任务无关的系统。
OpenAI News精选AI 评分7878 OpenAI 分析：2012 年以来最大 AI 训练算力每 3.4 个月翻倍
OpenAI 发布分析称，自 2012 年以来，最大规模 AI 训练所用算力呈指数增长，翻倍周期为 3.4 个月，而摩尔定律的翻倍周期为 2 年。同一时期该指标增长超过 300,000 倍，若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分，若这一趋势延续，值得为远超当前能力的系统做准备。
推荐理由：OpenAI 用一组量化数据说明 AI 训练算力的增长节奏，可与摩尔定律对照理解算力投入的长期趋势。
OpenAI NewsAI 评分3232 OpenAI 发布 Evolved Policy Gradients 元学习方法
OpenAI 发布实验性元学习方法 Evolved Policy Gradients（EPG），通过进化学习智能体的损失函数，使其能在新任务上快速训练。经 EPG 训练的智能体在测试时可完成训练范围之外的基础任务，例如学会导航到房间中与训练时放置位置相反一侧的物体。
OpenAI NewsAI 评分2222 OpenAI 启动 Retro Contest 迁移学习竞赛
OpenAI 推出 Retro Contest 迁移学习竞赛，用于衡量强化学习算法从既往经验中泛化的能力。
OpenAI News精选AI 评分6060 OpenAI 提出可扩展元学习算法 Reptile
OpenAI 开发了名为 Reptile 的简单元学习算法，通过反复采样任务、对任务执行随机梯度下降，并将初始参数朝该任务学到的最终参数更新。Reptile 是把 Shortest Descent 算法应用到元学习场景，在数学上与一阶 MAML 相似，只需对 SGD 或 Adam 等优化器进行黑盒访问，计算效率和性能相近。
推荐理由：OpenAI 提出 Reptile 元学习算法，并说明它与一阶 MAML 的数学关系，便于理解其定位。
OpenAI NewsAI 评分3030 OpenAI 提出通过教学实现可解释机器学习的方法
OpenAI 设计了一种让 AI 互相教学的方法，所选取的示例同时也能被人类理解。该方法自动挑选最具信息量的示例来教授某个概念，例如用最佳图像来描述"狗"这一概念，实验证明其对 AI 教学有效。
OpenAI NewsAI 评分2222 OpenAI 用神经网络自动发现类型实现实体消歧
OpenAI 构建了一套实体消歧系统，通过神经网络判断一个词是否属于约 100 个自动发现的“类型”（非互斥类别），从而自动确定该词指代的是哪个对象。
OpenAI NewsAI 评分1919 OpenAI 发布块稀疏 GPU 内核
OpenAI 发布面向块稀疏权重神经网络的高度优化 GPU 内核，按所选稀疏度可比 cuBLAS 或 cuSPARSE 快数个数量级。该内核已用于文本情感分析以及文本和图像生成建模，并取得当前最优结果。
OpenAI News精选AI 评分6262 OpenAI 发现自博弈让模拟 AI 自发学会身体技能
OpenAI 发现自博弈能让模拟 AI 在未专门设计技能环境的情况下，自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能。自博弈还能让环境难度始终与 AI 水平匹配，从而持续推动其进步。结合此前的 Dota 2 自博弈结果，OpenAI 表示越来越确信自博弈将成为未来强大 AI 系统的核心部分。
推荐理由：OpenAI 用自博弈让模拟智能体自发学会擒抱、假动作等身体技能，可与 Dota 2 结果对照理解自博弈的训练价值。
OpenAI News精选AI 评分6262 OpenAI 开发无监督情感神经元
OpenAI 开发了一个无监督系统，仅通过预测 Amazon 评论文本中的下一个字符进行训练，就学到了对情感的良好表征。
推荐理由：OpenAI 早期关于无监督情感神经元的简短说明，展示了仅靠预测下一字符就能学到情感表征。
OpenAI News精选AI 评分5050 OpenAI 研究：进化策略可作为强化学习的可扩展替代方案
OpenAI 发现，已有数十年历史的优化技术进化策略（ES）在现代强化学习基准（如 Atari、MuJoCo）上可与标准强化学习技术性能相当，同时克服了强化学习的诸多不便。
推荐理由：OpenAI 早期研究指出进化策略在现代 RL 基准上可与标准强化学习比肩，并规避后者的一些不便。
OpenAI NewsAI 评分1010 OpenAI 谈深度学习基础设施
OpenAI 认为深度学习是一门经验科学，团队基础设施的质量是进展的倍增器。当前开源生态已让任何人都能搭建出色的深度学习基础设施。
OpenAI NewsAI 评分1818 OpenAI 谈生成模型：四个项目与生成模型的现状与未来
OpenAI 介绍了四个围绕生成模型展开的项目，生成模型是机器学习中无监督学习技术的一个分支。文章同时解释了生成模型是什么、为何重要，以及它们可能的发展方向。