OpenAI 用无监督学习提升语言理解能力
OpenAI 用 Transformer 与无监督预训练相结合的可扩展、与任务无关的系统，在一系列多样化语言任务上取得当时最优结果，并对外发布了该系统。这一结果说明监督学习方法与无监督预训练搭配效果很好，OpenAI 希望它推动在更大、更多样数据集上继续探索这一思路。
推荐理由：OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果，并公开了这套与任务无关的系统。
数据与训练
全部主题训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
最新精选
第 181–186 条 · 共 186 条OpenAI News精选AI 评分8282
OpenAI News精选AI 评分7878 OpenAI 分析：2012 年以来最大 AI 训练算力每 3.4 个月翻倍
OpenAI 发布分析称，自 2012 年以来，最大规模 AI 训练所用算力呈指数增长，翻倍周期为 3.4 个月，而摩尔定律的翻倍周期为 2 年。同一时期该指标增长超过 300,000 倍，若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分，若这一趋势延续，值得为远超当前能力的系统做准备。
推荐理由：OpenAI 用一组量化数据说明 AI 训练算力的增长节奏，可与摩尔定律对照理解算力投入的长期趋势。
OpenAI News精选AI 评分6060 OpenAI 提出可扩展元学习算法 Reptile
OpenAI 开发了名为 Reptile 的简单元学习算法，通过反复采样任务、对任务执行随机梯度下降，并将初始参数朝该任务学到的最终参数更新。Reptile 是把 Shortest Descent 算法应用到元学习场景，在数学上与一阶 MAML 相似，只需对 SGD 或 Adam 等优化器进行黑盒访问，计算效率和性能相近。
推荐理由：OpenAI 提出 Reptile 元学习算法，并说明它与一阶 MAML 的数学关系，便于理解其定位。
OpenAI News精选AI 评分6262 OpenAI 发现自博弈让模拟 AI 自发学会身体技能
OpenAI 发现自博弈能让模拟 AI 在未专门设计技能环境的情况下，自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能。自博弈还能让环境难度始终与 AI 水平匹配，从而持续推动其进步。结合此前的 Dota 2 自博弈结果，OpenAI 表示越来越确信自博弈将成为未来强大 AI 系统的核心部分。
推荐理由：OpenAI 用自博弈让模拟智能体自发学会擒抱、假动作等身体技能，可与 Dota 2 结果对照理解自博弈的训练价值。
OpenAI News精选AI 评分6262 OpenAI 开发无监督情感神经元
OpenAI 开发了一个无监督系统，仅通过预测 Amazon 评论文本中的下一个字符进行训练，就学到了对情感的良好表征。
推荐理由：OpenAI 早期关于无监督情感神经元的简短说明，展示了仅靠预测下一字符就能学到情感表征。
OpenAI News精选AI 评分5050 OpenAI 研究：进化策略可作为强化学习的可扩展替代方案
OpenAI 发现，已有数十年历史的优化技术进化策略（ES）在现代强化学习基准（如 Atari、MuJoCo）上可与标准强化学习技术性能相当，同时克服了强化学习的诸多不便。
推荐理由：OpenAI 早期研究指出进化策略在现代 RL 基准上可与标准强化学习比肩，并规避后者的一些不便。