OpenAI 发现自博弈让模拟 AI 自发学会身体技能
OpenAI 发现自博弈能让模拟 AI 在未专门设计技能环境的情况下,自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能。自博弈还能让环境难度始终与 AI 水平匹配,从而持续推动其进步。结合此前的 Dota 2 自博弈结果,OpenAI 表示越来越确信自博弈将成为未来强大 AI 系统的核心部分。
推荐理由:OpenAI 用自博弈让模拟智能体自发学会擒抱、假动作等身体技能,可与 Dota 2 结果对照理解自博弈的训练价值。
值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展的精选解读。
OpenAI 发现自博弈能让模拟 AI 在未专门设计技能环境的情况下,自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能。自博弈还能让环境难度始终与 AI 水平匹配,从而持续推动其进步。结合此前的 Dota 2 自博弈结果,OpenAI 表示越来越确信自博弈将成为未来强大 AI 系统的核心部分。
推荐理由:OpenAI 用自博弈让模拟智能体自发学会擒抱、假动作等身体技能,可与 Dota 2 结果对照理解自博弈的训练价值。
OpenAI 发布 Learning with Opponent-Learning Awareness(LOLA)算法,该算法考虑到其他智能体也在学习这一事实,在迭代囚徒困境中能发现类似 tit-for-tat 的自利但协作的策略。OpenAI 称这是迈向能建模他人心智的智能体的一小步。
推荐理由:OpenAI 公开 LOLA 算法,读者可了解让智能体把对手也在学习纳入建模的一种思路。
OpenAI 发文说明其 Dota 2 结果:在算力充足的前提下,自对弈能把机器学习系统的表现从远低于人类水平提升到超人水平。该系统在一个月内从勉强与高排名玩家打平,发展到击败顶尖职业选手,此后仍在持续进步。OpenAI 指出,监督式深度学习系统的上限取决于训练数据集,而自对弈系统的可用数据会随智能体变强而自动改善。
推荐理由:OpenAI 用 Dota 2 结果说明自对弈在充足算力下能把系统从远低于人类提升到超人水平。
OpenAI 宣布其打造的 bot 在标准锦标赛规则下的 Dota 2 1v1 对战中击败了世界顶尖职业选手。该 bot 完全通过自我对弈从零学习游戏,未使用模仿学习或树搜索。OpenAI 称这是迈向在涉及真实人类的混乱复杂情境中完成明确目标的一步。
推荐理由:OpenAI 用自我对弈从零训练出在 1v1 标准赛制下击败顶尖选手的 Dota 2 bot,可了解其不依赖模仿学习与树搜索的路径。
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization(PPO),称其表现与当时最先进方法相当或更好,同时实现和调参都简单得多。PPO 已成为 OpenAI 的默认强化学习算法,原因是易用且性能良好。
推荐理由:OpenAI 公开 PPO 算法并说明其相比当时主流方法更易实现和调参,可了解该算法的设计取舍。
OpenAI 与 DeepMind 安全团队合作开发了一种算法,通过让人类判断两种候选行为哪个更好,来推断人类想要的目标。该方法旨在省去人工编写目标函数的环节,因为用简单代理替代复杂目标或目标设定稍有偏差,都可能导致不良甚至危险的行为。
推荐理由:OpenAI 与 DeepMind 安全团队提出用人类偏好比较替代手写目标函数,为对齐研究提供了一条早期思路。
OpenAI 创建了一套机器人系统,完全在仿真环境中训练并部署到实体机器人上,能够在看过一次任务演示后学会新任务。
推荐理由:OpenAI 展示了一套全仿真训练、可部署到实体机器人的系统,读者可了解机器人单次示范学习任务的早期路径。
OpenAI 开发了一个无监督系统,仅通过预测 Amazon 评论文本中的下一个字符进行训练,就学到了对情感的良好表征。
推荐理由:OpenAI 早期关于无监督情感神经元的简短说明,展示了仅靠预测下一字符就能学到情感表征。
OpenAI 发现,已有数十年历史的优化技术进化策略(ES)在现代强化学习基准(如 Atari、MuJoCo)上可与标准强化学习技术性能相当,同时克服了强化学习的诸多不便。
推荐理由:OpenAI 早期研究指出进化策略在现代 RL 基准上可与标准强化学习比肩,并规避后者的一些不便。
OpenAI 发布一项新研究,其中智能体发展出了自己的语言。该帖仅给出研究概要,未提供完整正文。