OpenAI 用能量函数模型学习概念
OpenAI 开发了一种基于能量的模型，仅需五次演示即可学会识别并生成以 2D 点集表达的概念，如 near、above、between、closest 和 furthest。该模型还能实现跨域迁移，将 2D 粒子环境中习得的概念用于解决 3D 物理机器人任务。
#论文/研究
#论文/研究
今日 0 条OpenAI NewsAI 评分4242
OpenAI News精选AI 评分6262 OpenAI 提出基于预测奖励的强化学习探索方法 RND
OpenAI 开发了 Random Network Distillation（RND），一种基于预测的奖励方法，通过好奇心鼓励强化学习智能体探索环境。该方法在《蒙特祖玛的复仇》上首次超过人类平均表现。
推荐理由：OpenAI 提出基于预测的随机网络蒸馏探索方法，在《蒙特祖玛的复仇》上首次超过人类平均分。
OpenAI NewsAI 评分4242 OpenAI 提出迭代放大（iterated amplification）AI 安全技术
OpenAI 提出一种名为迭代放大（iterated amplification）的 AI 安全技术，通过将复杂任务拆解为更简单的子任务来指定超出人类规模的行为与目标，而非依赖标注数据或奖励函数。该构想仍处于早期阶段，目前仅在简单的玩具算法领域完成实验，OpenAI 认为它有望成为可扩展的 AI 安全方案。
OpenAI News精选AI 评分6262 OpenAI 训练类人机械手实现物体灵巧操作
OpenAI 表示已训练出一只类人机械手，能以空前的灵巧度操作实体物体。
推荐理由：OpenAI 用仿真训练出类人机械手完成实物操作，可了解早期具身智能的训练思路。
OpenAI News精选AI 评分6262 OpenAI 发布可逆生成模型 Glow
OpenAI 发布可逆生成模型 Glow，采用可逆 1x1 卷积，在简化此前可逆生成模型架构的同时支持高分辨率图像生成与高效采样。该模型还能发现可用于操控数据属性的特征，OpenAI 同步开源模型代码并提供在线可视化工具。
推荐理由：OpenAI 公开 Glow 的可逆生成模型架构与代码，读者可了解其用可逆 1x1 卷积简化模型并支持属性编辑的思路。
OpenAI News精选AI 评分6262 OpenAI 从单次演示中学会 Montezuma's Revenge
OpenAI 训练出一个智能体，仅凭单次人类演示就在 Montezuma's Revenge 上取得 74,500 分的高分，超过此前所有已发表结果。其算法思路是让智能体从演示中精心挑选的状态出发连续进行游戏，并用 PPO 优化游戏得分，PPO 也是支撑 OpenAI Five 的同一强化学习算法。
推荐理由：OpenAI 用单次人类演示加 PPO 在 Montezuma's Revenge 上取得 74,500 分，可了解其方法思路。
OpenAI News精选AI 评分8282 OpenAI 用无监督学习提升语言理解能力
OpenAI 用 Transformer 与无监督预训练相结合的可扩展、与任务无关的系统，在一系列多样化语言任务上取得当时最优结果，并对外发布了该系统。这一结果说明监督学习方法与无监督预训练搭配效果很好，OpenAI 希望它推动在更大、更多样数据集上继续探索这一思路。
推荐理由：OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果，并公开了这套与任务无关的系统。
OpenAI News精选AI 评分7878 OpenAI 分析：2012 年以来最大 AI 训练算力每 3.4 个月翻倍
OpenAI 发布分析称，自 2012 年以来，最大规模 AI 训练所用算力呈指数增长，翻倍周期为 3.4 个月，而摩尔定律的翻倍周期为 2 年。同一时期该指标增长超过 300,000 倍，若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分，若这一趋势延续，值得为远超当前能力的系统做准备。
推荐理由：OpenAI 用一组量化数据说明 AI 训练算力的增长节奏，可与摩尔定律对照理解算力投入的长期趋势。
OpenAI NewsAI 评分4242 OpenAI 提出通过辩论实现 AI 安全的技术
OpenAI 提出一种 AI 安全技术，训练智能体就话题相互辩论，由人类判断胜负。该方法旨在借助辩论提升 AI 系统的安全性。
OpenAI NewsAI 评分3232 OpenAI 发布 Evolved Policy Gradients 元学习方法
OpenAI 发布实验性元学习方法 Evolved Policy Gradients（EPG），通过进化学习智能体的损失函数，使其能在新任务上快速训练。经 EPG 训练的智能体在测试时可完成训练范围之外的基础任务，例如学会导航到房间中与训练时放置位置相反一侧的物体。
OpenAI News精选AI 评分6060 OpenAI 提出可扩展元学习算法 Reptile
OpenAI 开发了名为 Reptile 的简单元学习算法，通过反复采样任务、对任务执行随机梯度下降，并将初始参数朝该任务学到的最终参数更新。Reptile 是把 Shortest Descent 算法应用到元学习场景，在数学上与一阶 MAML 相似，只需对 SGD 或 Adam 等优化器进行黑盒访问，计算效率和性能相近。
推荐理由：OpenAI 提出 Reptile 元学习算法，并说明它与一阶 MAML 的数学关系，便于理解其定位。
OpenAI News精选AI 评分6262 OpenAI 联合多家机构发布 AI 恶意使用预测论文
OpenAI 与未来人类研究所、存在风险研究中心、新美国安全中心、电子前沿基金会等机构合作，共同撰写了一篇论文，预测恶意行为者可能如何滥用 AI 技术，以及可以预防和缓解这些威胁的潜在方法。该论文是双方近一年持续合作的成果。
推荐理由：OpenAI 与多家机构合作近一年，梳理 AI 被恶意滥用的可能路径与防范思路。
OpenAI NewsAI 评分3030 OpenAI 提出通过教学实现可解释机器学习的方法
OpenAI 设计了一种让 AI 互相教学的方法，所选取的示例同时也能被人类理解。该方法自动挑选最具信息量的示例来教授某个概念，例如用最佳图像来描述"狗"这一概念，实验证明其对 AI 教学有效。
OpenAI NewsAI 评分2222 OpenAI 用神经网络自动发现类型实现实体消歧
OpenAI 构建了一套实体消歧系统，通过神经网络判断一个词是否属于约 100 个自动发现的“类型”（非互斥类别），从而自动确定该词指代的是哪个对象。
OpenAI NewsAI 评分2222 OpenAI 发布 Requests for Research 2.0：七道未解研究难题
OpenAI 发布 Requests for Research 2.0，公布七道在其研究过程中出现的未解难题。该批次问题面向研究社区公开，具体题目与方向未在原文中展开。
OpenAI NewsAI 评分1919 OpenAI 发布块稀疏 GPU 内核
OpenAI 发布面向块稀疏权重神经网络的高度优化 GPU 内核，按所选稀疏度可比 cuBLAS 或 cuSPARSE 快数个数量级。该内核已用于文本情感分析以及文本和图像生成建模，并取得当前最优结果。
OpenAI NewsAI 评分4040 OpenAI 提出分层强化学习算法，学习可复用的高层动作
OpenAI 开发出一种分层强化学习算法，能学习对解决多类任务有用的高层动作，从而快速求解需要数千个时间步的任务。在导航问题集上，该算法发现了向不同方向行走和爬行的高层动作，使智能体能够快速掌握新的导航任务。
OpenAI News精选AI 评分5858 OpenAI 用仿真训练机器人控制器并部署到实体机器人
OpenAI 公布最新机器人技术，让完全在仿真中训练的机器人控制器部署到实体机器人上，在完成简单任务时能对环境中未预料的变化做出反应。OpenAI 表示，这些技术被用于构建闭环系统，而非此前的开环系统。
推荐理由：原文说明机器人控制器可完全在仿真中训练后部署到实体机器人，并具备闭环反应能力，读者可了解仿真到现实迁移的思路变化。
OpenAI News精选AI 评分6262 OpenAI 发现自博弈让模拟 AI 自发学会身体技能
OpenAI 发现自博弈能让模拟 AI 在未专门设计技能环境的情况下，自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能。自博弈还能让环境难度始终与 AI 水平匹配，从而持续推动其进步。结合此前的 Dota 2 自博弈结果，OpenAI 表示越来越确信自博弈将成为未来强大 AI 系统的核心部分。
推荐理由：OpenAI 用自博弈让模拟智能体自发学会擒抱、假动作等身体技能，可与 Dota 2 结果对照理解自博弈的训练价值。
OpenAI NewsAI 评分2222 OpenAI 用元学习让机器人摔跤手快速击败更强对手
OpenAI 展示，在模拟机器人摔跤任务中，元学习智能体能够快速击败更强的非元学习智能体，并能适应物理故障。
OpenAI News精选AI 评分5050 OpenAI 发布 LOLA 算法，让智能体建模对手的学习过程
OpenAI 发布 Learning with Opponent-Learning Awareness（LOLA）算法，该算法考虑到其他智能体也在学习这一事实，在迭代囚徒困境中能发现类似 tit-for-tat 的自利但协作的策略。OpenAI 称这是迈向能建模他人心智的智能体的一小步。
推荐理由：OpenAI 公开 LOLA 算法，读者可了解让智能体把对手也在学习纳入建模的一种思路。
OpenAI News精选AI 评分7878 OpenAI 详解 Dota 2：自对弈如何把系统从人类水平之下推到超人水平
OpenAI 发文说明其 Dota 2 结果：在算力充足的前提下，自对弈能把机器学习系统的表现从远低于人类水平提升到超人水平。该系统在一个月内从勉强与高排名玩家打平，发展到击败顶尖职业选手，此后仍在持续进步。OpenAI 指出，监督式深度学习系统的上限取决于训练数据集，而自对弈系统的可用数据会随智能体变强而自动改善。
推荐理由：OpenAI 用 Dota 2 结果说明自对弈在充足算力下能把系统从远低于人类提升到超人水平。
OpenAI News精选AI 评分7070 OpenAI 打造在 1v1 标准赛制下击败顶尖选手的 Dota 2 bot
OpenAI 宣布其打造的 bot 在标准锦标赛规则下的 Dota 2 1v1 对战中击败了世界顶尖职业选手。该 bot 完全通过自我对弈从零学习游戏，未使用模仿学习或树搜索。OpenAI 称这是迈向在涉及真实人类的混乱复杂情境中完成明确目标的一步。
推荐理由：OpenAI 用自我对弈从零训练出在 1v1 标准赛制下击败顶尖选手的 Dota 2 bot，可了解其不依赖模仿学习与树搜索的路径。
OpenAI NewsAI 评分2222 OpenAI 用参数噪声改进强化学习探索
OpenAI 发现，向强化学习算法的参数中加入自适应噪声，往往能提升性能。这种探索方法实现简单，且极少导致性能下降，因此值得在任何问题上尝试。
OpenAI News精选AI 评分7070 OpenAI 发布强化学习算法 PPO
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），称其表现与当时最先进方法相当或更好，同时实现和调参都简单得多。PPO 已成为 OpenAI 的默认强化学习算法，原因是易用且性能良好。
推荐理由：OpenAI 公开 PPO 算法并说明其相比当时主流方法更易实现和调参，可了解该算法的设计取舍。
OpenAI NewsAI 评分4040 OpenAI 造出多尺度视角下稳定欺骗神经网络的对抗样本
OpenAI 造出能从不同尺度和视角稳定欺骗神经网络分类器的对抗图像，直接挑战了上周"自动驾驶汽车因多尺度、多角度采集图像而难以被恶意欺骗"的说法。
OpenAI News精选AI 评分6262 OpenAI 与 DeepMind 提出从人类偏好中学习目标的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类判断两种候选行为哪个更好，来推断人类想要的目标。该方法旨在省去人工编写目标函数的环节，因为用简单代理替代复杂目标或目标设定稍有偏差，都可能导致不良甚至危险的行为。
推荐理由：OpenAI 与 DeepMind 安全团队提出用人类偏好比较替代手写目标函数，为对齐研究提供了一条早期思路。
OpenAI NewsAI 评分1818 OpenAI：多智能体环境中的合作、竞争与通信
OpenAI 发文指出，智能体争夺资源的多智能体环境是通往 AGI 的踏脚石。这类环境具备两个有用特性：难度由竞争对手的水平自然决定，与自身克隆体竞争时环境恰好匹配自身能力；同时不存在稳定均衡，智能体再聪明也始终面临变得更聪明的压力。OpenAI 表示这类环境与传统环境感受迥异，仍需大量研究才能驾驭。
OpenAI News精选AI 评分6262 OpenAI 发布可在实体机器人上部署的仿真训练机器人系统
OpenAI 创建了一套机器人系统，完全在仿真环境中训练并部署到实体机器人上，能够在看过一次任务演示后学会新任务。
推荐理由：OpenAI 展示了一套全仿真训练、可部署到实体机器人的系统，读者可了解机器人单次示范学习任务的早期路径。
OpenAI News精选AI 评分6262 OpenAI 开发无监督情感神经元
OpenAI 开发了一个无监督系统，仅通过预测 Amazon 评论文本中的下一个字符进行训练，就学到了对情感的良好表征。
推荐理由：OpenAI 早期关于无监督情感神经元的简短说明，展示了仅靠预测下一字符就能学到情感表征。
OpenAI NewsAI 评分2222 OpenAI 打造全球首个纯仿真训练、部署于实体机器人的垃圾邮件检测 AI
OpenAI 造出全球首个完全在仿真中训练、并部署到实体机器人上的垃圾邮件检测 AI。该系统将仿真环境中学到的能力迁移至物理世界，用于识别现实场景中的垃圾信息。
OpenAI News精选AI 评分5050 OpenAI 研究：进化策略可作为强化学习的可扩展替代方案
OpenAI 发现，已有数十年历史的优化技术进化策略（ES）在现代强化学习基准（如 Atari、MuJoCo）上可与标准强化学习技术性能相当，同时克服了强化学习的诸多不便。
推荐理由：OpenAI 早期研究指出进化策略在现代 RL 基准上可与标准强化学习比肩，并规避后者的一些不便。
OpenAI News精选AI 评分5757 OpenAI 研究：智能体如何发展出自己的语言
OpenAI 发布一项新研究，其中智能体发展出了自己的语言。该帖仅给出研究概要，未提供完整正文。
OpenAI NewsAI 评分3030 OpenAI 解析如何用对抗样本攻击机器学习模型
OpenAI 发文解析对抗样本——即攻击者刻意设计、能让机器学习模型出错的输入，如同机器的视觉错觉。文章展示了对抗样本在不同媒介上的表现，并讨论了为何防御这类攻击十分困难。
OpenAI NewsAI 评分3030 OpenAI 参与合著 Google Brain 主导的 AI 安全论文《Concrete Problems in AI Safety》
OpenAI 与 Berkeley、Stanford 的研究者共同合著了由 Google Brain 主导的论文《Concrete Problems in AI Safety》，该论文探讨了确保现代机器学习系统按预期运行的诸多研究问题。
OpenAI NewsAI 评分1818 OpenAI 谈生成模型：四个项目与生成模型的现状与未来
OpenAI 介绍了四个围绕生成模型展开的项目，生成模型是机器学习中无监督学习技术的一个分支。文章同时解释了生成模型是什么、为何重要，以及它们可能的发展方向。