OpenAI 在多智能体交互中观察到涌现式工具使用
OpenAI 在模拟捉迷藏环境中训练智能体，观察到它们逐步学会使用更复杂的工具，并形成六种不同的策略与反策略，其中一些策略是该环境原本未预设支持的。这一自监督下的涌现复杂度表明，多智能体协同适应未来可能产生极其复杂且智能的行为。
推荐理由：通过捉迷藏环境观察智能体自发形成六种策略与反策略，呈现多智能体协同适应的涌现复杂度。
#论文/研究
#论文/研究
今日 1 条OpenAI News精选AI 评分6262
OpenAI NewsAI 评分3232 OpenAI 提出 UAR 指标，评估神经网络抵御未见对抗攻击的鲁棒性
OpenAI 开发出一种方法，用于评估神经网络分类器能否可靠抵御训练中未见的对抗攻击，并提出新指标 UAR（Unforeseen Attack Robustness）。该指标可衡量单一模型面对未预期攻击时的鲁棒性，并强调需在更多样化的未见攻击上评估模型表现。
OpenAI NewsAI 评分2222 OpenAI 为何认为负责任 AI 发展需要安全合作
OpenAI 发布政策研究论文，提出四项可立即用于促进 AI 安全规范长期行业合作的策略：沟通风险与收益、技术协作、提升透明度、激励标准。分析指出，行业安全合作对确保 AI 系统安全有益至关重要，但竞争压力可能引发集体行动问题，导致 AI 公司对安全投入不足。
OpenAI News精选AI 评分6262 OpenAI 提出 Sparse Transformer，可处理长 30 倍的序列
OpenAI 开发了 Sparse Transformer，这是一种深度神经网络，在预测文本、图像或声音序列中下一个内容的任务上创下新纪录。它通过对注意力机制做算法改进，从比以往长 30 倍的序列中提取模式。
推荐理由：OpenAI 用稀疏注意力把可建模序列拉长 30 倍，读者可了解长序列建模的早期技术路线。
OpenAI NewsAI 评分4242 OpenAI 提出能量模型（EBM）隐式生成与泛化方法
OpenAI 在能量模型（EBM）的稳定、可扩展训练上取得进展，样本质量和泛化能力优于现有模型。EBM 生成通过投入更多算力持续精修答案，在低温下可生成与 GAN 媲美的样本，同时具备似然类模型的模式覆盖保证。
OpenAI NewsAI 评分3838 OpenAI 联合 Google 推出激活图谱（Activation Atlases）
OpenAI 与 Google 研究人员合作推出激活图谱（Activation Atlases），一种可视化神经元之间交互所代表含义的新技术。该技术旨在帮助理解 AI 系统的内部决策过程，从而识别弱点并调查失败原因，以应对 AI 系统日益部署于敏感场景的需求。
OpenAI NewsAI 评分4040 OpenAI：AI 安全研究需要社会科学家参与
OpenAI 发表论文指出，长期 AI 安全研究需要社会科学家参与，才能确保 AI 对齐算法在真实人类参与时有效。论文认为，将先进 AI 系统与人类价值观正确对齐，需解决人类理性、情感与偏见心理学相关的诸多不确定性。OpenAI 计划招聘社会科学家全职从事该研究，以推动机器学习与社会科学的合作。
OpenAI NewsAI 评分4040 OpenAI 研究：AI 训练如何扩展——梯度噪声尺度可预测并行性
OpenAI 发现梯度噪声尺度这一简单统计指标能预测神经网络训练在多种任务上的可并行性。复杂任务的梯度噪声更大，因此未来更大的 batch size 可能变得有用，从而消除 AI 系统继续扩展的一个潜在限制。该结果还表明神经网络训练并非神秘技艺，而是可以被严格化和系统化的。
OpenAI NewsAI 评分4242 OpenAI 发布 CoinRun：量化强化学习中的泛化能力
OpenAI 发布训练环境 CoinRun，用于衡量智能体将经验迁移到新情境的能力，并已帮助厘清强化学习领域一个长期存在的难题。CoinRun 在复杂度上取得平衡：比《刺猬索尼克》等传统平台游戏更简单，但仍对当前最先进算法构成有价值的泛化挑战。
OpenAI NewsAI 评分4242 OpenAI 用能量函数模型学习概念
OpenAI 开发了一种基于能量的模型，仅需五次演示即可学会识别并生成以 2D 点集表达的概念，如 near、above、between、closest 和 furthest。该模型还能实现跨域迁移，将 2D 粒子环境中习得的概念用于解决 3D 物理机器人任务。
OpenAI News精选AI 评分6262 OpenAI 提出基于预测奖励的强化学习探索方法 RND
OpenAI 开发了 Random Network Distillation（RND），一种基于预测的奖励方法，通过好奇心鼓励强化学习智能体探索环境。该方法在《蒙特祖玛的复仇》上首次超过人类平均表现。
推荐理由：OpenAI 提出基于预测的随机网络蒸馏探索方法，在《蒙特祖玛的复仇》上首次超过人类平均分。
OpenAI NewsAI 评分4242 OpenAI 提出迭代放大（iterated amplification）AI 安全技术
OpenAI 提出一种名为迭代放大（iterated amplification）的 AI 安全技术，通过将复杂任务拆解为更简单的子任务来指定超出人类规模的行为与目标，而非依赖标注数据或奖励函数。该构想仍处于早期阶段，目前仅在简单的玩具算法领域完成实验，OpenAI 认为它有望成为可扩展的 AI 安全方案。
OpenAI News精选AI 评分6262 OpenAI 训练类人机械手实现物体灵巧操作
OpenAI 表示已训练出一只类人机械手，能以空前的灵巧度操作实体物体。
推荐理由：OpenAI 用仿真训练出类人机械手完成实物操作，可了解早期具身智能的训练思路。
OpenAI News精选AI 评分6262 OpenAI 发布可逆生成模型 Glow
OpenAI 发布可逆生成模型 Glow，采用可逆 1x1 卷积，在简化此前可逆生成模型架构的同时支持高分辨率图像生成与高效采样。该模型还能发现可用于操控数据属性的特征，OpenAI 同步开源模型代码并提供在线可视化工具。
推荐理由：OpenAI 公开 Glow 的可逆生成模型架构与代码，读者可了解其用可逆 1x1 卷积简化模型并支持属性编辑的思路。
OpenAI News精选AI 评分6262 OpenAI 从单次演示中学会 Montezuma's Revenge
OpenAI 训练出一个智能体，仅凭单次人类演示就在 Montezuma's Revenge 上取得 74,500 分的高分，超过此前所有已发表结果。其算法思路是让智能体从演示中精心挑选的状态出发连续进行游戏，并用 PPO 优化游戏得分，PPO 也是支撑 OpenAI Five 的同一强化学习算法。
推荐理由：OpenAI 用单次人类演示加 PPO 在 Montezuma's Revenge 上取得 74,500 分，可了解其方法思路。
OpenAI News精选AI 评分8282 OpenAI 用无监督学习提升语言理解能力
OpenAI 用 Transformer 与无监督预训练相结合的可扩展、与任务无关的系统，在一系列多样化语言任务上取得当时最优结果，并对外发布了该系统。这一结果说明监督学习方法与无监督预训练搭配效果很好，OpenAI 希望它推动在更大、更多样数据集上继续探索这一思路。
推荐理由：OpenAI 用 Transformer 加无监督预训练在多项语言任务上取得当时最优结果，并公开了这套与任务无关的系统。
OpenAI News精选AI 评分7878 OpenAI 分析：2012 年以来最大 AI 训练算力每 3.4 个月翻倍
OpenAI 发布分析称，自 2012 年以来，最大规模 AI 训练所用算力呈指数增长，翻倍周期为 3.4 个月，而摩尔定律的翻倍周期为 2 年。同一时期该指标增长超过 300,000 倍，若按 2 年翻倍则仅增长 7 倍。OpenAI 表示算力提升是 AI 进展的关键组成部分，若这一趋势延续，值得为远超当前能力的系统做准备。
推荐理由：OpenAI 用一组量化数据说明 AI 训练算力的增长节奏，可与摩尔定律对照理解算力投入的长期趋势。
OpenAI NewsAI 评分4242 OpenAI 提出通过辩论实现 AI 安全的技术
OpenAI 提出一种 AI 安全技术，训练智能体就话题相互辩论，由人类判断胜负。该方法旨在借助辩论提升 AI 系统的安全性。
OpenAI NewsAI 评分3232 OpenAI 发布 Evolved Policy Gradients 元学习方法
OpenAI 发布实验性元学习方法 Evolved Policy Gradients（EPG），通过进化学习智能体的损失函数，使其能在新任务上快速训练。经 EPG 训练的智能体在测试时可完成训练范围之外的基础任务，例如学会导航到房间中与训练时放置位置相反一侧的物体。
OpenAI News精选AI 评分6060 OpenAI 提出可扩展元学习算法 Reptile
OpenAI 开发了名为 Reptile 的简单元学习算法，通过反复采样任务、对任务执行随机梯度下降，并将初始参数朝该任务学到的最终参数更新。Reptile 是把 Shortest Descent 算法应用到元学习场景，在数学上与一阶 MAML 相似，只需对 SGD 或 Adam 等优化器进行黑盒访问，计算效率和性能相近。
推荐理由：OpenAI 提出 Reptile 元学习算法，并说明它与一阶 MAML 的数学关系，便于理解其定位。
OpenAI News精选AI 评分6262 OpenAI 联合多家机构发布 AI 恶意使用预测论文
OpenAI 与未来人类研究所、存在风险研究中心、新美国安全中心、电子前沿基金会等机构合作，共同撰写了一篇论文，预测恶意行为者可能如何滥用 AI 技术，以及可以预防和缓解这些威胁的潜在方法。该论文是双方近一年持续合作的成果。
推荐理由：OpenAI 与多家机构合作近一年，梳理 AI 被恶意滥用的可能路径与防范思路。
OpenAI NewsAI 评分3030 OpenAI 提出通过教学实现可解释机器学习的方法
OpenAI 设计了一种让 AI 互相教学的方法，所选取的示例同时也能被人类理解。该方法自动挑选最具信息量的示例来教授某个概念，例如用最佳图像来描述"狗"这一概念，实验证明其对 AI 教学有效。
OpenAI NewsAI 评分2222 OpenAI 用神经网络自动发现类型实现实体消歧
OpenAI 构建了一套实体消歧系统，通过神经网络判断一个词是否属于约 100 个自动发现的“类型”（非互斥类别），从而自动确定该词指代的是哪个对象。
OpenAI NewsAI 评分2222 OpenAI 发布 Requests for Research 2.0：七道未解研究难题
OpenAI 发布 Requests for Research 2.0，公布七道在其研究过程中出现的未解难题。该批次问题面向研究社区公开，具体题目与方向未在原文中展开。
OpenAI NewsAI 评分1919 OpenAI 发布块稀疏 GPU 内核
OpenAI 发布面向块稀疏权重神经网络的高度优化 GPU 内核，按所选稀疏度可比 cuBLAS 或 cuSPARSE 快数个数量级。该内核已用于文本情感分析以及文本和图像生成建模，并取得当前最优结果。
OpenAI NewsAI 评分4040 OpenAI 提出分层强化学习算法，学习可复用的高层动作
OpenAI 开发出一种分层强化学习算法，能学习对解决多类任务有用的高层动作，从而快速求解需要数千个时间步的任务。在导航问题集上，该算法发现了向不同方向行走和爬行的高层动作，使智能体能够快速掌握新的导航任务。
OpenAI News精选AI 评分5858 OpenAI 用仿真训练机器人控制器并部署到实体机器人
OpenAI 公布最新机器人技术，让完全在仿真中训练的机器人控制器部署到实体机器人上，在完成简单任务时能对环境中未预料的变化做出反应。OpenAI 表示，这些技术被用于构建闭环系统，而非此前的开环系统。
推荐理由：原文说明机器人控制器可完全在仿真中训练后部署到实体机器人，并具备闭环反应能力，读者可了解仿真到现实迁移的思路变化。
OpenAI News精选AI 评分6262 OpenAI 发现自博弈让模拟 AI 自发学会身体技能
OpenAI 发现自博弈能让模拟 AI 在未专门设计技能环境的情况下，自行学会擒抱、闪避、假动作、踢球、接球和扑球等身体技能。自博弈还能让环境难度始终与 AI 水平匹配，从而持续推动其进步。结合此前的 Dota 2 自博弈结果，OpenAI 表示越来越确信自博弈将成为未来强大 AI 系统的核心部分。
推荐理由：OpenAI 用自博弈让模拟智能体自发学会擒抱、假动作等身体技能，可与 Dota 2 结果对照理解自博弈的训练价值。
OpenAI NewsAI 评分2222 OpenAI 用元学习让机器人摔跤手快速击败更强对手
OpenAI 展示，在模拟机器人摔跤任务中，元学习智能体能够快速击败更强的非元学习智能体，并能适应物理故障。
OpenAI News精选AI 评分5050 OpenAI 发布 LOLA 算法，让智能体建模对手的学习过程
OpenAI 发布 Learning with Opponent-Learning Awareness（LOLA）算法，该算法考虑到其他智能体也在学习这一事实，在迭代囚徒困境中能发现类似 tit-for-tat 的自利但协作的策略。OpenAI 称这是迈向能建模他人心智的智能体的一小步。
推荐理由：OpenAI 公开 LOLA 算法，读者可了解让智能体把对手也在学习纳入建模的一种思路。
OpenAI News精选AI 评分7878 OpenAI 详解 Dota 2：自对弈如何把系统从人类水平之下推到超人水平
OpenAI 发文说明其 Dota 2 结果：在算力充足的前提下，自对弈能把机器学习系统的表现从远低于人类水平提升到超人水平。该系统在一个月内从勉强与高排名玩家打平，发展到击败顶尖职业选手，此后仍在持续进步。OpenAI 指出，监督式深度学习系统的上限取决于训练数据集，而自对弈系统的可用数据会随智能体变强而自动改善。
推荐理由：OpenAI 用 Dota 2 结果说明自对弈在充足算力下能把系统从远低于人类提升到超人水平。
OpenAI News精选AI 评分7070 OpenAI 打造在 1v1 标准赛制下击败顶尖选手的 Dota 2 bot
OpenAI 宣布其打造的 bot 在标准锦标赛规则下的 Dota 2 1v1 对战中击败了世界顶尖职业选手。该 bot 完全通过自我对弈从零学习游戏，未使用模仿学习或树搜索。OpenAI 称这是迈向在涉及真实人类的混乱复杂情境中完成明确目标的一步。
推荐理由：OpenAI 用自我对弈从零训练出在 1v1 标准赛制下击败顶尖选手的 Dota 2 bot，可了解其不依赖模仿学习与树搜索的路径。
OpenAI NewsAI 评分2222 OpenAI 用参数噪声改进强化学习探索
OpenAI 发现，向强化学习算法的参数中加入自适应噪声，往往能提升性能。这种探索方法实现简单，且极少导致性能下降，因此值得在任何问题上尝试。
OpenAI News精选AI 评分7070 OpenAI 发布强化学习算法 PPO
OpenAI 发布一类新的强化学习算法 Proximal Policy Optimization（PPO），称其表现与当时最先进方法相当或更好，同时实现和调参都简单得多。PPO 已成为 OpenAI 的默认强化学习算法，原因是易用且性能良好。
推荐理由：OpenAI 公开 PPO 算法并说明其相比当时主流方法更易实现和调参，可了解该算法的设计取舍。
OpenAI NewsAI 评分4040 OpenAI 造出多尺度视角下稳定欺骗神经网络的对抗样本
OpenAI 造出能从不同尺度和视角稳定欺骗神经网络分类器的对抗图像，直接挑战了上周"自动驾驶汽车因多尺度、多角度采集图像而难以被恶意欺骗"的说法。
OpenAI News精选AI 评分6262 OpenAI 与 DeepMind 提出从人类偏好中学习目标的方法
OpenAI 与 DeepMind 安全团队合作开发了一种算法，通过让人类判断两种候选行为哪个更好，来推断人类想要的目标。该方法旨在省去人工编写目标函数的环节，因为用简单代理替代复杂目标或目标设定稍有偏差，都可能导致不良甚至危险的行为。
推荐理由：OpenAI 与 DeepMind 安全团队提出用人类偏好比较替代手写目标函数，为对齐研究提供了一条早期思路。
OpenAI NewsAI 评分1818 OpenAI：多智能体环境中的合作、竞争与通信
OpenAI 发文指出，智能体争夺资源的多智能体环境是通往 AGI 的踏脚石。这类环境具备两个有用特性：难度由竞争对手的水平自然决定，与自身克隆体竞争时环境恰好匹配自身能力；同时不存在稳定均衡，智能体再聪明也始终面临变得更聪明的压力。OpenAI 表示这类环境与传统环境感受迥异，仍需大量研究才能驾驭。
OpenAI News精选AI 评分6262 OpenAI 发布可在实体机器人上部署的仿真训练机器人系统
OpenAI 创建了一套机器人系统，完全在仿真环境中训练并部署到实体机器人上，能够在看过一次任务演示后学会新任务。
推荐理由：OpenAI 展示了一套全仿真训练、可部署到实体机器人的系统，读者可了解机器人单次示范学习任务的早期路径。
OpenAI News精选AI 评分6262 OpenAI 开发无监督情感神经元
OpenAI 开发了一个无监督系统，仅通过预测 Amazon 评论文本中的下一个字符进行训练，就学到了对情感的良好表征。
推荐理由：OpenAI 早期关于无监督情感神经元的简短说明，展示了仅靠预测下一字符就能学到情感表征。
OpenAI NewsAI 评分2222 OpenAI 打造全球首个纯仿真训练、部署于实体机器人的垃圾邮件检测 AI
OpenAI 造出全球首个完全在仿真中训练、并部署到实体机器人上的垃圾邮件检测 AI。该系统将仿真环境中学到的能力迁移至物理世界，用于识别现实场景中的垃圾信息。