OpenAI API 取消等待名单，开放直接使用
OpenAI 宣布其 API 不再需要等待名单，可直接使用。官方称这一更广泛的开放得益于安全方面的进展。
推荐理由：OpenAI API 取消等待名单，读者可据此判断接入门槛的变化。
#OpenAI
#OpenAI
今日 2 条OpenAI News精选AI 评分6262
OpenAI News精选AI 评分6262 OpenAI 训练系统求解小学数学应用题，准确率接近 9-12 岁儿童
OpenAI 训练了一个求解小学数学应用题的模型，准确率约为微调 GPT-3 模型的两倍。在自建数据集的同一批题目上，该系统的得分为 55%，而一小批 9-12 岁儿童的得分为 60%。
推荐理由：OpenAI 自述其数学应用题系统在自建数据集上接近 9-12 岁儿童水平，可对照理解当时模型推理能力的位置。
OpenAI News精选AI 评分5050 OpenAI 用人类反馈总结书籍
OpenAI 发布文章《Summarizing books with human feedback》，介绍如何将人类监督扩展到难以评估的任务上。
OpenAI NewsAI 评分2020 Helen Toner 加入 OpenAI 董事会
OpenAI 宣布任命 Helen Toner 加入其董事会。Helen Toner 是 Georgetown 安全与新兴技术中心（CSET）战略主管，长期研究 AI 政策与安全治理。此次任命正值 OpenAI 推进 AI 安全与治理工作之际。
OpenAI News精选AI 评分6262 OpenAI 发布改进版 Codex，通过 API 开放私测
OpenAI 发布改进版 Codex，这是其将自然语言转换为代码的 AI 系统，从今天起通过 API 以私测形式开放。
推荐理由：OpenAI 官方公布 Codex 改进版本并开放 API 私测，读者可了解自然语言转代码能力的落地入口。
OpenAI News精选AI 评分6262 OpenAI 发布 Triton 1.0：面向神经网络的 GPU 编程语言
OpenAI 发布 Triton 1.0，这是一门类 Python 的开源编程语言，让没有 CUDA 经验的研究者也能编写高效的 GPU 代码，性能多数情况下可达到专家水平。
推荐理由：OpenAI 开源 Triton 1.0，让没有 CUDA 经验的研究者也能写出接近专家水平的 GPU 代码。
OpenAI NewsAI 评分4040 OpenAI 研究：用精选数据集微调可改善语言模型行为
OpenAI 研究发现，通过在小型精选数据集上微调，可以改善语言模型在特定行为价值观方面的表现。
OpenAI NewsAI 评分2222 OpenAI Scholars 2021 毕业项目发布
OpenAI 宣布 2021 届 OpenAI Scholars 已完成为期六个月的导师计划，并在 OpenAI 提供的津贴与支持下各自完成了一个开源研究项目。
OpenAI NewsAI 评分2525 Will Hurd 加入 OpenAI 董事会
OpenAI 宣布美国国会议员 Will Hurd 加入其董事会。OpenAI 表示，实现造福全人类的通用人工智能目标，既需要技术专长，也需要公共政策方面的经验。
OpenAI NewsAI 评分4242 GPT-3 驱动下一代应用：超 300 款应用接入 API
OpenAI 宣布已有超过 300 款应用通过其 API 提供由 GPT-3 驱动的搜索、对话、文本补全等高级 AI 功能。
OpenAI News精选AI 评分5252 OpenAI 在 CLIP 中发现多模态神经元
OpenAI 在 CLIP 中发现了一类多模态神经元，无论概念以字面、符号还是概念化形式呈现，它们都会对同一概念产生响应。这可能解释 CLIP 在分类出人意料的视觉变体时的准确表现，也是理解 CLIP 及类似模型所学关联与偏置的重要一步。
推荐理由：OpenAI 公开 CLIP 中跨字面、符号与概念形式响应同一概念的多模态神经元，为理解其分类准确性与习得偏置提供线索。
OpenAI News精选AI 评分5252 OpenAI 将 Kubernetes 集群扩展至 7500 节点
OpenAI 将 Kubernetes 集群扩展到 7500 节点，为 GPT-3、CLIP、DALL·E 等大模型提供可扩展的基础设施，同时也支持小规模快速迭代研究，例如 Scaling Laws for Neural Language Models。
推荐理由：OpenAI 公开将 Kubernetes 集群扩展到 7500 节点的实践，为大规模模型训练的基础设施选型提供一手参考。
OpenAI News精选AI 评分8282 OpenAI 发布 DALL·E：从文本生成图像
OpenAI 训练了一个名为 DALL·E 的神经网络，可根据自然语言描述生成图像，覆盖自然语言可表达的广泛概念。
推荐理由：OpenAI 官方公布 DALL·E 这一从文本生成图像的神经网络，可据此了解文生图方向的早期起点。
OpenAI News精选AI 评分7878 OpenAI 发布 CLIP：用自然语言连接文本与图像
OpenAI 发布名为 CLIP 的神经网络，通过自然语言监督高效学习视觉概念。CLIP 只需提供待识别视觉类别的名称，即可应用于任意视觉分类基准，类似 GPT-2 和 GPT-3 的零样本能力。
推荐理由：OpenAI 介绍 CLIP 用自然语言监督学习视觉概念，读者可了解零样本图像分类的思路来源。
OpenAI NewsAI 评分1919 OpenAI 组织架构更新
OpenAI 发布组织架构更新，称过去一年经历了剧烈变化与增长。原文未披露具体调整内容。
OpenAI News精选AI 评分6262 OpenAI 将 GPT-3 技术授权给 Microsoft
OpenAI 宣布已同意将 GPT-3 授权给 Microsoft，用于其自有产品和服务。
推荐理由：OpenAI 将 GPT-3 授权给 Microsoft 用于其自有产品和服务，是理解双方后续合作起点的一条背景信息。
OpenAI News精选AI 评分6262 OpenAI 用人类反馈训练摘要模型
OpenAI 将人类反馈强化学习（RLHF）应用于语言模型训练，使其在摘要任务上表现更好。
推荐理由：OpenAI 把人类反馈强化学习用于摘要任务，可了解 RLHF 早期在语言模型训练中的一次具体应用。
OpenAI NewsAI 评分1818 OpenAI Scholars 2020 公布最终项目
OpenAI Scholars 第三届学员在线上 Demo Day 展示了他们过去五个月的研究成果。
OpenAI NewsAI 评分2222 OpenAI 联合举办 Procgen 与 MineRL 竞赛
OpenAI 宣布与 AIcrowd、卡内基梅隆大学和 DeepMind 联合举办两场 NeurIPS 2020 竞赛，分别基于 Procgen Benchmark 和 MineRL。
OpenAI News精选AI 评分6262 OpenAI 发布 Image GPT：用 Transformer 生成图像
OpenAI 发现，与在语言上训练的大型 Transformer 模型一样，同一模型在像素序列上训练后也能生成连贯的图像补全和样本。通过建立样本质量与图像分类准确率之间的相关性，研究显示其最佳生成模型在无监督设定下所含特征可与顶级卷积网络竞争。
推荐理由：OpenAI 用同一套 Transformer 架构处理像素序列，并给出生成质量与分类精度相关的证据。
OpenAI News精选AI 评分7878 OpenAI 发布 API，开放其新 AI 模型访问
OpenAI 发布 API，用于访问 OpenAI 开发的新 AI 模型。
推荐理由：OpenAI 官方发布 API，读者可了解其新模型首次以接口形式对外开放这一入口变化。
OpenAI News精选AI 评分6262 OpenAI 分析：训练同等性能神经网络所需算力每 16 个月减半
OpenAI 发布一项分析，指出自 2012 年以来，在 ImageNet 分类任务上训练达到同等性能的神经网络所需算力每 16 个月减少一半。相比 2012 年，训练达到 AlexNet 水平的网络所需算力已减少 44 倍，而同期摩尔定律带来的成本改善约为 11 倍。分析认为，在近期投入较高的 AI 任务上，算法进步带来的收益超过传统硬件效率提升。
推荐理由：OpenAI 用 ImageNet 训练算力数据量化算法进步速度，可与摩尔定律对照理解 AI 效率来源。
OpenAI News精选AI 评分7070 OpenAI 发布生成音乐的神经网络 Jukebox
OpenAI 推出 Jukebox，一个能生成音乐原始音频的神经网络，涵盖多种曲风和艺术家风格，并包含初步的歌唱声。OpenAI 同时公开了模型权重和代码，以及一个用于探索生成样本的工具。
推荐理由：OpenAI 公开 Jukebox 的模型权重与代码，读者可了解这套生成原始音频的神经网络能产出哪些风格的音乐。
OpenAI NewsAI 评分3434 OpenAI 参与发布 AI 可验证性报告，提出 10 项机制
OpenAI 参与发布了一份由 30 家机构 58 位作者共同撰写的报告，提出 10 项机制以提升 AI 系统相关声明的可验证性。开发者可借助这些工具证明 AI 系统安全、可靠、公平或保护隐私，用户、政策制定者与公民社会也可据此评估 AI 开发过程。
OpenAI News精选AI 评分6262 OpenAI 推出 Microscope，可视化八个视觉模型各层与神经元
OpenAI 推出 OpenAI Microscope，这是一个可视化集合，涵盖八个视觉“模式生物”模型的每个重要层和神经元，这些模型常用于可解释性研究。Microscope 让分析这些神经网络内部形成的特征更容易，OpenAI 希望它能帮助研究社区理解这些复杂系统。
推荐理由：OpenAI 公开八个视觉模型各层与神经元的可视化集合，为可解释性研究提供统一观察入口。
OpenAI NewsAI 评分4040 OpenAI 将深度学习框架统一为 PyTorch
OpenAI 宣布将其深度学习框架统一为标准化的 PyTorch。
OpenAI News精选AI 评分6262 OpenAI 发布 Dota 2 大规模深度强化学习研究
OpenAI 发布关于 Dota 2 大规模深度强化学习的研究，原文正文未能抓取，仅标题可用。
OpenAI NewsAI 评分4242 OpenAI 研究：深度神经网络中的双重下降现象
OpenAI 发现双重下降现象在 CNN、ResNet 和 Transformer 中普遍存在：随着模型规模、数据量或训练时间增加，性能先提升、再变差、然后再次提升，这种效应通常可通过精细的正则化避免。该行为看似相当普遍，但其成因尚未被完全理解，OpenAI 将其视为重要的研究方向。
OpenAI NewsAI 评分3838 OpenAI 发布 Procgen Benchmark：16 个程序化生成环境
OpenAI 发布 Procgen Benchmark，包含 16 个易于使用的程序化生成环境，用于直接衡量强化学习智能体学习可泛化技能的速度。
OpenAI News精选AI 评分5252 OpenAI 发布 Safety Gym 安全强化学习环境套件
OpenAI 发布 Safety Gym，一套用于衡量强化学习智能体在训练中遵守安全约束进展的环境与工具。该套件面向安全约束下的强化学习智能体评测。
推荐理由：OpenAI 发布用于衡量强化学习智能体安全约束遵守情况的环境与工具套件，读者可了解其评测目标。
OpenAI News精选AI 评分8080 OpenAI 发布 GPT-2 1.5B 版本及代码与模型权重
OpenAI 发布 GPT-2 最大版本（1.5B 参数），同时开放代码和模型权重，用于帮助检测 GPT-2 模型的输出。这是 GPT-2 分阶段发布的最后一步，尽管自 8 月以来已有更大的语言模型发布，OpenAI 仍按原计划完成整个分阶段发布流程，希望为未来强大模型的开发者提供参考案例。
推荐理由：OpenAI 公布 GPT-2 分阶段发布的最后一步，读者可了解其负责任发布流程的完整样本。
OpenAI News精选AI 评分8080 OpenAI 用机械手解魔方：纯仿真训练加 ADR
OpenAI 训练了一对神经网络，让类人机械手解开魔方。神经网络完全在仿真中训练，使用与 OpenAI Five 相同的强化学习代码，并搭配名为 Automatic Domain Randomization（ADR）的新技术。系统能应对训练中从未见过的情况，例如被毛绒长颈鹿戳碰，说明强化学习不只适用于虚拟任务，也能解决需要高灵巧度的物理世界问题。
推荐理由：OpenAI 用仿真训练加 ADR 让机械手解魔方，读者可了解强化学习从虚拟任务走向物理操作的关键思路。
OpenAI NewsAI 评分1818 OpenAI Scholars 2020 申请开放
OpenAI 已开放第三期 OpenAI Scholars 项目的申请通道。该项目此前已举办两期，此次面向 2020 年度的招募现已启动。
OpenAI News精选AI 评分6767 OpenAI 用人类偏好微调 774M 参数 GPT-2
OpenAI 用人类反馈对 774M 参数的 GPT-2 语言模型进行微调，在多项任务上成功匹配外部人类标注者的偏好，但这些偏好并不总与 OpenAI 自身的一致。在摘要任务中，标注者偏好直接从输入中整句复制的内容，模型因此学会了复制；摘要任务需要 60k 条人类标注，而按不同风格续写文本等更简单的任务只需 5k 条。OpenAI 表示其动机是让安全技术更接近“机器与人对话”这一通用任务。
推荐理由：OpenAI 用人类反馈微调 GPT-2 的早期实验，展示了偏好数据如何让模型学会复制原文，也暴露了标注偏好与研究者预期的偏差。
OpenAI News精选AI 评分6262 OpenAI 在多智能体交互中观察到涌现式工具使用
OpenAI 在模拟捉迷藏环境中训练智能体，观察到它们逐步学会使用更复杂的工具，并形成六种不同的策略与反策略，其中一些策略是该环境原本未预设支持的。这一自监督下的涌现复杂度表明，多智能体协同适应未来可能产生极其复杂且智能的行为。
推荐理由：通过捉迷藏环境观察智能体自发形成六种策略与反策略，呈现多智能体协同适应的涌现复杂度。
OpenAI NewsAI 评分3232 OpenAI 提出 UAR 指标，评估神经网络抵御未见对抗攻击的鲁棒性
OpenAI 开发出一种方法，用于评估神经网络分类器能否可靠抵御训练中未见的对抗攻击，并提出新指标 UAR（Unforeseen Attack Robustness）。该指标可衡量单一模型面对未预期攻击时的鲁棒性，并强调需在更多样化的未见攻击上评估模型表现。
OpenAI News精选AI 评分7878 OpenAI 发布 774M 参数 GPT-2 模型
OpenAI 发布 774M 参数的 GPT-2 语言模型，此前已先后放出 124M 小模型和 355M 中模型。OpenAI 同时发布一份开源法律协议，方便机构之间建立模型共享合作，并发布技术报告，介绍与更广泛 AI 研究社区协调发布规范的经验。
推荐理由：OpenAI 按分阶段发布节奏放出 GPT-2 最大版本，并给出模型共享的法律协议模板，可观察大模型开放与滥用防范之间的取舍。
OpenAI NewsAI 评分1212 OpenAI 的 Learning Day：每周四员工自学技术技能
OpenAI 将每周四设为 Learning Day，员工可自主选择学习日常工作中接触不到的技术技能，以提升工作表现。该制度为可选性质，学习内容聚焦技术能力。
OpenAI News精选AI 评分6262 微软向OpenAI投资10亿美元并达成合作
微软向OpenAI投资10亿美元，支持其构建通用人工智能（AGI）。双方将在Microsoft Azure上合作开发可扩展至AGI的硬件和软件平台，共同研发新的Azure AI超算技术，微软同时成为OpenAI的独家云服务提供商。
推荐理由：微软10亿美元投资OpenAI并成为其独家云服务商，读者可据此了解双方在Azure上共建AGI平台的早期合作框架。
OpenAI NewsAI 评分2222 OpenAI 为何认为负责任 AI 发展需要安全合作
OpenAI 发布政策研究论文，提出四项可立即用于促进 AI 安全规范长期行业合作的策略：沟通风险与收益、技术协作、提升透明度、激励标准。分析指出，行业安全合作对确保 AI 系统安全有益至关重要，但竞争压力可能引发集体行动问题，导致 AI 公司对安全投入不足。