训练侧的门道：数据集构建、合成数据、预训练与后训练方法、算力与训练成本。
Google DeepMind 发布 AlphaGenome Atlas，一个包含人类基因组 90 亿个单核苷酸变异效应预测的平台，规模达 1PB，是 AlphaFold Database 的 30 倍以上，已通过网站门户免费开放给学术研究使用。
推荐理由：AlphaGenome Atlas 把 90 亿个单核苷酸变异的预测结果做成可检索资源，读者可据此了解基因组变异解读的规模化路径。
Google DeepMind 在 Nature 发表论文，称 WeatherNext AI 模型在气旋路径、强度和风场结构预报上达到 SOTA，平均多出一天预报时效，三天预报精度相当于此前模型的两天水平。
推荐理由：原文给出气旋路径与强度预报的领先幅度和开源范围，读者可据此判断气象预报模型的进展与可用性。
OpenAI 与 Molecule.one 展示了一个使用 GPT-5.4 的近自主 AI 化学家，改进了药物制造中的一项关键反应，推进了药物化学研究。
推荐理由：OpenAI 与 Molecule.one 用 GPT-5.4 驱动的近自主 AI 化学家改进药物合成反应，可看 AI 在实验科学中的落地方式。
Google DeepMind 发布 Decoupled DiLoCo 分布式训练架构，将大规模训练拆分为解耦的计算岛并异步传输数据，从而隔离局部硬件故障。测试中该系统在整块 learner unit 掉线后仍能继续训练并自动重新接入，用 Gemma 4 模型验证其基准 ML 性能与传统训练方法持平。
推荐理由：原文给出分布式训练在带宽、故障隔离和跨代硬件上的实测结果，可据此判断大规模预训练基础设施的演进方向。
OpenAI 宣布收购 Neptune，以加深对模型行为的可见性，并强化研究人员用于跟踪实验和监控训练的工具。
推荐理由：OpenAI 收购 Neptune，读者可了解其意在加强模型行为可见性与训练监控工具链。
Google DeepMind 与 Google Research 发布 WeatherNext 2，称其生成预报速度提升 8 倍，分辨率可达 1 小时，并在 99.9% 的变量和 0-15 天预报时效上超过上一代 WeatherNext。
推荐理由：原文给出 WeatherNext 2 的速度、分辨率与可用入口，读者可据此判断 AI 天气预报的落地进度。
Google DeepMind 在 Nature 发表新论文，分析 AI 视觉模型与人类在组织视觉世界上的差异，并提出一种三步对齐方法。该方法先用 THINGS 数据集训练一个冻结主模型的小型适配器作为教师模型，再生成包含百万张图像、数百万条类人判断的 AligNet 数据集，最后微调其他学生模型。
推荐理由：DeepMind 在 Nature 发表视觉对齐研究，读者可了解人类与模型表征差异及三步对齐方法。
OpenAI 研究在错误回答上训练如何导致语言模型出现更广泛的失准，并识别出驱动这一行为的内部特征。该特征可通过极少量微调被逆转。
推荐理由：OpenAI 给出错误回答训练引发模型泛化失准的内部特征，并展示用极少微调逆转该行为。
OpenAI 训练了一个模型，通过奖励每一步正确推理（过程监督）而非只奖励最终正确答案（结果监督），在数学问题求解上取得新的 SOTA。除性能提升外，过程监督还带来对齐收益：直接训练模型产出被人类认可的思维链。
推荐理由：OpenAI 用过程监督替代结果监督训练数学推理模型，读者可了解两种奖励方式的差异与对齐收益。
OpenAI 使用 GPT-4 自动为大型语言模型中的神经元行为撰写解释，并对这些解释打分。团队同时发布了覆盖 GPT-2 全部神经元的解释与评分数据集，并说明这些解释并不完美。
推荐理由：OpenAI 用 GPT-4 自动为 GPT-2 神经元生成并评分解释，并公开全部神经元的解释数据集。
OpenAI 发布研究《Efficient training of language models to fill in the middle》，探讨语言模型中间填充任务的高效训练方法。原文正文未能抓取，仅标题可用。
OpenAI 训练了一个神经网络，通过 Video PreTraining（VPT）在大量无标注的人类 Minecraft 游玩视频数据集上学习，仅使用少量标注的承包商数据。经微调后，该模型能学会制作钻石工具，这一任务通常需要熟练人类花费超过 20 分钟（24,000 次操作）。模型使用键盘按键和鼠标移动的原生人类交互界面，因此具有较强通用性，是迈向通用计算机操作智能体的一步。
推荐理由：OpenAI 用大量无标注人类游戏视频预训练网络，展示从少量标注数据到通用计算机操作智能体的路径。
OpenAI 构建了一个面向 Lean 的神经定理证明器，能够求解多道高难度高中数学奥赛题，包括来自 AMC12 和 AIME 的题目，以及两道改编自 IMO 的问题。
推荐理由：OpenAI 用神经定理证明器在 Lean 中解出 AMC12、AIME 及两道改编自 IMO 的题目，可了解形式化数学推理的早期进展。
OpenAI 训练了一个求解小学数学应用题的模型，准确率约为微调 GPT-3 模型的两倍。在自建数据集的同一批题目上，该系统的得分为 55%，而一小批 9-12 岁儿童的得分为 60%。
推荐理由：OpenAI 自述其数学应用题系统在自建数据集上接近 9-12 岁儿童水平，可对照理解当时模型推理能力的位置。
OpenAI 发布文章《Summarizing books with human feedback》，介绍如何将人类监督扩展到难以评估的任务上。
OpenAI 将人类反馈强化学习（RLHF）应用于语言模型训练，使其在摘要任务上表现更好。
推荐理由：OpenAI 把人类反馈强化学习用于摘要任务，可了解 RLHF 早期在语言模型训练中的一次具体应用。
OpenAI 发布一项分析，指出自 2012 年以来，在 ImageNet 分类任务上训练达到同等性能的神经网络所需算力每 16 个月减少一半。相比 2012 年，训练达到 AlexNet 水平的网络所需算力已减少 44 倍，而同期摩尔定律带来的成本改善约为 11 倍。分析认为，在近期投入较高的 AI 任务上，算法进步带来的收益超过传统硬件效率提升。
推荐理由：OpenAI 用 ImageNet 训练算力数据量化算法进步速度，可与摩尔定律对照理解 AI 效率来源。
OpenAI 用人类反馈对 774M 参数的 GPT-2 语言模型进行微调，在多项任务上成功匹配外部人类标注者的偏好，但这些偏好并不总与 OpenAI 自身的一致。在摘要任务中，标注者偏好直接从输入中整句复制的内容，模型因此学会了复制；摘要任务需要 60k 条人类标注，而按不同风格续写文本等更简单的任务只需 5k 条。OpenAI 表示其动机是让安全技术更接近“机器与人对话”这一通用任务。
推荐理由：OpenAI 用人类反馈微调 GPT-2 的早期实验，展示了偏好数据如何让模型学会复制原文，也暴露了标注偏好与研究者预期的偏差。
OpenAI 开发了 Sparse Transformer，这是一种深度神经网络，在预测文本、图像或声音序列中下一个内容的任务上创下新纪录。它通过对注意力机制做算法改进，从比以往长 30 倍的序列中提取模式。
推荐理由：OpenAI 用稀疏注意力把可建模序列拉长 30 倍，读者可了解长序列建模的早期技术路线。
OpenAI 训练了一个大规模无监督语言模型，能够生成连贯的段落文本，在多项语言建模基准上取得当时最优表现。该模型无需针对特定任务训练，即可完成基础的阅读理解、机器翻译、问答和摘要任务。
推荐理由：原文给出无监督语言模型在多项基准上的表现，可据此了解早期通用语言模型的训练思路。