跳到正文

论文研究

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展的精选解读。

最新精选

第 421–440 条 · 共 481 条
1月23日周四
12月20日周五
12月5日周四
  1. OpenAI News62

    OpenAI 发布 o1 系统卡

    OpenAI 发布 o1 系统卡,说明在发布 o1 和 o1-mini 之前开展的安全工作,包括外部红队测试以及依据其 Preparedness Framework 进行的前沿风险评测。

    推荐理由:OpenAI 官方披露 o1 与 o1-mini 发布前的安全评估流程,可了解其 Preparedness Framework 下的风险评测做法。

12月4日周三
8月8日周四
6月24日周一
6月12日周三
5月8日周三
4月20日周六
  1. OpenAI News60

    OpenAI 提出指令层级:训练 LLM 优先处理高权限指令

    OpenAI 发布关于指令层级的研究,指出当前 LLM 容易受到提示词注入、越狱等攻击,攻击者可用恶意提示词覆盖模型原有指令。该研究提出通过训练让 LLM 优先处理高权限指令。

    推荐理由:OpenAI 提出指令层级训练思路,读者可了解模型如何区分不同优先级指令以抵御提示词注入。

2月15日周四
  1. OpenAI News82

    OpenAI 发布 Sora:视频生成模型作为世界模拟器

    OpenAI 公开视频生成模型 Sora,在可变时长、分辨率和宽高比的视频与图像上联合训练文本条件扩散模型,采用作用于视频和图像 latent code 时空 patch 的 Transformer 架构。其最大模型 Sora 可生成一分钟高保真视频,研究结果提示规模化视频生成模型是构建通用物理世界模拟器的一条可行路径。

    推荐理由:OpenAI 首次公开视频生成模型 Sora 的技术思路,读者可了解时空 patch 训练与规模化模拟物理世界的路径。

2月2日周五
2月1日周四
1月31日周三
  1. OpenAI News49

    OpenAI 构建 LLM 辅助生物威胁的早期预警系统

    OpenAI 正在制定一套评估蓝图,用于衡量大语言模型可能协助制造生物威胁的风险。在包含生物学专家和学生的评估中,OpenAI 发现 GPT-4 对生物威胁制造准确率的提升最多只是轻微的。这一提升幅度尚不足以得出确定结论,但该发现是后续研究和社区讨论的起点。

    推荐理由:OpenAI 公布 LLM 生物威胁风险的评估蓝图,并给出 GPT-4 在专家与学生测试中的初步结果。

1月29日周一
12月14日周四
  1. OpenAI News60

    OpenAI 提出弱到强泛化的超级对齐研究方向

    OpenAI 提出一个面向超级对齐的新研究方向,并给出初步结果:能否利用深度学习的泛化特性,用弱监督者控制更强的模型。材料仅提供摘要,未给出具体方法或实验细节。

    推荐理由:OpenAI 提出用弱监督者控制强模型的对齐研究方向,并给出初步结果,可作为理解超级对齐问题的一个入口。

10月3日周二
9月25日周一
8月2日周三
5月31日周三
  1. OpenAI News62

    OpenAI 用过程监督提升数学推理能力

    OpenAI 训练了一个模型,通过奖励每一步正确推理(过程监督)而非只奖励最终正确答案(结果监督),在数学问题求解上取得新的 SOTA。除性能提升外,过程监督还带来对齐收益:直接训练模型产出被人类认可的思维链。

    推荐理由:OpenAI 用过程监督替代结果监督训练数学推理模型,读者可了解两种奖励方式的差异与对齐收益。

5月9日周二