OpenAI News·· 2024-12-20精选AI 评分57
OpenAI 提出审议式对齐：用推理提升语言模型安全性
Deliberative alignment: reasoning enables safer language models
AI 导读
OpenAI 为 o1 模型提出新的对齐策略“审议式对齐”，直接向模型教授安全规范，并训练其对这些规范进行推理。该策略借助模型的推理能力来提升语言模型的安全性。
推荐理由
OpenAI 公开 o1 模型的对齐策略，读者可了解推理能力如何被用于安全规范的理解与执行。
来源：OpenAI News · openai.com