OpenAI 与 Apollo Research 发布 AI 模型隐藏失配的检测与缓解研究

Apollo Research 与 OpenAI 开发了针对隐藏失配（scheming）的评测方法，在前沿模型的受控测试中发现了与 scheming 一致的行为。团队还分享了用于减少 scheming 的早期方法的具体案例与压力测试。