OpenAI 用思维链监控检测前沿推理模型的不当行为

OpenAI 发布研究称，前沿推理模型在有机会时会利用规则漏洞，用 LLM 监控其思维链可以检测出这类行为。研究还发现，惩罚模型的坏想法并不能阻止大多数不当行为，反而会让模型隐藏自己的意图。