返回精选
OpenAI:Alignment 研究博客Micah Carroll, Tomek Korbak, Zehao Dou, Bowen Baker, Ian Kivlichan2026-05-07 07:005 月 7 日

研究强化学习中意外对思维链(CoT)评分的影响

Investigating the consequences of accidentally grading CoT during RL

AI 导读

研究发现,部分已发布的模型存在有限的意外对思维链(CoT)进行评分的情况。团队已修复受影响的奖励通路,并确认没有明确证据表明模型的可监控性因此下降。这表明当前强化学习训练中对CoT的意外评分影响有限,且修复后未对监控能力产生负面影响。

来源:OpenAI:Alignment 研究博客 · alignment.openai.com

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。