Goodfire 提出 mechanistic shaping 框架 用内部表征抑制模型走捷径
Shaping and Monitoring Models Through Their Internal Representations
AI 导读Goodfire Research 发布论文提出 mechanistic shaping 框架,通过 reliance shaping 和 expression shaping 在训练中惩罚模型对特定内部概念的依赖或表达,使模型以正确方式解题而非仅答对。
来源:Goodfire Research · goodfire.com
事件后续1
查看事件全部- Goodfire 提出 mechanistic shaping 框架 用内部表征抑制模型走捷径Goodfire Research · 11 天前