推理模型难以控制其思维链,而这反而是好事
Reasoning models struggle to control their chains of thought, and that’s good
AI 导读OpenAI 发布 CoT-Control 研究,发现推理模型难以操控自身思维链。这种「不可控」特性反而增强了 AI 的可监控性,成为安全对齐的重要保障。
来源:OpenAI:官网动态 · openai.com
Reasoning models struggle to control their chains of thought, and that’s good
AI 导读OpenAI 发布 CoT-Control 研究,发现推理模型难以操控自身思维链。这种「不可控」特性反而增强了 AI 的可监控性,成为安全对齐的重要保障。
来源:OpenAI:官网动态 · openai.com