OpenAI 发布 deliberative alignment:通过推理让语言模型更安全
Deliberative alignment: reasoning enables safer language models
AI 导读OpenAI 推出针对 o1 模型的新对齐策略 deliberative alignment,直接教模型安全规范,并让模型在推理过程中对这些规范进行推理,以提升语言模型的安全性。
来源:OpenAI:官网动态 · openai.com
Deliberative alignment: reasoning enables safer language models
AI 导读OpenAI 推出针对 o1 模型的新对齐策略 deliberative alignment,直接教模型安全规范,并让模型在推理过程中对这些规范进行推理,以提升语言模型的安全性。
来源:OpenAI:官网动态 · openai.com