先了解这件事
OpenAI更新公开的Model Spec,将模型行为准则重组为五项核心价值观:忠实于人类意图、最小化伤害、诚实透明、促进人类自主和关怀。OpenAI称,Model Spec是其对模型应如何行为的公开描述。
新规范要求GPT模型利用记忆和历史对话判断用户意图,但须区分用户原话与模型推断并披露假设;对智能体模型强调可纠正性,不得阻挠监督、纠正或关机,也不得追求自我保存等自身目标。更新还新增上下文理解、监督和自主性指导,调整部分行为默认值,退出大部分详细风格指南,并将模型称呼从“the assistant”改为“GPT”。
IT之家将五项准则表述为忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责,并称忠于人类意图是整套框架的基础,要求模型理解用户、开发者及OpenAI本身的意图而非机械执行指令。
AI 根据报道生成 · 17 天前更新最新进展
OpenAI 围绕五项核心价值重构模型行为规范 Model Spec
热度走势
事件进展1
OpenAI更新Model Spec以强化价值对齐
OpenAI:官网动态:OpenAI 更新 Model Spec,围绕五项核心价值观重组模型行为准则