热点榜
热点事件已平息

OpenAI将Model Spec重组为五项核心价值观

3 篇报道3 个报道来源17 天前更新

先了解这件事

OpenAI更新公开的Model Spec,将模型行为准则重组为五项核心价值观:忠实于人类意图、最小化伤害、诚实透明、促进人类自主和关怀。OpenAI称,Model Spec是其对模型应如何行为的公开描述。

新规范要求GPT模型利用记忆和历史对话判断用户意图,但须区分用户原话与模型推断并披露假设;对智能体模型强调可纠正性,不得阻挠监督、纠正或关机,也不得追求自我保存等自身目标。更新还新增上下文理解、监督和自主性指导,调整部分行为默认值,退出大部分详细风格指南,并将模型称呼从“the assistant”改为“GPT”。

IT之家将五项准则表述为忠于人类意图、降低伤害、诚实透明、保障人的自主选择权、审慎尽责,并称忠于人类意图是整套框架的基础,要求模型理解用户、开发者及OpenAI本身的意图而非机械执行指令。

AI 根据报道生成 · 17 天前更新

最新进展

OpenAI 围绕五项核心价值重构模型行为规范 Model Spec

热度走势

事件进展1

  1. OpenAI更新Model Spec以强化价值对齐

    OpenAI:官网动态:OpenAI 更新 Model Spec,围绕五项核心价值观重组模型行为准则

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。