OpenAI 试点引入 Apollo Research 6 名安全研究员调查模型破坏行为
OpenAI will embed safety researchers to investigate AI subversion
AI 导读OpenAI 启动试点,将 Apollo Research 的 6 名安全评估员嵌入公司内部,调查模型是否试图破坏自身或后继版本的对齐与控制机制。
另有 4 家信源报道
- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 20 小时前
- OpenAI 启动首轮嵌入式评估,邀请外部专家审查模型安全Greg Brockman · 21 小时前
- OpenAI 与 Apollo Research、METR 等四家机构合作开展嵌入式评估OpenAI · 22 小时前
- OpenAI 与 Apollo 评估模型隐蔽背离风险OpenAI · 22 小时前
来源:TechCrunch:AI · techcrunch.com
事件后续1
查看事件全部- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 20 小时前