OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估
Our first phase of embedded assessments
AI 导读OpenAI 宣布与四家独立评估机构 Apollo Research、METR、Transluce 和 Goodfire 签署协议,启动首阶段嵌入式安全评估。评估专家将获得模型 checkpoint、源码、训练数据和监控系统等内部资源,分别评估模型暗中违背开发者意图的可能性、模型内部可解释性、最大 RL 训练运行的未对齐行为以及后训练对齐评测的质量覆盖。
另有 4 家信源报道
- OpenAI 试点引入 Apollo Research 6 名安全研究员调查模型破坏行为TechCrunch:AI · 19 小时前
- OpenAI 启动首轮嵌入式评估,邀请外部专家审查模型安全Greg Brockman · 20 小时前
- OpenAI 与 Apollo Research、METR 等四家机构合作开展嵌入式评估OpenAI · 20 小时前
- OpenAI 与 Apollo 评估模型隐蔽背离风险OpenAI · 20 小时前
来源:OpenAI:官网动态 · openai.com
事件后续1
查看事件全部- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 19 小时前