OpenAI 与 Apollo Research、METR 等四家机构合作开展嵌入式评估
We’re working with @ApolloResearch, @METR_Evals, @TransluceAI, and @GoodfireAI on embedded assessments: giving outside experts deep acces...
AI 导读OpenAI 宣布与 Apollo Research、METR、Transluce、Goodfire 四家机构合作开展嵌入式评估,让外部专家深入接触其内部模型和系统,调查对齐问题并测试安全防护措施。这些评估建立在 OpenAI 持续的对齐与安全研究之上,为其识别和管理系统风险的方式带来独立审查,详情见 openai.com/index/our-first-phase-of-embedded-assessments/。
另有 4 家信源报道
- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 19 小时前
- OpenAI 试点引入 Apollo Research 6 名安全研究员调查模型破坏行为TechCrunch:AI · 19 小时前
- OpenAI 启动首轮嵌入式评估,邀请外部专家审查模型安全Greg Brockman · 20 小时前
- OpenAI 与 Apollo 评估模型隐蔽背离风险OpenAI · 20 小时前
来源:OpenAI · x.com
事件后续1
查看事件全部- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 19 小时前