OpenAI 启动首轮嵌入式评估,邀请外部专家审查模型安全
launching our first round of embedded assessments:
AI 导读OpenAI 宣布启动首轮嵌入式评估(embedded assessments),与 Apollo Research、METR、TransluceAI 和 GoodfireAI 合作,让外部专家深入接触其内部模型与系统,调查对齐问题并测试安全防护措施。Greg Brockman 转发了这一公告,评估旨在为 OpenAI 识别和管理系统风险的方式带来独立审视,详情见 openai.com/index/our-first-phase-of-embedded-assessments/。
另有 4 家信源报道
- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 19 小时前
- OpenAI 试点引入 Apollo Research 6 名安全研究员调查模型破坏行为TechCrunch:AI · 19 小时前
- OpenAI 与 Apollo Research、METR 等四家机构合作开展嵌入式评估OpenAI · 21 小时前
- OpenAI 与 Apollo 评估模型隐蔽背离风险OpenAI · 21 小时前
来源:Greg Brockman · x.com
事件后续1
查看事件全部- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 19 小时前