OpenAI 与 Apollo 评估模型隐蔽背离风险
@ApolloResearch will assess whether our models could covertly work against their developers’ intentions—and whether our safeguards would ...
AI 导读@ApolloResearch 将评估我们的模型是否会暗中违背开发者的意图行事——以及我们的防护措施能否检测到这种行为。
它将审查来自训练、安全测试和内部使用的证据,以检验这种行为以及我们捕捉它的能力。
另有 4 家信源报道
- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 19 小时前
- OpenAI 试点引入 Apollo Research 6 名安全研究员调查模型破坏行为TechCrunch:AI · 19 小时前
- OpenAI 启动首轮嵌入式评估,邀请外部专家审查模型安全Greg Brockman · 20 小时前
- OpenAI 与 Apollo Research、METR 等四家机构合作开展嵌入式评估OpenAI · 20 小时前
来源:OpenAI · x.com
事件后续1
查看事件全部- OpenAI 与 Apollo Research、METR、Transluce、Goodfire 签约启动首阶段嵌入式安全评估OpenAI:官网动态 · 19 小时前