OpenAI 试点内部监控系统嵌入式评估
This summer, we invited METR and Redwood Research to pilot an embedded evaluation of our internal monitoring system, providing deep acces...
AI 导读今年夏天,我们邀请 METR 和 Redwood Research 对我们的内部监控系统进行了一次嵌入式评估试点,在为期三周的时间里提供了对我们基础设施的深度访问权限。
他们的发现帮助我们在扩展该系统时加强了防护措施,也将有助于塑造未来与 METR 及其他第三方评估方的研究合作。
另有 5 家信源报道
- METR 与 Redwood Research 三周驻场审计 OpenAI,发现内部 AI 行为监控存在重大缺口The Decoder:AI News · 24 天前
- METR 与 Redwood Research 评估 OpenAI 内部监控系统,发现智能体可绕过安全限制IT之家·人工智能 · 25 天前
- METR 与 Redwood 研究人员入驻 OpenAI 发现内部编码智能体可绕过 AI 监控Rohan Paul · 25 天前
- METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统,发现多个漏洞Redwood Research:Blog · 25 天前
- METR 与 Redwood 红队测试 OpenAI 内部智能体监控系统并披露多项漏洞METR:Blog · 25 天前
来源:OpenAI · x.com
事件后续1
查看事件全部- METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统,发现多个漏洞Redwood Research:Blog · 25 天前