热点榜
热点事件已平息

Anthropic向METR六名评估员开放员工级访问

7 篇报道7 个报道来源29 天前更新

先了解这件事

Anthropic 已让非营利评估机构 METR 的六名研究人员以近似员工的权限入驻公司,包括公司配发的硬件、办公空间,以及与 Anthropic 内部风险评估团队大致相当的内部系统和工具访问,用于独立评估其模型、安全实践和风险管理。除客户数据、律师-客户特权信息和模型架构等预先定义的类别外,Anthropic 鼓励员工像对待从事对齐风险工作的同事一样与 METR 共享信息。

METR 将公开发布评估结论,Anthropic 称无权否决发布,但可要求删减落入上述类别的信息;据 Rohan Paul 和 The Decoder 转述,METR 可公开质疑删改是否合理。Ars Technica 报道称,Anthropic 未为此向 METR 付费,METR 也不接受 AI 公司捐款。

Anthropic 还表示已承诺接受外部机构对其安全实践的评估,并正与多个组织洽谈类似合作,其他洽谈对象及权限范围尚未公布。

AI 根据报道生成 · 29 天前更新

最新进展

Anthropic 向 METR 开放类员工访问权限以评估模型风险

事件进展1

  1. Anthropic向METR团队开放类员工访问权限

    Anthropic:Newsroom:Anthropic 公布独立评估机制细节,METR 团队获类员工访问权限

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。