热点榜
热点事件已平息

Reflection开源Beam模型安全训练与评估方法

1 篇报道1 个报道来源11 天前更新

先了解这件事

Reflection 发布博文,公开其开源权重模型 Beam 的安全训练与评估方法,并推出开源安全研究计划 Project Iris。Reflection 称,在 Iris Safety Evaluations 对话任务中,Beam 拒绝 89% 的有害请求,为所测开源权重模型中最高,同时遵守 82% 的安全相关无害请求。

Reflection 还称,将安全对齐教师模型的参数从 100B 增至 501B 后,过度拒绝相对下降 48.7%。上述比例均为 Reflection 自行公布的结果。

AI 根据报道生成 · 11 天前更新

最新进展

Reflection 详解开源模型 Beam 的安全训练与评估方法

事件进展1

  1. Reflection发布Beam模型安全训练与评估技术报告

    Reflection Blog:Reflection 详解开源模型 Beam 的安全训练与评估方法

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。