先了解这件事
Reflection 发布博文,公开其开源权重模型 Beam 的安全训练与评估方法,并推出开源安全研究计划 Project Iris。Reflection 称,在 Iris Safety Evaluations 对话任务中,Beam 拒绝 89% 的有害请求,为所测开源权重模型中最高,同时遵守 82% 的安全相关无害请求。
Reflection 还称,将安全对齐教师模型的参数从 100B 增至 501B 后,过度拒绝相对下降 48.7%。上述比例均为 Reflection 自行公布的结果。
AI 根据报道生成 · 11 天前更新最新进展
Reflection 详解开源模型 Beam 的安全训练与评估方法
事件进展1
Reflection发布Beam模型安全训练与评估技术报告
Reflection Blog:Reflection 详解开源模型 Beam 的安全训练与评估方法