热点榜
热点事件已平息

Ai2发布FairStress公平性基准

2 篇报道2 个报道来源27 天前更新

先了解这件事

Ai2 发布 FairStress 基准,用 300 个两候选决策场景和对抗性前缀扩展出超过 1300 万个测试用例,测量大语言模型在影响人的决策中的群体公平性。Ai2 称,模型在身份显式时出现反刻板过度纠正:向少数群体编码候选者的切换比向多数群体多 8.8 至 42.4 个百分点,解释措辞也随群体不同而变化。

Hugging Face 社区博客的评测则称,身份信息显式时模型更易放弃支持少数群体编码候选人的正确决策,平均放弃差距为 6.9(隐含身份)至 9.3 个百分点(显式标签)。基准已开放下载并集成到 Olmo-eval;测试的九种去偏方法中,仅反事实链式推理在保留准确率的同时缩小差距。

AI 根据报道生成 · 8 天前更新

最新进展

Ai2 发布 FairStress 基准,测出 LLM 决策中的反刻板印象过度纠正

事件进展1

  1. Ai2发布FairStress公平性基准

    Ai2 / Allen Institute for AI:Ai2 发布 FairStress 基准,测出 LLM 决策中被隐藏的群体不对称

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。