热点榜
热点事件持续更新

OpenAI免费开放CSAM检测分类器

6 篇报道6 个报道来源11 小时前更新

先了解这件事

OpenAI 发布一款可识别儿童性虐待材料(CSAM,含 AI 生成图像)的图像分类器,通过 API 向经审核的组织免费开放,申请需通过机构授权和项目要求审核。OpenAI 称该工具与 National Center for Missing & Exploited Children 合作开发,并与 Tech Coalition、ROOST 合作扩大可用范围。

OpenAI 称测试中该分类器将需人工复审的图像减少 48%;TechCrunch 报道称,早期测试中它在识别同样数量违规图片的情况下少标记 48% 的图片,被标记图片中违规比例翻倍。OpenAI 同期公布的模型卡称,同一阈值下在线评估集精确率明显低于离线留出集,原因是留出集中 CSAM 占比远高于在线评估集,CSAM 稀少时少量误报即可超过真实检出数。

OpenAI 还称已在 ChatGPT 中加入警告,用户尝试查找涉儿童性剥削内容时会被打断并暂停访问 24 小时,同时发布面向开发者的 CSAM 治理指南并支持儿童安全调查人员。上述工具效果与合作安排均为 OpenAI 的说法。

AI 根据报道生成 · 11 小时前更新

最新进展

OpenAI 推出 CSAM 检测工具,误标记图像减少 48%

热度走势

事件进展2

  1. OpenAI发布免费CSAM检测工具及安全措施

    OpenAI:官网动态:OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预
  2. OpenAI发布CSAM图像分类器模型卡

    OpenAI:部署安全与系统卡:OpenAI 发布 CSAM 图像分类器模型卡

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。