先了解这件事
OpenAI 发布一款可识别儿童性虐待材料(CSAM,含 AI 生成图像)的图像分类器,通过 API 向经审核的组织免费开放,申请需通过机构授权和项目要求审核。OpenAI 称该工具与 National Center for Missing & Exploited Children 合作开发,并与 Tech Coalition、ROOST 合作扩大可用范围。
OpenAI 称测试中该分类器将需人工复审的图像减少 48%;TechCrunch 报道称,早期测试中它在识别同样数量违规图片的情况下少标记 48% 的图片,被标记图片中违规比例翻倍。OpenAI 同期公布的模型卡称,同一阈值下在线评估集精确率明显低于离线留出集,原因是留出集中 CSAM 占比远高于在线评估集,CSAM 稀少时少量误报即可超过真实检出数。
OpenAI 还称已在 ChatGPT 中加入警告,用户尝试查找涉儿童性剥削内容时会被打断并暂停访问 24 小时,同时发布面向开发者的 CSAM 治理指南并支持儿童安全调查人员。上述工具效果与合作安排均为 OpenAI 的说法。
AI 根据报道生成 · 11 小时前更新最新进展
OpenAI 推出 CSAM 检测工具,误标记图像减少 48%
热度走势
事件进展2
OpenAI发布免费CSAM检测工具及安全措施
OpenAI:官网动态:OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预OpenAI发布CSAM图像分类器模型卡
OpenAI:部署安全与系统卡:OpenAI 发布 CSAM 图像分类器模型卡