OpenAI 发布 CSAM 图像分类器模型卡
OpenAI CSAM Image Classifier Model Card
AI 导读OpenAI 公布 CSAM 图像分类器模型卡,该分类器用受访问控制、人工标注的图像数据集训练和评估,数据存储与处理均在受控环境中进行。同一阈值下,在线评估集的精确率明显低于离线留出集,原因是留出集中 CSAM 占比远高于在线评估集,CSAM 稀少时少量误报即可超过真实检出数。OpenAI 用此前在线评估中经审核的样本多轮迭代改进已识别错误类型,每轮也暴露出新的误报模式。
来源:OpenAI:部署安全与系统卡 · deploymentsafety.openai.com
事件后续1
查看事件全部- OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预OpenAI:官网动态 · 20 小时前