OpenAI 发布 CSAM 图像分类器并新增 ChatGPT 警告与封禁机制
OpenAI releases a new image classifier and ChatGPT warnings to combat CSAM
AI 导读OpenAI 发布打击儿童性虐待材料(CSAM)的新工具,包括可检测 AI 生成图片的图像分类器,通过与 NCMEC 合作开发,并免费向部分企业开放 API。早期测试中该分类器在识别同样数量违规图片的情况下少标记 48% 的图片,被标记图片中违规比例翻倍。
另有 4 家信源报道
- OpenAI 推出 CSAM 检测工具,误标记图像减少 48%IT之家·人工智能 · 11 小时前
- OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容The Verge:AI · 17 小时前
- OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预OpenAI:官网动态 · 19 小时前
- OpenAI 发布免费检测工具,可识别包括 AI 生成图像在内的儿童性虐待材料OpenAI Newsroom · 20 小时前
来源:TechCrunch:AI · techcrunch.com
事件后续1
查看事件全部- OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预OpenAI:官网动态 · 19 小时前