OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预
Strengthening the fight against online child sexual abuse with new tools and support
AI 导读OpenAI 发布可检测 CSAM(含 AI 生成内容)的图像分类器,通过 API 向审核机构免费开放,测试显示可将需复审图像减少 48%,fal 实测 72% 高置信标记确认为新型 CSAM。同时 ChatGPT 上线新警告,在用户尝试查找涉儿童性剥削内容时打断并暂停访问 24 小时,还发布了面向开发者的 CSAM 治理指南和执法调查支持工具。
另有 4 家信源报道
- OpenAI 推出 CSAM 检测工具,误标记图像减少 48%IT之家·人工智能 · 11 小时前
- OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容The Verge:AI · 17 小时前
- OpenAI 发布 CSAM 图像分类器并新增 ChatGPT 警告与封禁机制TechCrunch:AI · 19 小时前
- OpenAI 发布免费检测工具,可识别包括 AI 生成图像在内的儿童性虐待材料OpenAI Newsroom · 20 小时前
来源:OpenAI:官网动态 · openai.com
事件后续1
查看事件全部- OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预OpenAI:官网动态 · 19 小时前