OpenAI 推出 CSAM 分类器,帮儿童虐待举报热线过滤 AI 深度伪造内容
OpenAI wants to stop deepfakes from overwhelming child abuse tiplines
AI 导读OpenAI 发布一款可识别儿童性虐待材料(CSAM)的分类器,并能标记内容是否由 AI 生成,称其误报减少 48%,识别出的图像含虐待材料的概率翻倍。该工具免费向通过审核的机构开放,是首个带 AI 生成标记的广泛可用 CSAM 分类器。ChatGPT 图像生成器对试图生成此类内容的用户将触发 24 小时访问暂停并提示可能永久封号。
另有 4 家信源报道
- OpenAI 推出 CSAM 检测工具,误标记图像减少 48%IT之家·人工智能 · 12 小时前
- OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预OpenAI:官网动态 · 20 小时前
- OpenAI 发布 CSAM 图像分类器并新增 ChatGPT 警告与封禁机制TechCrunch:AI · 20 小时前
- OpenAI 发布免费检测工具,可识别包括 AI 生成图像在内的儿童性虐待材料OpenAI Newsroom · 21 小时前
来源:The Verge:AI · theverge.com
事件后续1
查看事件全部- OpenAI 发布免费 CSAM 检测图像分类器并升级 ChatGPT 儿童安全干预OpenAI:官网动态 · 20 小时前