Oossa

OpenAI推出免费CSAM识别工具,协助调查人员

OpenAI发布了一款工具,可识别AI生成的儿童性虐待图像、减少误报,并免费提供给经过审核的机构。

作者: Oossa 发布日期: 2 分钟阅读

Clint Patterson · Unsplash

2026年11月16日,OpenAI在华盛顿特区举行的新闻简报会上宣布推出一款针对儿童性虐待材料(CSAM)的新型图像分类器。该公司表示,这套系统既能识别真实的虐待图像,也能识别AI生成的图像,还能减少审核人员需要处理的误报。OpenAI将免费向经过审核的指定非营利组织、执法机构及其他合作伙伴提供这款分类器,并发布面向开发者的指南,介绍如何检测此类内容。

此举正值美国国家失踪与受虐儿童中心(NCMEC)的CyberTipline举报热线被与AI相关的举报量压得不堪重负之际。NCMEC在2025年收到40万份生成式AI相关CSAM举报,高于前一年的6.7万份。官员表示,举报量激增可能令热线的工作量难以应付。北卡罗来纳州总检察长Jeff Jackson称这一增幅“极其惊人”,并警告说,如果没有新工具,该机构可能无法完成使命。

分类器如何运作,以及OpenAI在其他方面的新增措施

OpenAI的分类器会根据图像中此前未见过的视觉特征为每张图像打分,再引导审核人员优先查看最可能涉及虐待的内容。该公司称,在与合作伙伴开展的早期测试中,这款工具标记的图像数量减少了48%,同时查出的虐待图像数量不变;而被标记的图像实际包含虐待内容的可能性是其他图像的两倍。系统还专门设有AI生成CSAM标记。OpenAI称,这是同类功能中的首创。

除了推出分类器,OpenAI还将为ChatGPT更新警示页面,面向请求生成涉及儿童的性化内容的用户。首次违规会导致账户暂停使用24小时,并引导用户获取帮助资源;再次违规则可能导致账户被永久关闭。OpenAI表示,会将检测到的每一例CSAM都报告给NCMEC。

为何此时推出这项工具

政策制定者正推动实施更严格的AI安全规定,已有多个州通过了涉及合成CSAM的法律。OpenAI希望通过免费提供分类器并培训调查人员,减少可能掩盖真实虐待案件的虚假图像泛滥现象,让执法部门更清楚地判断如何迅速采取行动。总检察长们表示,这种做法仍处于试验阶段,但它展现了科技公司与儿童保护官员合作的一种新模式。

为什么重要

对普通人来说,这款分类器有望加快非法内容的清除速度,并降低无害图像被误报的可能性。执法机构也能更准确地判断哪些图像确实需要调查,从而有望保护更多真实受害者。不过,这款工具在现实场景中的效果仍在评估中,而且目前仅向符合OpenAI审核标准的机构提供。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。