
11 月 16 日,OpenAI 推出面向儿童性虐待材料(CSAM)的安全工具组合:可识别已知及 AI 生成新图像、输出风险评分的图像分类器;ChatGPT 警告与对话终止机制;开发者接入指南;执法协作工具。分类器由 OpenAI 与 NCMEC 共同开发,API 向经审核机构免费开放,联合 Tech Coalition、ROOST 扩大使用。早期测试:在发现量大致不变的前提下,被标记图像数量减少 48%,被标记内容为虐待图像的概率约为其他内容的 2 倍。传统哈希匹配只能拦截数据库已有材料,新分类器侧重对未知(新生成)样本的视觉风险排序。NCMEC 数据:自 2023 年追踪生成式 AI 以来已识别超 275 名受害者、超 158,000 张图片和视频;2025 年报告中超 400,000 起剥削报告存在生成式 AI 关联,其中超 182,000 起涉及犯罪者持有、生成或尝试生成相关材料。
角度定位:安全工具免费开放并联合多方分发,「谁兜底」给出了一份具体的工具清单。
【技术/工程视角】哈希到不了的地方
传统哈希匹配只能拦截数据库里已有的材料,对新生成的图像无能为力。新分类器换了一条路:不查库存,输出视觉风险评分,把未知样本排序供人工复核。早期测试里 48% 减量、2 倍命中率,说明精确率提升的同时召回未被牺牲——安全工程里最难拿的平衡。
【商业/资本视角】免费背后的成本账
分类器 API 向经审核机构免费,训练与维护成本由 OpenAI 承担。这笔钱买两样东西:平台责任的实际履行,以及监管对话中的位置。Tech Coalition 与 ROOST 的分发网络让工具成为行业默认件,定价问题随之被标准问题替代。
【用户/社会视角】275 个孩子之后
NCMEC 自 2023 年追踪生成式 AI 以来,已识别超 275 名受害者、超 15.8 万张图片和视频;2025 年相关剥削报告超 40 万起。数字背后是具体的未成年人与家庭。识别只是链条一环:删除、追诉、受害者支援,每一段都需要人。
免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.


