OpenAI 推出儿童安全(CSAM)工具组合,分类器 API 免费开放

2026-11-17 09:39:13 来源:
        【每日科技网】
OpenAI 推出儿童安全(CSAM)工具组合,分类器 API 免费开放

  11 月 16 日,OpenAI 推出面向儿童性虐待材料(CSAM)的安全工具组合:可识别已知及 AI 生成新图像、输出风险评分的图像分类器;ChatGPT 警告与对话终止机制;开发者接入指南;执法协作工具。分类器由 OpenAI 与 NCMEC 共同开发,API 向经审核机构免费开放,联合 Tech Coalition、ROOST 扩大使用。早期测试:在发现量大致不变的前提下,被标记图像数量减少 48%,被标记内容为虐待图像的概率约为其他内容的 2 倍。传统哈希匹配只能拦截数据库已有材料,新分类器侧重对未知(新生成)样本的视觉风险排序。NCMEC 数据:自 2023 年追踪生成式 AI 以来已识别超 275 名受害者、超 158,000 张图片和视频;2025 年报告中超 400,000 起剥削报告存在生成式 AI 关联,其中超 182,000 起涉及犯罪者持有、生成或尝试生成相关材料。

  角度定位:安全工具免费开放并联合多方分发,「谁兜底」给出了一份具体的工具清单。

  【技术/工程视角】哈希到不了的地方

  传统哈希匹配只能拦截数据库里已有的材料,对新生成的图像无能为力。新分类器换了一条路:不查库存,输出视觉风险评分,把未知样本排序供人工复核。早期测试里 48% 减量、2 倍命中率,说明精确率提升的同时召回未被牺牲——安全工程里最难拿的平衡。

  【商业/资本视角】免费背后的成本账

  分类器 API 向经审核机构免费,训练与维护成本由 OpenAI 承担。这笔钱买两样东西:平台责任的实际履行,以及监管对话中的位置。Tech Coalition 与 ROOST 的分发网络让工具成为行业默认件,定价问题随之被标准问题替代。

  【用户/社会视角】275 个孩子之后

  NCMEC 自 2023 年追踪生成式 AI 以来,已识别超 275 名受害者、超 15.8 万张图片和视频;2025 年相关剥削报告超 40 万起。数字背后是具体的未成年人与家庭。识别只是链条一环:删除、追诉、受害者支援,每一段都需要人。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

192GB超大内存、小机身跑千亿大模型!磐镭YO2 495迷你工作站图赏

磐镭YO2495迷你工作站正式推出,标配192GBLPDDR5X8533MHz四通道统一内存。它主打本地AI推理、3D创作、视频渲染,把高性能工作站塞进小巧机身里面。现在这款新品已经来到我们评测室,下

争夺3D DRAM主导权 三星下一代DRAM定调4F Square

有观察认为,三星电子已就下一代DRAM的单元结构定下方向,将从现行的6F²(6FSquare)转向4F²(4FSquare)。随着继续缩小半导体线宽的既有微缩方式逼近极限,转而改变DRAM单元本身的排

三星

2个月前

《终结者》“天网”恐成现实 研究:AI存在灭绝人类风险!

科幻电影《终结者》里,拥有自我意识的AI“天网”发起核战争,几乎毁灭人类文明,而如今,多名顶尖AI研究者发出警告:如果超级智能的安全问题无法解决,类似的极端灾难并非完全不可能发生。曾任职OpenAI、

终结者

2个月前

锐龙7 H 255+24GB内存!机械革命无界14S 2026锐龙版首发4699元

机械革命无界14S2026笔记本锐龙版现已开售,搭载锐龙7H255处理器,配备24GB+512GB存储组合,售价4699元(国补后3994.15元)。机身采用银色金属材质,14英寸屏幕机型轻约1.1k

手机史上最快CPU!苹果A20 Pro亮相:2nm工艺+6核心设计

今天凌晨,iPhone18Pro系列如期亮相,包含iPhone18Pro和iPhone18ProMax两款旗舰。该机首发搭载了A20Pro芯片。对比上代A19Pro,A20Pro最大变化之一在于采用了

光库科技2026上半年净利润大增,薄膜铌酸锂调制器加速产业化

AI算力驱动光通讯器件营收破6亿元,泰国基地顺利结项受益于全球AI算力基础设施投资加速与数据中心建设,光库科技2026年上半年业绩实现大幅增长。境外业务表现尤为突出。上半年公司境外收入5.88亿元,同

2个月前