辉禹科技助力社交平台对抗行业乱象

2022-02-17 17:53:31 来源:砍柴网
        【每日科技网】

  近年来,随着Z世代社交习惯的线上化迁移,选择移动社交的用户越来越多,据艾媒咨询数据显示,2022年移动社交的用户规模将会突破10亿,音视频社交软件,如陌陌、探探、soul等已经成为了年轻人生活中必不可少的部分。

  闲暇时间,打开软件刷一刷是当代年轻人解决情感交流和倾诉需求的一种方式,简短的对话和亲切的声音,让他们将信任交给了手机背后的那个人。但是隐藏在手机背后的除了真实的用户,还有伺机而动图谋不轨的灰色产业。

  据统计,全网活跃的音视频社交类应用超2500余款,主流应用市场在架超1200余款,而这些应用中存在色情推广、广告代刷、外部引流和虚假诈骗等违规行为的比例达15.7%。

  正是因为有了这样的不良动机,才导致音视频社交类的企业频频背上相关的负面新闻。也正是由于对不良违法内容洞察力不足,内容治理能力不足,才无法彻底铲除行业中的黑灰产内容。

  而辉禹科技就在不断助力社交类APP打击黑灰产业链,从行业角度来看,合规是所有深耕音视频社交的企业必须践行的部分,唯有加强自身监管,坚决打击不规范内容,才能为用户提供良性,安全的社交环境,让用户不再避讳使用这些平台,真正成为能够满足用户需求的一剂解药。

  智能反黑产模型,人机双审质检调优

  针对社交产品的4类黑产类型,辉禹科技通过全栈式的智能内容识别引擎和实施智能风控引擎加上人工复查相结合来共同治理平台问题。

  在我们的技术下,APP板块下的内容和数据将首先通过全栈式智能内容识别引擎和实时智能风控引擎,筛选出有疑问的内容后再通过人工审核,从而提升对不良内容的洞察力。

  透过辉禹的自研动态学习系统,不断优化机审模型,可以高效过滤复杂、变种信息,全面分析文本情感,结合上下文对各种内容进行批量迅速判定,而集成式多媒体处理系统,可以处理多种格式文件。

  智能反欺诈系统,精准打击“害群之马”

  针对用户的行为,例如“经常发布联系方式引流至非法平台”、“以交换联系方式、见面为由,频繁要求赠送礼物”、“以网络障碍等环境因素转移交流环境,进而引导违规操作”、“虚构平台规则文字或平台图片,骗取礼物”、“索要对方账号,用对方账号进线违规操作”….我们建立了一套风险评分模型,针对其用户特征进行打分,进行精准识别。

  在提取风险账号的行为数据后,例如:登陆设备、账号行为、生命周期等构建风险关系网,进一步校准核对问题,并不断的反馈调优模型,对此类用户进行高度关注,从根源上进行前置处理。

  该模型日均内容及处理可达10W+,账号及处理可达600+,并针对不同风险等级的群体执行定制化的内容安全分层管控策略。

  真人治理团队,用户安全的二道防线

  人工治理分析团队,会对黑产形式、类型、内容进行分析,进而弥补系统漏洞进行相互补位;而质检团队会对黑产内容进行拦截、前端数据进行质检巡查,通过质检及巡查结果,不断完善系统能力。

  针对反黑产的内容审核,不单单是音视频社交行业所独有的需求,现在越来越多的行业需要去维护和处理一些不良内容,有效地区分高风险访问者并持续跟踪各类风险内容,更有利于及时湮灭苗头,将其扼杀在摇篮中,避免更大的损失。

  辉禹科技也在加强自有业务团队技术及团队实力的同时,积极参与北京网络行业协会、上海信息安全行业协会、信息服务业行业协会等行业组织,不断地拓展行业合作资源和服务场景,争取为反黑灰产贡献一份微薄的力量。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

第七届中国人工智能大赛厦门圆满收官,筑牢AI安全底座,推动技术产业融合

2026年11月12日,第七届中国人工智能大赛成果发布会在厦门成功举办。本届大赛由国家互联网信息办公室、公安部指导,厦门市人民政府主办。国家有关部门和厦门市有关领导出席成果发布会并致辞,围绕人工智能产

5天前

AI+制造”的下一程,不再拼谁的模型参数大,而是拼谁能先把场景对上

2027年3月10日至13日,亚洲(天津)人工智能产业链展(AIIE)将在国家会展中心(天津)举办。本次人工智能产业链展将按产业链逻辑分为以下领域——AI+行业应用、AI+工业制造、AI安全、具身智能

5天前

实力再进阶!新华三虚拟化等多项市场份额表现亮眼

近日, 国际数据公司(IDC)发布《2026年上半年中国软件定义计算SDC市场跟踪报告》。数据显示,紫光股份旗下新华三集团在中国虚拟机软件(VMS)市场份额排名跃升至第二位,实现市场地位新突破。同时,

1周前

微珩启元一月内完成两轮融资,浙大博士团队以3D DRAM+近存计算破局AI推理“内存墙”

AI大模型进入规模化推理阶段后,竞争的焦点正在发生变化。除了芯片的算力之外,数据搬运效率、能耗和单位Token成本,也越来越影响推理系统的整体效率。在这样的背景下,一家创业公司——杭州微珩启元科技在一

1周前

海能达 W60 穿戴式 PoC 终端亮相 | 公专协同,打通专网 “最后一百米”

对于使用PDT窄带专网的一线单位而言,通信盲区不仅意味着语音联络不畅,也可能导致人员位置无法实时上图。随着路面视频监控日益完善、警情逐步向室内空间延伸,地下空间、建筑内部等窄带基站难以有效覆盖的区域,

3周前

从一颗模组到一个平台,澜存科技如何让 AI 进入真实终端

近日,上海澜存科技有限公司宣布完成数千万元Pre-A轮股权融资,本轮投资方为锡创投,拓界资本担任独家财务顾问。继2026年4月完成由凡创资本领投、申冉基金跟投的天使轮融资后,澜存在三个月内连续完成两轮

2个月前