华为云全球率先引入GPU加速型容器,助AI算力高效运转

2023-03-02 15:33:35 来源:每日科技网
        【每日科技网】

  日前,华为云·云容器实例(CCI)全球基于K8S的serverless GPU加速型容器实例。这是继华为云在全球基于K8S的容器实例后,为容器实例服务提供更丰富的计算选择,给关注AI、视频处理等高性能计算的企业和开发者带来更多的玩法。

  AI算力需求迎来爆发式增长 以AI场景为例,OpenAI发布研究报告,透露2012年到2018年6年间单次AI训练的计算量增加30万倍,这意味着训练计算量每3.5个月翻倍,是摩尔定律的5倍。同时,AI正在向各行各业普及,因此AI算力的需求会出现爆炸式增长。公有云因为低成本的硬件、无需关注基础设施、0交付周期的优势,是客户在有AI算力需求时是更好的选择。

  随着容器技术逐渐被各个领域开发者接受,大家发现容器技术可以提供标准化的容器打包,解决AI场景中不同工具对环境的依赖。用户在搭建深度学习训练环境,需要准备带GPU的机器,安装python,tensorflow,GPU驱动等,如果要从开发环境到测试环境,再从测试环境到生成环境,涉及环境迁移过程中如何保证环境的一致性。然而容器带来的标准化打包能力可以提供了的解决方案,可以极大降低AI平台的复杂度,做到多训练框架并存、大幅简化生产环境部署。

  目前K8S已经成为业界最主流的容器管理平台,它提供灵活的编排调度系统,可以满足大规模、高并发的AI分布式训练,大幅提高训练速度。因此,公有云GPU容器实例对AI用户的吸引力越来越高。

  华为云·GPU加速型云容器实例

  华为云·云容器实例本次发布的GPU加速型容器实例本质是在Serverless K8S的基础上提供GPU算力,这两个技术的结合给AI、基因、视频处理等场景带来不一样的体验。

  免运维。相比传统租用云服务器、甚至自建IDC,GPU加速型容器实例无需客户维护集群、考虑集群的升级、社区bug修复、集群资源利用率等问题,直接购买和管理GPU容器实例。同时,CCI提供了可视化的pod CPU/MEM/GPU监控功能,可以实时监控处理过程,极大的简化运维成本。

  高性能。华为云GPU加速型云容器实例支持秒级伸缩和高并发,kata容器启动速度实测600ms,集群规模高达上十万容器实例,让客户快速利用GPU实例实现分布式计算。例如,华为云EI使用该GPU容器实例,在斯坦福大学DAWNBench测试中取得前两名的好成绩,并达到0.8+的GPU线性加速比。

  低成本。很多高性能计算时长非常灵活,以AI训练为例,很多场景下,客户需要快速、多次计算进行迭代。华为云GPU加速型云容器实例提供按需按秒计费,让客户真正按业务计算市场进行消费,避免包年包月带来的高成本。

  华为云·GPU加速型云容器实例在Serverless K8S上展现了免运维、高性能、低成本算力的优势,逐步成为解决AI场景中各种环境问题的利器。未来也将在AI、基因、视频处理等行业,为高性能计算的企业和开发者提供更加高效,安全、低成本的公有云服务。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

第七届中国人工智能大赛厦门圆满收官,筑牢AI安全底座,推动技术产业融合

2026年11月12日,第七届中国人工智能大赛成果发布会在厦门成功举办。本届大赛由国家互联网信息办公室、公安部指导,厦门市人民政府主办。国家有关部门和厦门市有关领导出席成果发布会并致辞,围绕人工智能产

5天前

AI+制造”的下一程,不再拼谁的模型参数大,而是拼谁能先把场景对上

2027年3月10日至13日,亚洲(天津)人工智能产业链展(AIIE)将在国家会展中心(天津)举办。本次人工智能产业链展将按产业链逻辑分为以下领域——AI+行业应用、AI+工业制造、AI安全、具身智能

5天前

实力再进阶!新华三虚拟化等多项市场份额表现亮眼

近日, 国际数据公司(IDC)发布《2026年上半年中国软件定义计算SDC市场跟踪报告》。数据显示,紫光股份旗下新华三集团在中国虚拟机软件(VMS)市场份额排名跃升至第二位,实现市场地位新突破。同时,

1周前

微珩启元一月内完成两轮融资,浙大博士团队以3D DRAM+近存计算破局AI推理“内存墙”

AI大模型进入规模化推理阶段后,竞争的焦点正在发生变化。除了芯片的算力之外,数据搬运效率、能耗和单位Token成本,也越来越影响推理系统的整体效率。在这样的背景下,一家创业公司——杭州微珩启元科技在一

1周前

海能达 W60 穿戴式 PoC 终端亮相 | 公专协同,打通专网 “最后一百米”

对于使用PDT窄带专网的一线单位而言,通信盲区不仅意味着语音联络不畅,也可能导致人员位置无法实时上图。随着路面视频监控日益完善、警情逐步向室内空间延伸,地下空间、建筑内部等窄带基站难以有效覆盖的区域,

3周前

从一颗模组到一个平台,澜存科技如何让 AI 进入真实终端

近日,上海澜存科技有限公司宣布完成数千万元Pre-A轮股权融资,本轮投资方为锡创投,拓界资本担任独家财务顾问。继2026年4月完成由凡创资本领投、申冉基金跟投的天使轮融资后,澜存在三个月内连续完成两轮

2个月前