北大特训营燃启!解锁大模型全链路技术,开源与职业成长双向奔赴

2025-11-13 09:11:43 来源:中华网
        【每日科技网】

  11月7日,北京大学 鲲鹏昇腾科教创新卓越中心特训营在北京融科资讯中心圆满举办。这场聚焦AI核心技术与开源生态的重磅活动,汇聚了多位昇腾技术专家和研发骨干,以及北京大学学者,以“技术深耕+实战赋能+职业护航”为核心,为AI领域的探索者、实践者与开源贡献者带来一场覆盖大模型训练、推理、算子开发与部署全链路的技术盛宴,更搭建起从技术创新到职业成长的一站式桥梁。

合照.JPG

  开源生态筑基

  CANN为核,链接全球AI技术版图

  作为昇腾开源生态的核心基石,昇腾CANN生态技术专家郭依蓬在开场分享中,全景展现了CANN从基础构建到全面开源开放的演进历程。历经多版本迭代,CANN已汇聚包含330+高性能算子、10+通信算法的外部成果贡献,形成Ascend C编程语言、CATLASS算子模板库、三方编程语言,三位一体的编程体系,通过底层毕昇编译器的能力开放,支持Triton等主流生态无缝对接。截至目前,CANN认证开发者已突破8000人,累计对接PyTorch、TensorFlow、MindSpore等业界主流AI框架,以及魔乐社区、OpenI启智等数十个开源平台,为开发者提供了灵活、开放的异构计算底座。其全量开源的底层接口与工具链,更让伙伴得以自主创新,在算子优化、模型适配等领域实现快速突破。

郭_副本.jpg

  昇腾CANN生态技术专家 郭依蓬

  推理加速突破

  vLLM与SGLang双引擎驱动高性能

  推理性能是大模型落地的关键瓶颈,昇腾推理系统工程师付冰洋与温捷分别带来SGLang与vLLM与两大主流框架的昇腾适配实践。付冰洋聚焦SGLang在昇腾Atlas硬件上的高性能实践,基于昇腾的高带宽特性,通过MLAPO融合算子、aclGraph图模式、W8A8C8量化等优化手段,实现DeepSeekV3 671B模型在16卡环境下QPM达440+。其创新的PD传输优化与Prefix Cache多级缓存机制,进一步降低了长序列推理的时延,为在线推理与强化学习场景提供了高效解决方案。

付_副本_副本.jpg

  昇腾推理系统工程师 付冰洋

  温捷则详解vLLM-Ascend插件化方案。通过Python entry_points机制,实现硬件后端与核心代码解耦,支持独立迭代与快速集成;针对MoE模型,结合EPLB静动态负载均衡技术、 PD分离配比优化、flashcomm通信优化,matmulNZ搬运优化等,大幅提升推理效率。当前vLLM-Ascend已实现Qwen3等模型 0Day支持,昇腾核心开发者跻身vLLM主项目Maintainer,在GitHub社区斩获上千star。

温_副本_副本.jpg

  昇腾推理系统工程师 温捷

  算子开发前沿

  TileLang极简范式释放硬件潜能

  算子开发是AI性能优化的核心,北京大学计算机学院硕士研究生、TileLang Maintainer解文浩与华为TileLang技术专家杨偲婵,带来了新一代算子开发范式的实践分享。解文浩以 DigitalSignatureAlgorithm(DSA)计算为例,演示TileLang开发流程。TileLang已在GitHub开源,提供Ascend C与 AscendNPU IR双代码生成后端,开发者通过简洁API即可实现内存分配、数据搬运与同步控制。其DSA算子开发通过分块处理、多级缓存调度,高效完成注意力分数计算、softmax标准化等流程,大幅降低开发门槛。

解_副本.jpg

  北京大学研究生、TileLang Maintainer 解文浩

  杨偲婵进一步介绍了TileLang与MLIR生态的深度融合,通过统一硬件抽象与多级IR对接,开发者可通过Developer与Expert双模式,灵活控制内存分配、数据搬运与同步调度,实现硬件潜能的极致释放。这种“简约而不简单”的编程范式,大幅降低了复杂融合算子的开发门槛,为开发者创新提供了高效支撑。

杨_副本.jpg

  TileLang技术专家 杨偲婵

  实战与成长

  从集群部署到职业进阶

  北京大学研究生褚苙扬带来北大卓越中心集群实操教程,详解多机多卡多模态模型训练要点。该集群基于昇腾,支持昇思MindSpore全场景AI框架实现数据与张量并行,借助HCCL通信库优化跨节点传输;针对“文本+视觉”双输入特性,褚苙扬演示了 PD分离技术降低显存占用,并分享集群使用教程和大模型训练效果,助力开发者快速上手大规模训练。

褚_副本.jpg

  北京大学研究生 褚苙扬

  昇腾高级技术专家蓝王力从职业发展视角出发,解析AI领域的人才需求与成长路径。他强调,开源贡献、技术实战与跨领域视野是核心竞争力。华为计算凭借全球化研发布局与领先的开源标准组织影响力,为人才提供优质发展土壤,而本次特训营为优秀开发者开通了实习推荐的通道。同时蓝王力介绍了华为“大问题创新机制”,鼓励开发者聚焦大模型训练加速、集群可靠性提升等产业级难题,实现个人成长与技术突破的双向成就。

王-.jpg

  昇腾高级技术专家 蓝王力

  此次特训营不仅让开发者掌握了算子编程与开发等技术,更解锁了开源贡献、实习就业的成长路径。未来,北京大学 鲲鹏昇腾科教创新卓越中心将持续搭建技术交流与人才培养平台,推动AI开源生态繁荣与产业人才成长,为智能世界筑基赋能。鲲鹏昇腾科教创新卓越中心定位为基于鲲鹏昇腾技术路线的校级生态合作平台,它将围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作,为产业输出高质量鲲鹏昇腾人才,孵化和培育根植中国的世界级科研创新成果。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

第七届中国人工智能大赛厦门圆满收官,筑牢AI安全底座,推动技术产业融合

2026年11月12日,第七届中国人工智能大赛成果发布会在厦门成功举办。本届大赛由国家互联网信息办公室、公安部指导,厦门市人民政府主办。国家有关部门和厦门市有关领导出席成果发布会并致辞,围绕人工智能产

5天前

AI+制造”的下一程,不再拼谁的模型参数大,而是拼谁能先把场景对上

2027年3月10日至13日,亚洲(天津)人工智能产业链展(AIIE)将在国家会展中心(天津)举办。本次人工智能产业链展将按产业链逻辑分为以下领域——AI+行业应用、AI+工业制造、AI安全、具身智能

5天前

实力再进阶!新华三虚拟化等多项市场份额表现亮眼

近日, 国际数据公司(IDC)发布《2026年上半年中国软件定义计算SDC市场跟踪报告》。数据显示,紫光股份旗下新华三集团在中国虚拟机软件(VMS)市场份额排名跃升至第二位,实现市场地位新突破。同时,

1周前

微珩启元一月内完成两轮融资,浙大博士团队以3D DRAM+近存计算破局AI推理“内存墙”

AI大模型进入规模化推理阶段后,竞争的焦点正在发生变化。除了芯片的算力之外,数据搬运效率、能耗和单位Token成本,也越来越影响推理系统的整体效率。在这样的背景下,一家创业公司——杭州微珩启元科技在一

1周前

海能达 W60 穿戴式 PoC 终端亮相 | 公专协同,打通专网 “最后一百米”

对于使用PDT窄带专网的一线单位而言,通信盲区不仅意味着语音联络不畅,也可能导致人员位置无法实时上图。随着路面视频监控日益完善、警情逐步向室内空间延伸,地下空间、建筑内部等窄带基站难以有效覆盖的区域,

3周前

从一颗模组到一个平台,澜存科技如何让 AI 进入真实终端

近日,上海澜存科技有限公司宣布完成数千万元Pre-A轮股权融资,本轮投资方为锡创投,拓界资本担任独家财务顾问。继2026年4月完成由凡创资本领投、申冉基金跟投的天使轮融资后,澜存在三个月内连续完成两轮

2个月前