北大特训营燃启!解锁大模型全链路技术,开源与职业成长双向奔赴

2025-11-13 09:11:43 来源:中华网
        【每日科技网】

  11月7日,北京大学 鲲鹏昇腾科教创新卓越中心特训营在北京融科资讯中心圆满举办。这场聚焦AI核心技术与开源生态的重磅活动,汇聚了多位昇腾技术专家和研发骨干,以及北京大学学者,以“技术深耕+实战赋能+职业护航”为核心,为AI领域的探索者、实践者与开源贡献者带来一场覆盖大模型训练、推理、算子开发与部署全链路的技术盛宴,更搭建起从技术创新到职业成长的一站式桥梁。

合照.JPG

  开源生态筑基

  CANN为核,链接全球AI技术版图

  作为昇腾开源生态的核心基石,昇腾CANN生态技术专家郭依蓬在开场分享中,全景展现了CANN从基础构建到全面开源开放的演进历程。历经多版本迭代,CANN已汇聚包含330+高性能算子、10+通信算法的外部成果贡献,形成Ascend C编程语言、CATLASS算子模板库、三方编程语言,三位一体的编程体系,通过底层毕昇编译器的能力开放,支持Triton等主流生态无缝对接。截至目前,CANN认证开发者已突破8000人,累计对接PyTorch、TensorFlow、MindSpore等业界主流AI框架,以及魔乐社区、OpenI启智等数十个开源平台,为开发者提供了灵活、开放的异构计算底座。其全量开源的底层接口与工具链,更让伙伴得以自主创新,在算子优化、模型适配等领域实现快速突破。

郭_副本.jpg

  昇腾CANN生态技术专家 郭依蓬

  推理加速突破

  vLLM与SGLang双引擎驱动高性能

  推理性能是大模型落地的关键瓶颈,昇腾推理系统工程师付冰洋与温捷分别带来SGLang与vLLM与两大主流框架的昇腾适配实践。付冰洋聚焦SGLang在昇腾Atlas硬件上的高性能实践,基于昇腾的高带宽特性,通过MLAPO融合算子、aclGraph图模式、W8A8C8量化等优化手段,实现DeepSeekV3 671B模型在16卡环境下QPM达440+。其创新的PD传输优化与Prefix Cache多级缓存机制,进一步降低了长序列推理的时延,为在线推理与强化学习场景提供了高效解决方案。

付_副本_副本.jpg

  昇腾推理系统工程师 付冰洋

  温捷则详解vLLM-Ascend插件化方案。通过Python entry_points机制,实现硬件后端与核心代码解耦,支持独立迭代与快速集成;针对MoE模型,结合EPLB静动态负载均衡技术、 PD分离配比优化、flashcomm通信优化,matmulNZ搬运优化等,大幅提升推理效率。当前vLLM-Ascend已实现Qwen3等模型 0Day支持,昇腾核心开发者跻身vLLM主项目Maintainer,在GitHub社区斩获上千star。

温_副本_副本.jpg

  昇腾推理系统工程师 温捷

  算子开发前沿

  TileLang极简范式释放硬件潜能

  算子开发是AI性能优化的核心,北京大学计算机学院硕士研究生、TileLang Maintainer解文浩与华为TileLang技术专家杨偲婵,带来了新一代算子开发范式的实践分享。解文浩以 DigitalSignatureAlgorithm(DSA)计算为例,演示TileLang开发流程。TileLang已在GitHub开源,提供Ascend C与 AscendNPU IR双代码生成后端,开发者通过简洁API即可实现内存分配、数据搬运与同步控制。其DSA算子开发通过分块处理、多级缓存调度,高效完成注意力分数计算、softmax标准化等流程,大幅降低开发门槛。

解_副本.jpg

  北京大学研究生、TileLang Maintainer 解文浩

  杨偲婵进一步介绍了TileLang与MLIR生态的深度融合,通过统一硬件抽象与多级IR对接,开发者可通过Developer与Expert双模式,灵活控制内存分配、数据搬运与同步调度,实现硬件潜能的极致释放。这种“简约而不简单”的编程范式,大幅降低了复杂融合算子的开发门槛,为开发者创新提供了高效支撑。

杨_副本.jpg

  TileLang技术专家 杨偲婵

  实战与成长

  从集群部署到职业进阶

  北京大学研究生褚苙扬带来北大卓越中心集群实操教程,详解多机多卡多模态模型训练要点。该集群基于昇腾,支持昇思MindSpore全场景AI框架实现数据与张量并行,借助HCCL通信库优化跨节点传输;针对“文本+视觉”双输入特性,褚苙扬演示了 PD分离技术降低显存占用,并分享集群使用教程和大模型训练效果,助力开发者快速上手大规模训练。

褚_副本.jpg

  北京大学研究生 褚苙扬

  昇腾高级技术专家蓝王力从职业发展视角出发,解析AI领域的人才需求与成长路径。他强调,开源贡献、技术实战与跨领域视野是核心竞争力。华为计算凭借全球化研发布局与领先的开源标准组织影响力,为人才提供优质发展土壤,而本次特训营为优秀开发者开通了实习推荐的通道。同时蓝王力介绍了华为“大问题创新机制”,鼓励开发者聚焦大模型训练加速、集群可靠性提升等产业级难题,实现个人成长与技术突破的双向成就。

王-.jpg

  昇腾高级技术专家 蓝王力

  此次特训营不仅让开发者掌握了算子编程与开发等技术,更解锁了开源贡献、实习就业的成长路径。未来,北京大学 鲲鹏昇腾科教创新卓越中心将持续搭建技术交流与人才培养平台,推动AI开源生态繁荣与产业人才成长,为智能世界筑基赋能。鲲鹏昇腾科教创新卓越中心定位为基于鲲鹏昇腾技术路线的校级生态合作平台,它将围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作,为产业输出高质量鲲鹏昇腾人才,孵化和培育根植中国的世界级科研创新成果。

免责声明:本文仅代表作者个人观点,与每日科技网无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
    本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,若因作品内容、知识产权、版权和其他问题,请及时提供相关证明等材料并与我们联系,本网站将在规定时间内给予删除等相关处理.

猜你喜欢

宾利首款纯电车Torcal内饰曝光:手工切割水晶 豪华科技感爆棚

昨日,宾利汽车为即将推出的首款纯电动车型Torcal发布了全新预告视频,首次重点展示内饰设计。外观方面,Torcal采用全新的“悬浮式菱形格栅”,将传统进气格栅重新塑造成极具辨识度的品牌标志,既延续宾

宾利

1天前

HUD取代仪表盘 长安深蓝S05内饰官图发布:极致年轻化

近日,深蓝汽车官方发布全新深蓝S05内饰官图,新车采用悬浮星舰设计,在座舱配色、内饰用料、智能配置、空间布局与储物实用性等方面全面优化,延续纯电与增程双动力选择,为用户带来更精致、更实用的出行座舱体验

鸿蒙智行首款方盒子 享界G9实拍图流出:墨绿配色休旅感十足

鸿蒙智行首款方盒子SUV享界G9更多实拍图流出,此次展示的车型采用了墨绿色车漆,整体低调内敛,但又不失活泼,休旅氛围浓厚。享界G9长宽高为5206(5377)*2050*1897mm,轴距3160mm

小米澎程车内空间视频公布:地方大到能打台球

小米已经正式官宣将于7月30日推出澎程N70、N90系列两款全新SUV,小米创始人雷军在社交平台上发布视频展示澎程车内空间,包括纯平地板、方正格局、超长滑轨,空间大到甚至可以打台球。澎程(SkyNom

小米澎程

1天前

98.8万起!全新莲花EMIRA Scura限量版跑车上市:中国仅9台

莲花正式发布EMIRAScura限量版跑车,官方起售价98.8万元,国内配额仅有9台。新车名称致敬2009年ExigeScura经典车型,以暗黑风格设计传承莲花纯粹的赛道造车理念。莲花EMIRAScu

老款燃油彻底换代!全新红旗H7预售定档:综合续航逼近2000km

据一汽红旗官方消息,全新红旗H7将于8月13日开启预售。该车已于本月开启盲订,在2026年7月7日至10月31日期间,用户支付99元意向金,即可在提车时免费升级价值万元的全场景领航辅助功能。该智驾系统

红旗H7

1天前