北大特训营燃启!解锁大模型全链路技术,开源与职业成长双向奔赴

2025-11-12 20:55:50     来源:

11月7日,北京大学 鲲鹏昇腾科教创新卓越中心特训营在北京融科资讯中心圆满举办。这场聚焦AI核心技术与开源生态的重磅活动,汇聚了多位昇腾技术专家和研发骨干,以及北京大学学者,以“技术深耕+实战赋能+职业护航”为核心,为AI领域的探索者、实践者与开源贡献者带来一场覆盖大模型训练、推理、算子开发与部署全链路的技术盛宴,更搭建起从技术创新到职业成长的一站式桥梁。

合照.JPG

开源生态筑基

CANN为核,链接全球AI技术版图

作为昇腾开源生态的核心基石,昇腾CANN生态技术专家郭依蓬在开场分享中,全景展现了CANN从基础构建到全面开源开放的演进历程。历经多版本迭代,CANN已汇聚包含330+高能算子、10+通信算法的外部成果贡献,形成Ascend C编程语言、CATLASS算子模板库、三方编程语言,三位一体的编程体系,通过底层毕昇编译器的能力开放,支持Triton等主流生态无缝对接。截至目前,CANN认证开发者已突破8000人,累计对接PyTorch、TensorFlow、MindSpore等业界主流AI框架,以及魔乐社区、OpenI启智等数十个开源,为开发者提供了灵活、开放的异构计算底座。其全量开源的底层接口与工具链,更让伙伴得以自主创新,在算子优化、模型适配等领域实现快速突破。

郭_副本.jpg

昇腾CANN生态技术专家 郭依蓬

推理加速突破

vLLM与SGLang双引擎驱动高

推理能是大模型落地的关键瓶颈,昇腾推理系统工程师付冰洋与温捷分别带来SGLang与vLLM与两大主流框架的昇腾适配实践。付冰洋聚焦SGLang在昇腾Atlas硬件上的高能实践,基于昇腾的高带宽特,通过MLAPO融合算子、aclGraph图模式、W8A8C8量化等优化手段,实现DeepSeekV3 671B模型在16卡环境下QPM达440+。其创新的PD传输优化与Prefix Cache多级缓存机制,进一步降低了长序列推理的时延,为在线推理与强化学场景提供了高效解决方案。

付_副本_副本.jpg

昇腾推理系统工程师 付冰洋

温捷则详解vLLM-Ascend插件化方案。通过Python entry_points机制,实现硬件后端与核心代码解耦,支持独立迭代与快速集成;针对MoE模型,结合EPLB静动态负载均衡技术、 PD分离配比优化、flashcomm通信优化,matmulNZ搬运优化等,大幅提升推理效率。当前vLLM-Ascend已实现Qwen3等模型 0Day支持,昇腾核心开发者跻身vLLM主项目Maintainer,在GitHub社区斩获上千star。

温_副本_副本.jpg

昇腾推理系统工程师 温捷

算子开发前沿

TileLang极简范式释放硬件潜能

算子开发是AI能优化的核心,北京大学计算机学院硕士研究生、TileLang Maintainer解文浩与华为TileLang技术专家杨偲婵,带来了新一代算子开发范式的实践分享。解文浩以 DigitalSignatureAlgorithm(DSA)计算为例,演示TileLang开发流程。TileLang已在GitHub开源,提供Ascend C与 AscendNPU IR双代码生成后端,开发者通过简洁API即可实现内存分配、数据搬运与同步控制。其DSA算子开发通过分块处理、多级缓存调度,高效完成注意力分数计算、softmax标准化等流程,大幅降低开发门槛。

解_副本.jpg

北京大学研究生、TileLang Maintainer 解文浩

杨偲婵进一步介绍了TileLang与MLIR生态的深度融合,通过统一硬件抽象与多级IR对接,开发者可通过Developer与Expert双模式,灵活控制内存分配、数据搬运与同步调度,实现硬件潜能的极致释放。这种“简约而不简单”的编程范式,大幅降低了复杂融合算子的开发门槛,为开发者创新提供了高效支撑。

杨_副本.jpg

TileLang技术专家 杨偲婵

实战与成长

从集群部署到职业进阶

北京大学研究生褚苙扬带来北大卓越中心集群实操教程,详解多机多卡多模态模型训练要点。该集群基于昇腾,支持昇思MindSpore全场景AI框架实现数据与张量并行,借助HCCL通信库优化跨节点传输;针对“文本+视觉”双输入特,褚苙扬演示了 PD分离技术降低显存占用,并分享集群使用教程和大模型训练效果,助力开发者快速上手大规模训练。

褚_副本.jpg

北京大学研究生 褚苙扬

昇腾高级技术专家蓝王力从职业发展视角出发,解析AI领域的人才需求与成长路径。他强调,开源贡献、技术实战与跨领域视野是核心竞争力。华为计算凭借全球化研发布局与领先的开源标准组织影响力,为人才提供优质发展土壤,而本次特训营为优秀开发者开通了实推荐的通道。同时蓝王力介绍了华为“大问题创新机制”,鼓励开发者聚焦大模型训练加速、集群可靠提升等产业级难题,实现个人成长与技术突破的双向成就。

王-.jpg

昇腾高级技术专家 蓝王力

此次特训营不仅让开发者掌握了算子编程与开发等技术,更解锁了开源贡献、实就业的成长路径。未来,北京大学 鲲鹏昇腾科教创新卓越中心将持续搭建技术交流与人才培养,推动AI开源生态繁荣与产业人才成长,为智能世界筑基赋能。鲲鹏昇腾科教创新卓越中心定位为基于鲲鹏昇腾技术路线的校级生态合作,它将围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作,为产业输出高质量鲲鹏昇腾人才,孵化和培育根植中国的世界级科研创新成果。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。

标签:

猜你喜欢

擎朗智能发布清洁机器人C55,全场景清洁机器人亮相ISSA北美展
乐事无限携手小黄人引爆醇香难挡,以“分享”重塑社交零食新场景
上航五星机长|40年航程,五星荣耀
伊利金领冠×京东首发“珍护源初”:重塑高端奶粉格局
长江生命科技在癌症免疫疗法学会(SITC)2025 年会展示抑制肿瘤生长研发成果
黄山市成功举办全国首次《软式棒垒球教程》教师培训推动校园体育创新发展
快手星芒短剧《浮生拍卖行》出圈,京东双11期间深挖品牌营销金矿
抢占双11营销先机,快手星芒短剧《偏宠小疯妻》助力京东品效双收
iQOO新机首发撬动双11爆发,超级新品日首销单品GMV破1500万
脉脉报告:职场新人想要更大空间与授权,字节跳动成跳槽首选
OSPREY深圳壹方城店11月14日启幕,邀你对话自然
“创智古美・侨启未来”2025青年双创大赛决赛圆满落幕,15支团队竞逐殊荣,港澳之家揭牌赋能长远发展
向低碳绿色而行 | 维信诺五家工厂获颁ISO 14064温室气体核查声明
国药药材实业“养元食堂”栏目启动,践行健康中国理念
秋夜音浪再起!华为音乐校园音乐节首进西南燃爆四川大学
白金闪耀,绘腕间月辉 西铁城ATTESA系列再结晶钛新色工艺
超凡守护 滋养未来:金领冠50°超凡守护公益行动走进广西省大新县
古法今颜 滋养新生|东阿阿胶非遗熬胶体验活动登陆深圳天虹
AI场景落地进入深水区,行业从“通用”向“细分”加速突破
超4200家京东3C数码门店11.11激活线下消费活力,整体成交额翻倍
从背着帐篷跑营地 到创立“野茫茫”品牌——中信百信银行陪伴每一位创业者逐梦前行
华为中国行2025·广西人工智能峰会 成功举办
全运会巴赫走访广州,聚焦体育与艺术融合
一站式服务受青睐!京东汽车11.11全品类增长再创新高
安博会焦点:后为科技双拼接款监控的华丽亮相,重塑监控视野
平安融易浙江分公司:以科技赋能普惠金融 助力实体经济高质量发展
聚焦2025年正畸年会!恐龙医生“生物活性硅技术”荣获学界权威认可
在古典与未来之间缝合:肖祤畅的工艺哲学与时代回响
被清华系+央企银行SPAC所青睐的图达通终于要上市了!
数字浙江品牌深入泰国市场