11月7日,北京大學 鲲鵬昇騰科教創新卓越中心特訓營在北京融科資訊中心圓滿舉辦。這場聚焦AI核心技術與開源生态的重磅活動,彙聚了多位昇騰技術專家和研發骨幹,以及北京大學學者,以“技術深耕+實戰賦能+職業護航”為核心,為AI領域的探索者、實踐者與開源貢獻者帶來一場覆蓋大模型訓練、推理、算子開發與部署全鍊路的技術盛宴,更搭建起從技術創新到職業成長的一站式橋梁。

開源生态築基
CANN為核,鍊接全球AI技術版圖
作為昇騰開源生态的核心基石,昇騰CANN生态技術專家郭依蓬在開場分享中,全景展現了CANN從基礎構建到全面開源開放的演進曆程。曆經多版本疊代,CANN已彙聚包含330+高性能算子、10+通信算法的外部成果貢獻,形成Ascend C編程語言、CATLASS算子模闆庫、三方編程語言,三位一體的編程體系,通過底層畢昇編譯器的能力開放,支持Triton等主流生态無縫對接。截至目前,CANN認證開發者已突破8000人,累計對接PyTorch、TensorFlow、MindSpore等業界主流AI框架,以及魔樂社區、OpenI啟智等數十個開源平台,為開發者提供了靈活、開放的異構計算底座。其全量開源的底層接口與工具鍊,更讓夥伴得以自主創新,在算子優化、模型适配等領域實現快速突破。

昇騰CANN生态技術專家 郭依蓬
推理加速突破
vLLM與SGLang雙引擎驅動高性能
推理性能是大模型落地的關鍵瓶頸,昇騰推理系統工程師付冰洋與溫捷分别帶來SGLang與vLLM與兩大主流框架的昇騰适配實踐。付冰洋聚焦SGLang在昇騰Atlas硬件上的高性能實踐,基于昇騰的高帶寬特性,通過MLAPO融合算子、aclGraph圖模式、W8A8C8量化等優化手段,實現DeepSeekV3 671B模型在16卡環境下QPM達440+。其創新的PD傳輸優化與Prefix Cache多級緩存機制,進一步降低了長序列推理的時延,為在線推理與強化學習場景提供了高效解決方案。

昇騰推理系統工程師 付冰洋
溫捷則詳解vLLM-Ascend插件化方案。通過Python entry_points機制,實現硬件後端與核心代碼解耦,支持獨立疊代與快速集成;針對MoE模型,結合EPLB靜動态負載均衡技術、 PD分離配比優化、flashcomm通信優化,matmulNZ搬運優化等,大幅提升推理效率。當前vLLM-Ascend已實現Qwen3等模型 0Day支持,昇騰核心開發者跻身vLLM主項目Maintainer,在GitHub社區斬獲上千star。

昇騰推理系統工程師 溫捷
算子開發前沿
TileLang極簡範式釋放硬件潛能
算子開發是AI性能優化的核心,北京大學計算機學院碩士研究生、TileLang Maintainer解文浩與華為TileLang技術專家楊偲婵,帶來了新一代算子開發範式的實踐分享。解文浩以 DigitalSignatureAlgorithm(DSA)計算為例,演示TileLang開發流程。TileLang已在GitHub開源,提供Ascend C與 AscendNPU IR雙代碼生成後端,開發者通過簡潔API即可實現内存分配、數據搬運與同步控制。其DSA算子開發通過分塊處理、多級緩存調度,高效完成注意力分數計算、softmax标準化等流程,大幅降低開發門檻。

北京大學研究生、TileLang Maintainer 解文浩
楊偲婵進一步介紹了TileLang與MLIR生态的深度融合,通過統一硬件抽象與多級IR對接,開發者可通過Developer與Expert雙模式,靈活控制内存分配、數據搬運與同步調度,實現硬件潛能的極緻釋放。這種“簡約而不簡單”的編程範式,大幅降低了複雜融合算子的開發門檻,為開發者創新提供了高效支撐。

TileLang技術專家 楊偲婵
實戰與成長
從集群部署到職業進階
北京大學研究生褚苙揚帶來北大卓越中心集群實操教程,詳解多機多卡多模态模型訓練要點。該集群基于昇騰,支持昇思MindSpore全場景AI框架實現數據與張量并行,借助HCCL通信庫優化跨節點傳輸;針對“文本+視覺”雙輸入特性,褚苙揚演示了 PD分離技術降低顯存占用,并分享集群使用教程和大模型訓練效果,助力開發者快速上手大規模訓練。

北京大學研究生 褚苙揚
昇騰高級技術專家藍王力從職業發展視角出發,解析AI領域的人才需求與成長路徑。他強調,開源貢獻、技術實戰與跨領域視野是核心競争力。華為計算憑借全球化研發布局與領先的開源标準組織影響力,為人才提供優質發展土壤,而本次特訓營為優秀開發者開通了實習推薦的通道。同時藍王力介紹了華為“大問題創新機制”,鼓勵開發者聚焦大模型訓練加速、集群可靠性提升等産業級難題,實現個人成長與技術突破的雙向成就。

昇騰高級技術專家 藍王力
此次特訓營不僅讓開發者掌握了算子編程與開發等技術,更解鎖了開源貢獻、實習就業的成長路徑。未來,北京大學 鲲鵬昇騰科教創新卓越中心将持續搭建技術交流與人才培養平台,推動AI開源生态繁榮與産業人才成長,為智能世界築基賦能。鲲鵬昇騰科教創新卓越中心定位為基于鲲鵬昇騰技術路線的校級生态合作平台,它将圍繞大學計算産業前沿課題研究、課程體系建設、研究人才培養等方面展開合作,為産業輸出高質量鲲鵬昇騰人才,孵化和培育根植中國的世界級科研創新成果。
免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

