北大特訓營燃啟!解鎖大模型全鍊路技術,開源與職業成長雙向奔赴

2025-11-13 09:11:43 來源:中華網
        【每日科技網】

  11月7日,北京大學 鲲鵬昇騰科教創新卓越中心特訓營在北京融科資訊中心圓滿舉辦。這場聚焦AI核心技術與開源生态的重磅活動,彙聚了多位昇騰技術專家和研發骨幹,以及北京大學學者,以“技術深耕+實戰賦能+職業護航”為核心,為AI領域的探索者、實踐者與開源貢獻者帶來一場覆蓋大模型訓練、推理、算子開發與部署全鍊路的技術盛宴,更搭建起從技術創新到職業成長的一站式橋梁。

合照.JPG

  開源生态築基

  CANN為核,鍊接全球AI技術版圖

  作為昇騰開源生态的核心基石,昇騰CANN生态技術專家郭依蓬在開場分享中,全景展現了CANN從基礎構建到全面開源開放的演進曆程。曆經多版本疊代,CANN已彙聚包含330+高性能算子、10+通信算法的外部成果貢獻,形成Ascend C編程語言、CATLASS算子模闆庫、三方編程語言,三位一體的編程體系,通過底層畢昇編譯器的能力開放,支持Triton等主流生态無縫對接。截至目前,CANN認證開發者已突破8000人,累計對接PyTorch、TensorFlow、MindSpore等業界主流AI框架,以及魔樂社區、OpenI啟智等數十個開源平台,為開發者提供了靈活、開放的異構計算底座。其全量開源的底層接口與工具鍊,更讓夥伴得以自主創新,在算子優化、模型适配等領域實現快速突破。

郭_副本.jpg

  昇騰CANN生态技術專家 郭依蓬

  推理加速突破

  vLLM與SGLang雙引擎驅動高性能

  推理性能是大模型落地的關鍵瓶頸,昇騰推理系統工程師付冰洋與溫捷分别帶來SGLang與vLLM與兩大主流框架的昇騰适配實踐。付冰洋聚焦SGLang在昇騰Atlas硬件上的高性能實踐,基于昇騰的高帶寬特性,通過MLAPO融合算子、aclGraph圖模式、W8A8C8量化等優化手段,實現DeepSeekV3 671B模型在16卡環境下QPM達440+。其創新的PD傳輸優化與Prefix Cache多級緩存機制,進一步降低了長序列推理的時延,為在線推理與強化學習場景提供了高效解決方案。

付_副本_副本.jpg

  昇騰推理系統工程師 付冰洋

  溫捷則詳解vLLM-Ascend插件化方案。通過Python entry_points機制,實現硬件後端與核心代碼解耦,支持獨立疊代與快速集成;針對MoE模型,結合EPLB靜動态負載均衡技術、 PD分離配比優化、flashcomm通信優化,matmulNZ搬運優化等,大幅提升推理效率。當前vLLM-Ascend已實現Qwen3等模型 0Day支持,昇騰核心開發者跻身vLLM主項目Maintainer,在GitHub社區斬獲上千star。

溫_副本_副本.jpg

  昇騰推理系統工程師 溫捷

  算子開發前沿

  TileLang極簡範式釋放硬件潛能

  算子開發是AI性能優化的核心,北京大學計算機學院碩士研究生、TileLang Maintainer解文浩與華為TileLang技術專家楊偲婵,帶來了新一代算子開發範式的實踐分享。解文浩以 DigitalSignatureAlgorithm(DSA)計算為例,演示TileLang開發流程。TileLang已在GitHub開源,提供Ascend C與 AscendNPU IR雙代碼生成後端,開發者通過簡潔API即可實現内存分配、數據搬運與同步控制。其DSA算子開發通過分塊處理、多級緩存調度,高效完成注意力分數計算、softmax标準化等流程,大幅降低開發門檻。

解_副本.jpg

  北京大學研究生、TileLang Maintainer 解文浩

  楊偲婵進一步介紹了TileLang與MLIR生态的深度融合,通過統一硬件抽象與多級IR對接,開發者可通過Developer與Expert雙模式,靈活控制内存分配、數據搬運與同步調度,實現硬件潛能的極緻釋放。這種“簡約而不簡單”的編程範式,大幅降低了複雜融合算子的開發門檻,為開發者創新提供了高效支撐。

楊_副本.jpg

  TileLang技術專家 楊偲婵

  實戰與成長

  從集群部署到職業進階

  北京大學研究生褚苙揚帶來北大卓越中心集群實操教程,詳解多機多卡多模态模型訓練要點。該集群基于昇騰,支持昇思MindSpore全場景AI框架實現數據與張量并行,借助HCCL通信庫優化跨節點傳輸;針對“文本+視覺”雙輸入特性,褚苙揚演示了 PD分離技術降低顯存占用,并分享集群使用教程和大模型訓練效果,助力開發者快速上手大規模訓練。

褚_副本.jpg

  北京大學研究生 褚苙揚

  昇騰高級技術專家藍王力從職業發展視角出發,解析AI領域的人才需求與成長路徑。他強調,開源貢獻、技術實戰與跨領域視野是核心競争力。華為計算憑借全球化研發布局與領先的開源标準組織影響力,為人才提供優質發展土壤,而本次特訓營為優秀開發者開通了實習推薦的通道。同時藍王力介紹了華為“大問題創新機制”,鼓勵開發者聚焦大模型訓練加速、集群可靠性提升等産業級難題,實現個人成長與技術突破的雙向成就。

王-.jpg

  昇騰高級技術專家 藍王力

  此次特訓營不僅讓開發者掌握了算子編程與開發等技術,更解鎖了開源貢獻、實習就業的成長路徑。未來,北京大學 鲲鵬昇騰科教創新卓越中心将持續搭建技術交流與人才培養平台,推動AI開源生态繁榮與産業人才成長,為智能世界築基賦能。鲲鵬昇騰科教創新卓越中心定位為基于鲲鵬昇騰技術路線的校級生态合作平台,它将圍繞大學計算産業前沿課題研究、課程體系建設、研究人才培養等方面展開合作,為産業輸出高質量鲲鵬昇騰人才,孵化和培育根植中國的世界級科研創新成果。

免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
    本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

猜你喜歡

海能達發布全新專業防爆PDT對講機CH690Ex

随着我國應急管理體系持續完善,消防救援任務正在從傳統火災處置,向化工園區事故、危險品洩漏、地下空間救援、大型綜合災害等多風險、多場景方向發展。在這些複雜環境中,救援現場往往面臨爆炸性氣體、可燃性粉塵、

2周前

海能達CCW 2026載譽收官:AI與融合通信引領專用通信新未來

6月16日至18日,2026年全球關鍵通信展(CCW2026)在英國倫敦舉行。展會期間,海能達集中展示了從終端到系統、從感知到決策的全鍊路創新版圖,AI與融合通信産品及解決方案貫穿三天展期,持續獲得高

4周前

登陸歐洲 Intersolar!遠景AI電力系統支撐全球 AI 算力發展

慕尼黑,2026年6月23日——在IntersolarEurope2026上,遠景科技集團發布面向AI數據中心的下一代電力基礎設施——融合風光儲一體化方案、固态變壓器(SST)、800V直流供電、儲能

4周前

海能達六度問鼎ICCAs,PDC650與西安機場方案摘得雙獎

6月17日,2026年國際關鍵通信獎(InternationalCriticalCommunicationsAwards,ICCAs)在英國倫敦舉行的全球關鍵通信展(CCW2026)期間正式揭曉。海能

4周前

海能達即将亮相2026年CCW全球關鍵通信展: 攜AI與融合通信解決方案登陸倫敦

6月16日至18日,2026年CCW全球關鍵通信展将在英國倫敦啟幕。作為全球領先的專用通信解決方案提供商,海能達将以全場景關鍵通信産品矩陣亮相F25展位,集中展示面向公共安全、應急救援、城市治理等領域

1個月前

海能達再獲第十一屆廣東專利獎:持續自主創新,構築專用通信知識産權高地

近日,廣東省市場監督管理局正式公示第十一屆廣東專利獎評選結果。海能達通信股份有限公司申報的“一種集群通信系統的組派接方法、通信系統及存儲介質”(專利号:ZL201811296617.7)榮獲廣東專利優

1個月前