阿裡雲聯合NVIDIA舉辦TensorRT模型優化賽 探索AI加速推理方式

2023-03-22 14:44:22 來源:品玩網
        【每日科技網】

  深度學習深刻改變了計算機應用程序的功能與形态,為了加速深度學習模型的推理,NVIDIA 英偉達推出了高性能深度學習推理優化器TensorRT。經過多年的更新疊代,TensorRT不斷為深度學習提供低延遲、高吞吐率的部署推理,在保持優越性能的同時極大提高了易用性,已經成為GPU推理計算的必備工具。

  然而,随着版本的疊代,編程實踐也在不斷演化,開發者們開始探索新的問題:把模型跑在TensorRT上,效省力的方式是什麼?為了幫助開發者們解決這一問題,阿裡雲天池聯合英偉達在4月份啟動了“英偉達TensorRT加速AI推理Hackathon2022——Transformer模型優化賽”,助力開發者在編程實踐中尋找更高效的解決路徑,同時也讓更多工程師通過大賽實踐更好的掌握TensorRT這一高性能加速工具。

  面向全社會開放,更關注選手學習交流過程

  大賽面向全社會開放,個人、高等院校、科研單位、企業、創客團隊等人員均可報名參賽,組隊上限3人。參賽的開發者将在專家組的指導下在初賽中對給定模型加速,在複賽中則根據自選模型進行加速,并将得到專家組一對一指導。據了解,大賽初賽時間為4月2日-5月20日,系統進行實時評測并返回成績;5月20日上午10點,初賽階段未産出成績隊伍将被淘汰,初賽排名前40的隊伍則進入複賽,并于5月23日-6月27日進入複賽調優階段。

  大賽還為選手們準備了豐厚的獎品,其中,1名、亞軍2名、季軍3名分别享有10000元、5000元、3000元人民币獎勵,優勝獎則選取20名,每支團隊均可獲得1000元人民币獎勵。值得一提的是,阿裡員工可參賽排名,但不參與評選及領取獎金,來自外界的開發者們将有更多機會赢取大賽獎勵。

  實際上,除了榮譽與現金獎勵,此次大賽的意義在于通過比賽的形式,提高選手的開發應用能力,因此會在比賽周期中更加重視選手的學習過程以及選手與阿裡雲、英偉達專家之間的溝通交流。據了解,初賽剛剛開始,GPU計算專家就與各位參賽選手在活動釘釘群内展開了熱火朝天的交流讨論,對于選手們遇到的問題,專家也非常重視,給予耐心的指導與解答。

  推動行業交流與 人才培養,為深度學習領域聚力

  談及舉辦TensorRT模型優化賽的初衷,英偉達GPU計算專家季光博士表示,“TensorRT Hackathon既是一場雲集各路開發高手的競賽,也是一場開發者與英偉達之間的交流大會。希望參賽選手們通過這項活動,讓自己開發運用TensorRT的技能更加純熟。”

  作為此次大賽的合作方,阿裡雲同樣憑借自身在公共雲計算領域的優勢和GPU計算領域積累的應用經驗,為本次參賽隊伍提供了強大的技術支持。阿裡雲天池數據科學家陳漠沙對參賽選手也寄予了技術突破的期望,“希望參加本次Hackathon的選手們能開闊視野,了解業界前沿的技術方向,通過加速語音識别模型-WeNet項目實踐掌握TensorRT編程技術。”

  綜上,對參賽者而言,此次Transformer模型優化賽大賽不僅可以提高編程實踐能力,解決AI加速發展過程中的具體應用問題,更是為AI開發者提供了技術交流與學習的平台,從而促進行業深度學習開發部署人才的培養。

  目前,“英偉達TensorRT加速AI推理 Hackathon 2022 —— Transformer模型優化賽”報名與初賽已同步開啟。5月15日之前,感興趣的同學在阿裡雲天池平台完成個人信息注冊及實名認證,即可報名參賽。快來加入2022年TensorRT Hackathon,一起沖上雲端,探索未知吧!

免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
    本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

猜你喜歡

從一顆模組到一個平台,瀾存科技如何讓 AI 進入真實終端

近日,上海瀾存科技有限公司宣布完成數千萬元Pre-A輪股權融資,本輪投資方為錫創投,拓界資本擔任獨家财務顧問。繼2026年4月完成由凡創資本領投、申冉基金跟投的天使輪融資後,瀾存在三個月内連續完成兩輪

1周前

餘承東體驗首款闊直闆華為Pura X View:越用越愛用 愛不釋手

華為常務董事、産品投資評審委員會主任、終端BG董事長餘承東分享了他對首款闊直闆華為PuraXView的使用體驗。他表示,自己已經使用這款手機超過一個月,越用越愛,愛不釋手。餘承東回憶,剛拿到這部手機時

千匠網絡實踐:如何讓大模型從“能用”走向“好用”

過去兩年,幾乎所有上規模的企業都接入了大模型。智能客服、知識問答、AI助手——這些應用已經算不上新鮮事。但在演示會議室與真實業務場景之間,一個顯著落差正在浮現:能聊天,但不理解企業業務語境;能生成内容

千匠網絡

1個月前

海能達發布全新專業防爆PDT對講機CH690Ex

随着我國應急管理體系持續完善,消防救援任務正在從傳統火災處置,向化工園區事故、危險品洩漏、地下空間救援、大型綜合災害等多風險、多場景方向發展。在這些複雜環境中,救援現場往往面臨爆炸性氣體、可燃性粉塵、

2個月前

海能達CCW 2026載譽收官:AI與融合通信引領專用通信新未來

6月16日至18日,2026年全球關鍵通信展(CCW2026)在英國倫敦舉行。展會期間,海能達集中展示了從終端到系統、從感知到決策的全鍊路創新版圖,AI與融合通信産品及解決方案貫穿三天展期,持續獲得高

2個月前

登陸歐洲 Intersolar!遠景AI電力系統支撐全球 AI 算力發展

慕尼黑,2026年6月23日——在IntersolarEurope2026上,遠景科技集團發布面向AI數據中心的下一代電力基礎設施——融合風光儲一體化方案、固态變壓器(SST)、800V直流供電、儲能

2個月前