華為雲全球率先引入GPU加速型容器,助AI算力高效運轉

2023-03-02 15:33:35 來源:每日科技網
        【每日科技網】

  日前,華為雲·雲容器實例(CCI)全球基于K8S的serverless GPU加速型容器實例。這是繼華為雲在全球基于K8S的容器實例後,為容器實例服務提供更豐富的計算選擇,給關注AI、視頻處理等高性能計算的企業和開發者帶來更多的玩法。

  AI算力需求迎來爆發式增長 以AI場景為例,OpenAI發布研究報告,透露2012年到2018年6年間單次AI訓練的計算量增加30萬倍,這意味着訓練計算量每3.5個月翻倍,是摩爾定律的5倍。同時,AI正在向各行各業普及,因此AI算力的需求會出現爆炸式增長。公有雲因為低成本的硬件、無需關注基礎設施、0交付周期的優勢,是客戶在有AI算力需求時是更好的選擇。

  随着容器技術逐漸被各個領域開發者接受,大家發現容器技術可以提供标準化的容器打包,解決AI場景中不同工具對環境的依賴。用戶在搭建深度學習訓練環境,需要準備帶GPU的機器,安裝python,tensorflow,GPU驅動等,如果要從開發環境到測試環境,再從測試環境到生成環境,涉及環境遷移過程中如何保證環境的一緻性。然而容器帶來的标準化打包能力可以提供了的解決方案,可以極大降低AI平台的複雜度,做到多訓練框架并存、大幅簡化生産環境部署。

  目前K8S已經成為業界最主流的容器管理平台,它提供靈活的編排調度系統,可以滿足大規模、高并發的AI分布式訓練,大幅提高訓練速度。因此,公有雲GPU容器實例對AI用戶的吸引力越來越高。

  華為雲·GPU加速型雲容器實例

  華為雲·雲容器實例本次發布的GPU加速型容器實例本質是在Serverless K8S的基礎上提供GPU算力,這兩個技術的結合給AI、基因、視頻處理等場景帶來不一樣的體驗。

  免運維。相比傳統租用雲服務器、甚至自建IDC,GPU加速型容器實例無需客戶維護集群、考慮集群的升級、社區bug修複、集群資源利用率等問題,直接購買和管理GPU容器實例。同時,CCI提供了可視化的pod CPU/MEM/GPU監控功能,可以實時監控處理過程,極大的簡化運維成本。

  高性能。華為雲GPU加速型雲容器實例支持秒級伸縮和高并發,kata容器啟動速度實測600ms,集群規模高達上十萬容器實例,讓客戶快速利用GPU實例實現分布式計算。例如,華為雲EI使用該GPU容器實例,在斯坦福大學DAWNBench測試中取得前兩名的好成績,并達到0.8+的GPU線性加速比。

  低成本。很多高性能計算時長非常靈活,以AI訓練為例,很多場景下,客戶需要快速、多次計算進行疊代。華為雲GPU加速型雲容器實例提供按需按秒計費,讓客戶真正按業務計算市場進行消費,避免包年包月帶來的高成本。

  華為雲·GPU加速型雲容器實例在Serverless K8S上展現了免運維、高性能、低成本算力的優勢,逐步成為解決AI場景中各種環境問題的利器。未來也将在AI、基因、視頻處理等行業,為高性能計算的企業和開發者提供更加高效,安全、低成本的公有雲服務。

免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
    本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

猜你喜歡

海能達發布全新專業防爆PDT對講機CH690Ex

随着我國應急管理體系持續完善,消防救援任務正在從傳統火災處置,向化工園區事故、危險品洩漏、地下空間救援、大型綜合災害等多風險、多場景方向發展。在這些複雜環境中,救援現場往往面臨爆炸性氣體、可燃性粉塵、

2周前

海能達CCW 2026載譽收官:AI與融合通信引領專用通信新未來

6月16日至18日,2026年全球關鍵通信展(CCW2026)在英國倫敦舉行。展會期間,海能達集中展示了從終端到系統、從感知到決策的全鍊路創新版圖,AI與融合通信産品及解決方案貫穿三天展期,持續獲得高

1個月前

登陸歐洲 Intersolar!遠景AI電力系統支撐全球 AI 算力發展

慕尼黑,2026年6月23日——在IntersolarEurope2026上,遠景科技集團發布面向AI數據中心的下一代電力基礎設施——融合風光儲一體化方案、固态變壓器(SST)、800V直流供電、儲能

1個月前

海能達六度問鼎ICCAs,PDC650與西安機場方案摘得雙獎

6月17日,2026年國際關鍵通信獎(InternationalCriticalCommunicationsAwards,ICCAs)在英國倫敦舉行的全球關鍵通信展(CCW2026)期間正式揭曉。海能

1個月前

海能達即将亮相2026年CCW全球關鍵通信展: 攜AI與融合通信解決方案登陸倫敦

6月16日至18日,2026年CCW全球關鍵通信展将在英國倫敦啟幕。作為全球領先的專用通信解決方案提供商,海能達将以全場景關鍵通信産品矩陣亮相F25展位,集中展示面向公共安全、應急救援、城市治理等領域

1個月前

海能達再獲第十一屆廣東專利獎:持續自主創新,構築專用通信知識産權高地

近日,廣東省市場監督管理局正式公示第十一屆廣東專利獎評選結果。海能達通信股份有限公司申報的“一種集群通信系統的組派接方法、通信系統及存儲介質”(專利号:ZL201811296617.7)榮獲廣東專利優

1個月前