終端側生成式AI更多驚喜?高通将在WAIC帶來新的“首個”演示

2024-07-03 21:49:48 來源:IT之家
        【每日科技網】

  2024 年 7 月 4 日,備受矚目的世界人工智能大會暨人工智能全球治理别會議(WAIC)将于上海開幕。自 2018 年舉辦以來,WAIC 已走過六個年頭,如今,WAIC 已經成為全球人工智能領域權威和影響力的行業盛會。

  在本屆 WAIC 即将開幕之際,終端側 AI 推動者、高通宣布了即将登展 WAIC 的消息,并迅速引發了業界的廣泛期待。

  

終端側生成式AI更多驚喜?高通将在WAIC帶來新的“”演示

 

  據了解,7 月 4 日-6 日期間,高通将帶來一系列的主題演講和直播訪談,将重點分享 AI 技術基礎研究、産品應用和未來行業賦能願景上的進展。例如,大會當天,高通公司中國區董事長孟樸将出席活動,并發表主題為“推動終端側 AI 發展讓智能計算無處不在”的演講,同時還有“擁抱 AI 終端創新”等系列直播訪談節目。高通公司中國區研發負責人徐晧也将發表“終端側 AI 規模化擴展,釋放工業化創新活力”的演講,并通過媒體直播間分享“我們可以用上怎樣的 AI 硬件?”。

  技術展示環節更是亮點頻現,包括在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)、骁龍 X Elite 終端上的剪映 AI 視頻編輯功能、第三代骁龍 8 賦能 Android 智能手機帶來創新終端側生成式 AI 體驗等等。

  這一系列技術展示,将是高通公司在推動終端側 AI 技術邊界拓展與行業生态合作方面的集中展現,也是對未來智能科技發展趨勢的一次生動預演,相當值得期待了。

  

終端側生成式AI更多驚喜?高通将在WAIC帶來新的“”演示

 

  當下,生成式 AI 已經成為行業炙手可熱的話題,特别是随着生成式 AI 技術在全球數以億計的終端中的大規模應用,以終端側為主旋律的生成式 AI 浪潮已然到來,而引領這一變革的核心力量,正是高通。

  高通作為 AI 行業變革的賦能者,已經從底層芯片、到軟硬件生态建設,以及應用的落地,都做足了準備,賦能引領行業創新。

  

終端側生成式AI更多驚喜?高通将在WAIC帶來新的“”演示

 

  比如在标準制定上,去年,高通發布了《混合 AI 是 AI 的未來》白皮書,明确指出雲端與智能手機、汽車、個人電腦及物聯網終端的協同工作,将促進更強大、更高效且高度優化的 AI 發展,這是實現 AI 普惠的必由之路。今年,高通又推出了《通過 NPU 和異構計算開啟終端側生成式 AI》白皮書,深入解析了 Hexagon NPU 為核心的異構計算技術,并探讨了如何利用這些技術,在生成式 AI 需求激增的背景下,為終端側帶來豐富多樣的生成式 AI 應用場景。

  再比如在底層芯片方面,早在 2015 年,高通就在骁龍 820 平台上集成了 AI 引擎;在今天的第三代骁龍 8 上,高通将高性能 AI 注入整個平台系統,采用面向生成式 AI 應用重新設計的 Hexagon NPU,夠在終端側運行高達 100 億參數的模型,無論是 token 的生成速度還是每秒生成 token 的速率,都處在業界水平。例如在生成式 AI 語言理解模型 MobileBERT 上,第三代骁龍 8 的表現比競品 A 高 17%,在魯大師 AIMark V4.3、安兔兔這些 AI 基準測試的總分方面,第三代骁龍 8 也是遠超競品。

  

終端側生成式AI更多驚喜?高通将在WAIC帶來新的“”演示

 

  更重要的是,高通還将大語言模型完整的搬到了端側運行,賦能衆多的 AI 手機。比如包括三星、小米、榮耀、OPPO 、vivo 等在内的手機廠商,其發布的骁龍 8 Gen3 手機,均已具備了在端側運行生成式 AI 的能力。

  借助第三代骁龍 8 的 AI 能力,此次展會,高通也将展示在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)。

  除了移動端,在 AI PC 領域,高通還帶來了骁龍 X Elite 和骁龍 X Plus PC 平台,凝聚了高通在通用處理和 AI 異構計算多年積累的技術成果,其集成的 NPU 更是具有 45TOPS 的恐怖算力,這是 PC 平台中最強大的 NPU。

  

終端側生成式AI更多驚喜?高通将在WAIC帶來新的“”演示

 

  當下,微軟 Surface 系列新品,以及聯想、戴爾、惠普、宏碁、華碩等品牌,也都已經或即将發布搭載骁龍 X 系列平台的 Windows 11 AI PC 新品。在這次展會上,高通就将展示骁龍 X Elite 終端上的剪映 AI 視頻編輯功能,可以期待,無論是消費者還是企業用戶,借助骁龍 X Elite 終端,都能夠全天候利用 AI 增強的終端側工具來提升生産力、創造力和協作能力。

  不僅如此,高通還積極投身 AI PC 生态的建設,讓開發者能夠獲取基于異構計算的 AI 加速,高通打造了 AI 軟件棧(Qualcomm AI Stack)。它能夠支持目前所有的主流 AI 框架,包括 TensorFlow、PyTorch、ONNX、Keras;它還支持所有主流的 AI runtime,包括 DirectML、TFLite、ONNX Runtime、ExecuTorch,以及支持不同的編譯器、數學庫等 AI 工具。

  就在 6 月份,高通還針對其 45 TOPS 的 Hexagon NPU 開發、優化并驗證了 AI 模型。注冊開發者可以前往高通的 AI Hub 獲取這些預訓練模型,快速構建人工智能應用。據介紹,高通 AI Hub 提供了各種針對骁龍 X 系列處理器的邊緣設備優化的 AI 模型,涵蓋圖像分類、對象檢測、語義分割和生成式 AI 等領域。此外,AI Hub 還提供了便捷的工具和文檔,幫助開發者輕松地在視覺、音頻和語音等應用中部署 AI 模型。

  其所做的這一切,正如高通公司 AI 産品技術中國區負責人萬衛星所言:

  高通具備的異構計算能力,使 AI 能力能夠貫穿整個 SoC,将 CPU、GPU、NPU 和高通傳感器中樞的能力都充分釋放給應用開發者。

  可以說,骁龍 X Elite / X Plus PC 平台的推出,如同為 AI PC 的變革性體驗打下了紮實的地基,而借助骁龍 X Elite 平台強大 AI 能力和高通在生态建設上的開放策略,接下來會有更多 AI 生成式應用的湧現。

  寫在最後

  在剛剛結束的 MWC 上海展會上,高通 AI 産品技術中國區負責人萬衛星發表了“終端側生成式 AI 的未來”的主題演講,他提到,憑借面向生成式 AI 全新設計的 NPU 和異構計算系統,高通正為終端側 AI 規模化擴展提供了有力支持。此外,高通還緻力于構建完善的 AI 生态系統,不斷推動 AI 技術的創新與發展。

  

終端側生成式AI更多驚喜?高通将在WAIC帶來新的“”演示

 

  利用的邊緣 AI、高性能低功耗計算和無與倫比的連接,高通正不斷推動終端側 AI 的規模化擴展,讓智能計算無處不在。随着 WAIC(世界人工智能大會)的到來,可以期待,終端側 AI 的高通還将帶來更多新的驚喜。

  7 月 4 日-6 日,WAIC,我們現場見!

  (本文轉載自IT之家)

免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
    本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

猜你喜歡

海能達發布全新專業防爆PDT對講機CH690Ex

随着我國應急管理體系持續完善,消防救援任務正在從傳統火災處置,向化工園區事故、危險品洩漏、地下空間救援、大型綜合災害等多風險、多場景方向發展。在這些複雜環境中,救援現場往往面臨爆炸性氣體、可燃性粉塵、

2周前

海能達CCW 2026載譽收官:AI與融合通信引領專用通信新未來

6月16日至18日,2026年全球關鍵通信展(CCW2026)在英國倫敦舉行。展會期間,海能達集中展示了從終端到系統、從感知到決策的全鍊路創新版圖,AI與融合通信産品及解決方案貫穿三天展期,持續獲得高

4周前

登陸歐洲 Intersolar!遠景AI電力系統支撐全球 AI 算力發展

慕尼黑,2026年6月23日——在IntersolarEurope2026上,遠景科技集團發布面向AI數據中心的下一代電力基礎設施——融合風光儲一體化方案、固态變壓器(SST)、800V直流供電、儲能

4周前

海能達六度問鼎ICCAs,PDC650與西安機場方案摘得雙獎

6月17日,2026年國際關鍵通信獎(InternationalCriticalCommunicationsAwards,ICCAs)在英國倫敦舉行的全球關鍵通信展(CCW2026)期間正式揭曉。海能

4周前

海能達即将亮相2026年CCW全球關鍵通信展: 攜AI與融合通信解決方案登陸倫敦

6月16日至18日,2026年CCW全球關鍵通信展将在英國倫敦啟幕。作為全球領先的專用通信解決方案提供商,海能達将以全場景關鍵通信産品矩陣亮相F25展位,集中展示面向公共安全、應急救援、城市治理等領域

1個月前

海能達再獲第十一屆廣東專利獎:持續自主創新,構築專用通信知識産權高地

近日,廣東省市場監督管理局正式公示第十一屆廣東專利獎評選結果。海能達通信股份有限公司申報的“一種集群通信系統的組派接方法、通信系統及存儲介質”(專利号:ZL201811296617.7)榮獲廣東專利優

1個月前