2024 年 7 月 4 日,備受矚目的世界人工智能大會暨人工智能全球治理别會議(WAIC)将于上海開幕。自 2018 年舉辦以來,WAIC 已走過六個年頭,如今,WAIC 已經成為全球人工智能領域權威和影響力的行業盛會。
在本屆 WAIC 即将開幕之際,終端側 AI 推動者、高通宣布了即将登展 WAIC 的消息,并迅速引發了業界的廣泛期待。

據了解,7 月 4 日-6 日期間,高通将帶來一系列的主題演講和直播訪談,将重點分享 AI 技術基礎研究、産品應用和未來行業賦能願景上的進展。例如,大會當天,高通公司中國區董事長孟樸将出席活動,并發表主題為“推動終端側 AI 發展讓智能計算無處不在”的演講,同時還有“擁抱 AI 終端創新”等系列直播訪談節目。高通公司中國區研發負責人徐晧也将發表“終端側 AI 規模化擴展,釋放工業化創新活力”的演講,并通過媒體直播間分享“我們可以用上怎樣的 AI 硬件?”。
技術展示環節更是亮點頻現,包括在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)、骁龍 X Elite 終端上的剪映 AI 視頻編輯功能、第三代骁龍 8 賦能 Android 智能手機帶來創新終端側生成式 AI 體驗等等。
這一系列技術展示,将是高通公司在推動終端側 AI 技術邊界拓展與行業生态合作方面的集中展現,也是對未來智能科技發展趨勢的一次生動預演,相當值得期待了。

當下,生成式 AI 已經成為行業炙手可熱的話題,特别是随着生成式 AI 技術在全球數以億計的終端中的大規模應用,以終端側為主旋律的生成式 AI 浪潮已然到來,而引領這一變革的核心力量,正是高通。
高通作為 AI 行業變革的賦能者,已經從底層芯片、到軟硬件生态建設,以及應用的落地,都做足了準備,賦能引領行業創新。

比如在标準制定上,去年,高通發布了《混合 AI 是 AI 的未來》白皮書,明确指出雲端與智能手機、汽車、個人電腦及物聯網終端的協同工作,将促進更強大、更高效且高度優化的 AI 發展,這是實現 AI 普惠的必由之路。今年,高通又推出了《通過 NPU 和異構計算開啟終端側生成式 AI》白皮書,深入解析了 Hexagon NPU 為核心的異構計算技術,并探讨了如何利用這些技術,在生成式 AI 需求激增的背景下,為終端側帶來豐富多樣的生成式 AI 應用場景。
再比如在底層芯片方面,早在 2015 年,高通就在骁龍 820 平台上集成了 AI 引擎;在今天的第三代骁龍 8 上,高通将高性能 AI 注入整個平台系統,采用面向生成式 AI 應用重新設計的 Hexagon NPU,夠在終端側運行高達 100 億參數的模型,無論是 token 的生成速度還是每秒生成 token 的速率,都處在業界水平。例如在生成式 AI 語言理解模型 MobileBERT 上,第三代骁龍 8 的表現比競品 A 高 17%,在魯大師 AIMark V4.3、安兔兔這些 AI 基準測試的總分方面,第三代骁龍 8 也是遠超競品。

更重要的是,高通還将大語言模型完整的搬到了端側運行,賦能衆多的 AI 手機。比如包括三星、小米、榮耀、OPPO 、vivo 等在内的手機廠商,其發布的骁龍 8 Gen3 手機,均已具備了在端側運行生成式 AI 的能力。
借助第三代骁龍 8 的 AI 能力,此次展會,高通也将展示在 Android 智能手機上運行的大語言和視覺助理大模型(LLaVA)。
除了移動端,在 AI PC 領域,高通還帶來了骁龍 X Elite 和骁龍 X Plus PC 平台,凝聚了高通在通用處理和 AI 異構計算多年積累的技術成果,其集成的 NPU 更是具有 45TOPS 的恐怖算力,這是 PC 平台中最強大的 NPU。

當下,微軟 Surface 系列新品,以及聯想、戴爾、惠普、宏碁、華碩等品牌,也都已經或即将發布搭載骁龍 X 系列平台的 Windows 11 AI PC 新品。在這次展會上,高通就将展示骁龍 X Elite 終端上的剪映 AI 視頻編輯功能,可以期待,無論是消費者還是企業用戶,借助骁龍 X Elite 終端,都能夠全天候利用 AI 增強的終端側工具來提升生産力、創造力和協作能力。
不僅如此,高通還積極投身 AI PC 生态的建設,讓開發者能夠獲取基于異構計算的 AI 加速,高通打造了 AI 軟件棧(Qualcomm AI Stack)。它能夠支持目前所有的主流 AI 框架,包括 TensorFlow、PyTorch、ONNX、Keras;它還支持所有主流的 AI runtime,包括 DirectML、TFLite、ONNX Runtime、ExecuTorch,以及支持不同的編譯器、數學庫等 AI 工具。
就在 6 月份,高通還針對其 45 TOPS 的 Hexagon NPU 開發、優化并驗證了 AI 模型。注冊開發者可以前往高通的 AI Hub 獲取這些預訓練模型,快速構建人工智能應用。據介紹,高通 AI Hub 提供了各種針對骁龍 X 系列處理器的邊緣設備優化的 AI 模型,涵蓋圖像分類、對象檢測、語義分割和生成式 AI 等領域。此外,AI Hub 還提供了便捷的工具和文檔,幫助開發者輕松地在視覺、音頻和語音等應用中部署 AI 模型。
其所做的這一切,正如高通公司 AI 産品技術中國區負責人萬衛星所言:
高通具備的異構計算能力,使 AI 能力能夠貫穿整個 SoC,将 CPU、GPU、NPU 和高通傳感器中樞的能力都充分釋放給應用開發者。
可以說,骁龍 X Elite / X Plus PC 平台的推出,如同為 AI PC 的變革性體驗打下了紮實的地基,而借助骁龍 X Elite 平台強大 AI 能力和高通在生态建設上的開放策略,接下來會有更多 AI 生成式應用的湧現。
寫在最後
在剛剛結束的 MWC 上海展會上,高通 AI 産品技術中國區負責人萬衛星發表了“終端側生成式 AI 的未來”的主題演講,他提到,憑借面向生成式 AI 全新設計的 NPU 和異構計算系統,高通正為終端側 AI 規模化擴展提供了有力支持。此外,高通還緻力于構建完善的 AI 生态系統,不斷推動 AI 技術的創新與發展。

利用的邊緣 AI、高性能低功耗計算和無與倫比的連接,高通正不斷推動終端側 AI 的規模化擴展,讓智能計算無處不在。随着 WAIC(世界人工智能大會)的到來,可以期待,終端側 AI 的高通還将帶來更多新的驚喜。
7 月 4 日-6 日,WAIC,我們現場見!
(本文轉載自IT之家)
免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

