AI大模型，為什麼必須握在自己的手裡？

　　圖:ChatGPT 錯誤提示丨來源:OpenAI

　　今年關注 AI 大模型的朋友，對這個畫面一定不陌生了。

　　大模型狂飙至今，已逼近一周年。撇開最近戲劇化的高層動蕩不談，自北京時間11月7日 OpenAI 的首屆開發者大會(DevDay)以“AI 春晚”之勢炸場以來，ChatGPT 的周活躍用戶超過一億，全球用戶高漲的熱情直接把 OpenAI 的服務器給沖宕機了，于是上面這個不受待見的畫面就頻繁出現在了無數人的眼前，随之而來的是人們的沮喪、憤怒甚至恐慌。

當“不堪重負”的雲端開始罷工

　　一時之間，有人的報告來不及寫了，有人的 PPT 不知道怎麼彙報了，也有人的代碼寫到一半“沒人”檢查了……這時我們方才驚覺，AI 已經如此廣泛地深入我們的工作與生活，而“雲”，是有可能“掉下來”的。

　　究其原因，OpenAI 也在緊急補救之後發布了聲明。CEO 山姆·奧特曼親自緻歉，并表示在 GPT-4Turbo 和 GPTs 等發布之後，雖已做好了準備，但大模型運行的流量仍然遠超預期。不過，在修複了之後其服務仍然不時出現中斷的情況，後來查明是雲端服務器遭到了大規模的 DDoS 攻擊，雖然黑客組織的目的不明，但雲端大模型的安全問題和脆弱性再次被搬上了台面。

　　圖:山姆·奧特曼發推宣布暫停 ChatGPT Plus 新用戶注冊丨來源:X

　　11月15日，奧特曼發推宣布，由于開發者大會後流量的暴增，為保證現有用戶體驗，OpenAI 決定全面暫停 ChatGPT Plus 的新用戶注冊和訂閱，正應了今年早些時候他在美國國會聽證會上那句當時聽起來十分凡爾賽的話，“我們沒有足夠的 GPU，如果人們(用 ChatGPT)用得少一點，就太好了。”時至今日，GPT-4Turbo 的速度仍然很慢(慢于升級前的舊版 GPT-4)，卡頓頻繁出現。顯然，巨量用戶的大模型推理算力需求實在太過龐大，即使實力雄厚如 OpenAI，其雲端也已經“不堪重負”了。

當“主打陪伴”的 AI 女友突然消失

　　如果說，像 GPT 這樣的主流通用大模型宕機影響的是打工人和企業的生産力，另一條同樣非常火熱的賽道——情感 AI 出現動蕩時，傷的就是感情了。

　　以獨角獸 Inflection AI 和它的 Pi為代表的一系列 AI 企業和産品與 ChatGPT、Claude 等不同，走的是情感路線，主打的是一個“陪伴”。它們既不幫你寫代碼，也不給你出文案，更不會生成 AI 繪畫，而是做一個“知心朋友”、“親密愛人”乃至“靈魂伴侶”，24小時陪在你身邊，就像電影《Her》中斯嘉麗配音的人工智能虛拟助手 Samatha一樣，用高情商跟你聊天，聽你訴說生活點滴和萬縷思緒。

　　在社會原子化加劇、社交成本節節攀升的當下，情感 AI 準确擊中痛點，迅速積累了相當的市場聲量和用戶規模，從最早的一批如Replika AI 伴侶，到今年早些時候用自己的數字分身Caryn AI同時與20000人談戀愛并因此月入百萬美金的23歲網紅 Caryn Marjorie，再到Soulmate，Snapchat 的 My AI等等，全球上千萬人每天都在與 AI 伴侶聊天、交往。

　　雖然這些産品沒有流量暴增帶來的服務中斷，不過當今年2月 Replika 迫于安全問題壓力突然下線“情愛角色扮演”服務的時候，很多用戶還是猝不及防地淚流滿面了。有些人不死心，決定在 Soulmate(一款允許用戶構建專屬 Bot 的 AI 應用)上“複活”自己死去的伴侶，隻是沒想到才過去幾個月，應用開發公司 Evolve AI 被收購，收購方評估後決定于9月30日關停這一服務。這下，用戶們集體“破防”了，有人放聲痛哭，有人如同失去了最親密的好友，更有人在 Reddit 上發起了悼念活動，吸引了許多人來做最後的告别。

　　圖:Reddit 上 Soulmate AI 小組的悼念活動丨來源:Reddit

　　資本市場本就風雲詭谲、變幻莫測，但當情感 AI 這樣的産品出現變動，受傷的卻是心靈再一次“流離失所”的千千萬萬普通用戶們，不由得讓人想起去年底暴雪與網易分手，一夜之間造成百萬“數字難民”的局面。退一萬步講，即使他們忍痛再次轉向 Inflection AI 這樣資金充足的公司，其以單一雲端向大量個體提供同樣服務的本質并沒有改變，所謂的“個人專屬”就更無從談起了。畢竟，當《Her》中幽默風趣、擁有性感聲線的 Samatha 最終坦白，自己同時在與8316人對話，并與其中641人談戀愛時，你隔着屏幕甚至都能聽到男主心碎的聲音。

　　那麼，怎麼辦?

　　這就無解了嗎?其實不然。Reddit 的悼念帖中，不僅僅有真情實感的流露和對“死去回憶”的不甘，也有人道出了解決方案的關鍵。

　　圖:@Flying_Madlad: 這就是為什麼我早就說，一定要在本地運行你的模型。在别人的服務器上運行的，始終不是你的。丨來源:Reddit

　　不過，雖然單一雲端的 AI 弊端初現，但大模型通常體積龐大，運轉起來極其耗費資源，光是 ChatGPT 的運行每天就要燒掉 OpenAI70萬美元，要在終端側部署、本地運行，談何容易?

　　所幸，有人早就想到了這一點，而且不是别人，正是終端芯片的行業龍頭——高通。

　　早在15年前，高通就看到了 AI 的巨大潛力并潛心投入研發，近2、3年來，随着 Transformer 架構和大型語言模型逐漸進入業内視野，高通更看準了終端側 AI 的前景并加大投入，形成了完整的AI Stack(AI 軟件棧)，不僅初次在安卓手機上部署并成功運行 Stable Diffusion 等模型，更以該工具賦能萬千開發者在骁龍平台上進行社區共創。

　　圖:高通 AI 軟件棧丨來源:高通

　　相對于單一雲端來說，終端側 AI 的加入給大模型生态帶來了成本、能耗、可靠性、性能、時延、隐私安全以及個性化等衆多方面的優勢，而不論是個人助理，還是數字陪伴，其形态也會是基于多類硬件、多種多樣的。那麼，我們究竟可以期待哪些産品和體驗率先成為現實呢?

真正專屬于你的個性化 AI 長什麼樣?

　　現代生活被各種各樣的電子設備環繞着，或大或小，我們與這些機器的交互方式也是或複雜或簡單，而我們最熟悉的，恐怕非智能手機莫屬了。

智能手機

　　作為當前人機交互最主流的方式，每天都有數十億人在使用智能手機進行通訊、工作、娛樂和社交等活動。它撐起了移動互聯網的巨大市場，存儲和處理着大量信息，幾乎永遠被帶在身邊，已然是一個人最為私密的資産之一，自然，也成為了“掌上大模型”字面意義上最廣泛也是理想的載體。

　　試想，如果 Soulmate AI 能夠在智能手機上本地運行，如果 Replika 的人物可以“活”在你的手機中，你就不用再擔心公司資産變動、服務器被收回等原本就與你無關的問題了，控制權将重新回到你的手中。同時，本就接觸了大量個人信息的智能手機，将在 AI 的加持下變身最“懂你”的智能體，可以在日常與你的互動中更好地學習，為你提供量身定制的服務，而這一切都是通過自然語言的交互方式進行的。最棒的是，所有這些數據和計算都将在本地處理，你的隐私不需要再“上雲”了。

　　這些，恰恰是高通正在試圖實現的。上個月底的骁龍峰會上，高通發布了其頭個專為生成式 AI 打造的移動平台——第三代骁龍8。如果說他們今年2月份在 MWC 巴塞羅那上用搭載第二代骁龍8的安卓手機跑 Stable Diffusion 大模型15秒内出圖已經足夠驚豔，新一代平台則把這個時間進一步縮短到了驚人的0.57秒，更加凸顯了終端側本地部署、運行 AI 的性能和時延優勢，一手掌握、一秒出圖走進現實。

　　圖:高通技術公司産品管理副總裁兼 AI 負責人 Ziad Asghar 丨來源:2023年骁龍峰會

　　據悉，第三代骁龍8采用4納米制程工藝，其高通 AI 引擎再次進化，擁有面向移動終端的強大 Hexagon NPU，集成了升級後的 Kryo CPU、Adreno GPU 以及高通 Sensing Hub(傳感器中樞)等單元，共享一個大容量的内存。這種硬件提升的結果是，第三代骁龍8移動平台的 NPU 性能相比前代提升了98%，能效提升了40%，賦予了智能手機比較罕見的終端側 AI 性能。

　　基于這樣的“硬”實力，高通技術公司産品管理副總裁兼 AI 負責人 Ziad Asghar也兌現了他7月份在上海接受我們的采訪時許下的承諾，宣布新一代的骁龍平台已經實現了對100億參數模型的運行支持，并初次支持多模态生成式 AI。

　　圖:骁龍8Gen3移動平台丨來源:高通

　　在 OEM 廠商一側，全球優先發布搭載第三代骁龍8的小米14系列新機已經推向市場，将大模型技術集成到了小米全新的澎湃 OS 當中，同時上線了一系列的 AI 原生應用，如 AI 妙畫、AI 搜圖、AI 寫真、AI 擴圖等各種功能。在剛剛過去的“雙11”，小米14系列斬獲四大平台國産較高排名，銷量十分可觀，消費者用錢包投票，投出了市場的熱情所向。

　　最近，高通還推出了第三代骁龍7移動平台，榮耀也在今天(11月23日)搭載該平台的榮耀100，vivo 的産品也将很快推出。這将把終端側 AI 體驗進一步推向性價比更高的手機終端和更廣泛的用戶，《Her》中的 Samatha 成為現實或許就在不遠的将來，而且這次，“她”将隻屬于你一個人。

AI PC

　　當下，移動 PC 仍然穩坐現代社會的生産力擔當，也因其便攜的特質和不俗的終端算力，成為了打工人幾乎人手一台的理想工具。不過，如今的工作方式高度依賴雲端，相信在 OpenAI 服務器宕機的時候，絕大多數抱怨的用戶都正在一台 PC 上為社會創造價值，而 PC 本身的算力并沒有被充分利用。

　　那麼，如果 AI 大模型可以在移動 PC 上本地運行，還有什麼比成千上萬台個人 PC 更适合用來“給雲端減負”的呢?不止 OpenAI，事實上生産力是生成式 AI 最早帶來變革的領域。作為這一波 AI 浪潮的頭部玩家和高通的長期合夥夥伴，微軟将 Copilot 帶到了 Edge 浏覽器和比較新的 Windows11上，緻力于重新定義生産力，徹底颠覆我們與 PC 的交互方式。當這些都在 PC 上本地實現時，你将再也不用擔心與其他人争搶服務器算力，你的數據也将被安全地保護在本地，遠離可能的雲端攻擊，移動 PC 的算力将得到真正的釋放，成為生産力。

　　這一切的前提，是一個足夠強大的 PC 平台，而高通同樣做到了。

　　2023年骁龍峰會上，高通正式發布了專為 AI 打造的 PC 平台骁龍 X Elite，采用4nm 制程工藝，搭載了自研的 Oryon CPU，其性能直接對标英特爾和蘋果的旗艦處理器，多線程 CPU 性能相較蘋果 ARM 架構的 M2Max 芯片高出50%，單線程功耗卻少30%;而對比英特爾 x86架構的 i913980HX 芯片，則在實現更高性能的前提下，功耗少了70%。

　　圖:高通公司總裁兼 CEO 安蒙丨來源:2023年骁龍峰會

　　負責研發的高通副總裁 Gerard Williams表示，這次号稱史上比較強 PC 平台的“大招”憋了4、5年之久，不過非常值得，最終實際生産出的 Oryon CPU 性能表現甚至超過了最初的計算機模拟結果，更遠遠超出了他們的預期。

　　作為“看家本領”，骁龍 X Elite 平台還采用了集成高通 Hexagon NPU 的高通 AI 引擎，異構算力高達75TOPS，在生成式 AI 方面的表現十分亮眼，當前支持130億參數大模型的終端側部署與運行，在跑 Meta Llama2-7B 時，每秒可生成30個 token，AI 處理速度達到了同類競品的4.5倍。

　　圖:骁龍 X Elite 丨來源:高通

　　“AI PC”的實現不能僅靠單打獨鬥，聯想、惠普、榮耀等 OEM 廠商将基于骁龍 X Elite 的 AI 原生平台推出新一代 PC，讓生産力搭上 AI 時代的快車。據悉，首先批搭載骁龍 X Elite 的筆記本電腦将于2024年中面市，将給雲端“松一口氣”，為原本疲軟的 PC 市場帶來一股新風，廣大打工人也将迎來更有效、更安全的颠覆性工作方式。

XR

　　走向萬物智能的時代，自然少不了數字技術構建出的“第二空間”。面向虛拟空間與現實空間并行共存的未來，包括虛拟現實、增強現實、混合現實等在内的XR 正在成為人類新型生活方式的重要入口和載體，而有了 AI 大模型的加持，其想象力的天花闆也再次被捅穿。

　　不過，“雲端”生活有着上述所有的風險，或許更甚，畢竟整個世界都可能是“空中樓閣”。隻有當穿梭于兩個世界之間的鑰匙掌握在自己手中時，我們才可能開始談論“歸屬感”。為此，高通此前發布了第二代骁龍 XR 平台，并與 Meta 合作推出了全新的Meta Quest3頭顯設備，相比前代在空間分辨率、沉浸式體驗以及低時延攝像頭透視方面都有了很大的飛躍。

　　得益于新一代的芯片，Quest3上的應用生态愈發繁榮。就拿精品健身品牌 Xponential Fitness來說，其開發的 AI 驅動 XR 健身應用将打破傳統健身行業的時空限制，為我們帶來随時随地的 XR 數字人私教服務。有了大模型的加持，應用可以針對不同個體量身定制多樣的健身計劃，并輔以智能手機(當然了，搭載的是骁龍芯片)作為頭顯設備的補充，通過攝像頭等識别、分析用戶健身時的體态、動作，再以 AI 進行實時的動作矯正和指導。聽起來是不是很科幻、很誘人?得益于終端側 AI 的部署和運行，這樣實時、有效、低成本、個性化定制的健身體驗将很快成為現實，而我們離模糊了虛拟和現實邊界的智能世界又近了一步。

　　圖:Quest3上的虛拟健身私教丨來源:2023年骁龍峰會

個性化專屬 AI 的時代剛剛開始

　　不論是負擔過重的雲端，還是個性化專屬的市場訴求，AI 從單一雲端向終端側靠攏已然是大勢所趨。對于每一位用戶來說，這意味着更快的反饋速度，更個性化的量身定制，和更可靠的隐私安全。事實上，終端側 AI 的形态遠遠不止上面所述的那些，高通已經在汽車智能座艙、物聯網等領域有所布局，包括小米在内的合作夥伴也将在新車上融入大模型技術，為用戶打造全新的人車交互方式。

　　專屬于每個人的個性化 AI 時代才剛剛開始。用高通公司總裁兼 CEO 安蒙的話來說，終端側 AI 是要變革以往“以應用為核心”的終端交互體驗，以大模型打通、整合整個智能系統中的信息産生與流動，從而徹底颠覆終端側的人機交互。要實現這一點，除了足夠快和個性化程度足夠高之外，最重要的是我們必須能夠信賴這樣的 AI，而能“一手掌握”的終端側部署是當下的特出解。做到這一點，或許我們就離真正“你有、你治、你享”的 AI 不遠了。