這兩年消費電子圈，沒點AI功能都不好意思開發布會。IDC最新Q1數據顯示，全球AI手機出貨占比已破45%，同比翻了兩倍多，AI PC年底滲透率更是要沖60%。但剝開營銷話術，真實的用戶體驗完全是冰火兩重天。
你以為手機上的“端側AI”是真本地跑大模型?十台裡八台都是把你的提問傳到雲端算完再發回來，但是你的隐私就得全靠廠商“良心”，更躲不開未來的Token付費——現在免費是廠商燒錢搶市場，等野蠻期過去，一個月AI對話花的錢比話費還貴，是闆上釘釘的事。
号稱“真本地AI”的AI PC更尴尬。我同事剛買的新款聯想AI PC，沖着長續航辦公買的，結果開會用電池半天就沒電，最後查到是後台AI Agent偷偷跑推理吃功耗，一關功能續航直接翻倍。現在能本地跑7B大模型的AI PC，一開AI功能功耗就拉滿，所謂的移動生産力，最後還得插着電源用。
一邊是雲端的隐私焦慮和付費壓力，一邊是本地的功耗噩夢和續航崩盤，端側AI始終卡在“魚和熊掌不能兼得”的死局裡，端邊雲全場景的AI推理，都困在“高性能+低功耗+低成本”的不可能三角裡。就在全行業找答案的時候，英偉達甩出200億美元全資收購Groq，一夜之間，全行業都在喊：GPU時代過去了，LPU才是AI推理的未來。
但LPU真的是終局嗎?或者說，有沒有一種技術，比LPU走得更徹底，能從根上破了這個不可能三角?
1.英偉達200億押注的LPU，到底解決了什麼?又沒解決什麼?
先給大家打個最通俗的比方：大模型推理就像開餐館炒菜，傳統馮・諾依曼架構裡，計算單元是竈台，存儲單元是10公裡外的食材倉庫。炒一道菜，80%的時間和油錢都花在了來回跑腿上，竈台真正開火的時間連20%都不到——這就是GPU做推理最大的病根，天生适合批量炒菜的訓練場景，面對一個字一個字蹦的串行推理，完全有勁使不出，還得為跑腿付出巨大的功耗和延遲代價。
Groq的LPU，就是把跑腿的問題優化到了極緻。它靠超大片上SRAM把倉庫搬到了廚房隔壁，用确定性數據流把食材運輸路線焊成了專用高鐵，再靠靜态調度把炒菜時序提前排得明明白白，最終實現了比頂級GPU快幾十倍的推理速度，功耗卻隻有幾分之一，難怪英偉達願意花200億買單。
但很遺憾，LPU終究沒跳出馮・諾依曼架構的框：倉庫還是倉庫，廚房還是廚房，計算和存儲還是分開的，隻是跑腿的路變短了而已。面對十幾B、幾十B的大模型，片上SRAM容量終究有限，大部分參數還是要放外部DRAM裡，該跑的長途一趟沒少，存儲牆這堵牆，終究還是沒砸開。包括三星的3D DRAM、HBM-PIM，本質也隻是在倉庫門口加了個小切配台，始終沒解決“在倉庫裡直接炒菜”的核心問題。
2.颠覆性的三維存算一體(3D-CIM™️)架構，一家中國公司給出的答案
面對這個死局，杭州微納核芯給出了不一樣的答案：三維存算一體3D-CIM™️。
如果說LPU是把倉庫搬到了廚房隔壁，那3D-CIM™️就是直接把竈台建在了倉庫的每一層貨架旁，伸手拿到食材轉身就能炒，徹底把“數據搬運”這個動作從根上抹掉了。技術層面，它不是簡單把存儲和計算芯片摞在一起，而是通過三維鍵合技術，把SRAM存算一體計算内核和DRAM存儲單元做了垂直堆疊融合，真正在存儲器裡完成AI計算，還能靠超大容量DRAM裝下大模型的海量參數。
很多人問，這麼厲害的技術，為什麼英偉達、三星不搶着做?因為它要過三道地獄級的坎：架構設計要把計算和存儲從根上揉在一起，沒有任何成熟經驗可參考;三維鍵合是半導體頂尖工藝，納米級對準稍有不慎，一次流片就燒掉幾千萬;非馮・諾依曼架構的生态适配，更是難住了全球無數廠商。
也正因如此，3D-CIM™️長期停留在實驗室概念裡，而微納核芯的團隊，早在2018年就一頭紮進了這條無人區。那時候ChatGPT還沒影，大模型還沒火，全行業都在盯着GPU和先進制程，沒人覺得存算一體能成。這支從北大信息技術高等研究院走出來的團隊，一紮就是7年，連續6年在芯片設計“奧林匹克”ISSCC上發表十餘項破世界紀錄的成果，還拿下了中國企業首個ISSCC最佳技術論文獎，2023年正式落地了全球首創的3D-CIM™️架構。。
3.三維存算一體(3D-CIM™️)的核心是什麼?為什麼能成為大模型AI推理的終極方案?
全球巨頭都沒走通的路，微納核芯憑什麼做成了?答案很簡單：他們不是單點技術突破，而是把從架構到落地的全鍊條徹底走通了，靠三根核心支柱，破解了行業的不可能三角。
第一根支柱，是SRAM存算一體核心架構，從根上破解了算力密度與能效瓶頸。直接在存儲單元裡完成計算，抹掉了數據搬運的功耗開銷，不用依賴3nm、2nm先進制程，在成熟工藝上就能實現遠超傳統架構的能效比，同等算力下芯片面積隻有GPU的1/2到1/3，用更便宜的工藝做出了更好的效果。
第二根支柱，是三維鍵合技術，徹底打通了大模型推理的帶寬與容量任督二脈。大模型推理生成階段，最大的瓶頸從來不是算力，而是帶寬。三維堆疊讓單芯片能承載數十GB參數，内核和DRAM的互連帶寬提升數十倍，完美破解了帶寬卡脖子問題，讓大模型端側本地流暢運行從理論變成了現實。
第三根支柱，是基于RISC-V的RV-CIM™異構融合架構，兼顧了AI計算完備性與全棧生态易用性。行業裡絕大多數存算一體芯片，都要開發者重新學一套工具鍊，而微納核芯自研的全棧軟件工具鍊，能自動完成主流大模型到芯片指令的映射，開發者不用學任何新東西就能零門檻調用算力，徹底擺脫了對CUDA閉源生态的依賴。也正因這套體系，他們被工信部任命為RISC-V存算一體應用組組長單位，牽頭制定全球首個RV-CIM™行業标準。
7年深耕，他們打通了從指令集到算法适配的全鍊條，布局了120餘項核心專利，推出的兩款核心芯片，不到4W功耗就能讓7B大模型跑出150tokens/s的速度，不到2W功耗就能流暢運行3B大模型，完美解決了端側AI的核心痛點，也拿下了國内頭部存儲廠商、終端龍頭的深度合作，獲得了紅杉中國、小米、聯想等頂級機構的投資認可。
結尾：換一條賽道，才能跑在前面
AI大模型的爆發，把全球半導體行業推到了全新的十字路口。摩爾定律逼近物理極限，靠制程堆算力的老路已經走不通，下一代AI芯片的競争，核心早已變成了架構創新。
英偉達花200億收購Groq，恰恰證明了傳統GPU架構撐不起AI推理的未來，而微納核芯的3D-CIM™️，比LPU走得更遠、更徹底，是更接近終局的解決方案。
過去幾十年，我們一直在海外巨頭的體系裡跟跑，而在存算一體這條新賽道上，中國企業已經跑在了前面。3D-CIM™️這條路才剛剛開始，但可以确定的是，端側AI的普惠時代，一定會因為這項技術提前到來，而在這場後摩爾時代的算力革命裡，一定會有中國公司，站在全球舞台的最中央。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
