亮相首屆灣芯展，雲天勵飛“算力積木”架構為國産邊緣AI芯片打開新思路

　　10月16日-18日,首屆灣區半導體産業生态博覽會在深圳舉行。

　　本次展會是在深圳市政府指導和深圳市發展和改革委員會支持下,由深圳市半導體與集成電路産業聯盟攜手深圳市重大産業投資集團有限公司共同主辦,以"半導體重大項目集群和增量市場"為基礎,邀請來自灣區、全國及全球的半導體産業鍊上下遊頭部企業參加。

　　作為AI芯片領域代表企業,雲天勵飛受邀出席“AI芯片與高性能計算應用論壇”,分享國産邊緣AI芯片架構創新思路。

　　雲天勵飛副總裁、芯片産品線總經理李愛軍在演講中說道,過去一年半,大模型經曆了從語言到多模态的轉變,并且正快速向物理世界演進;大模型落地應用也從雲端逐漸走向邊緣端,而大模型在邊緣端的應用給AI芯片帶來了全新的挑戰。

　　邊緣端場景具有“多且碎”的特點,不同場景應用對算力、内存、帶寬的要求也不盡相同。如何通過更靈活的芯片架構設計,盡可能讓AI芯片滿足不同場景的需求,是業界共同思考的問題。

　　在此背景下,雲天勵飛提出了“算力積木”AI芯片架構,讓芯片能夠像搭積木一樣靈活組建、靈活擴展。

　　以雲天勵飛基于“算力積木”打造的國内首顆國産工藝邊緣AI芯片DeepEdge10系列為例,DeepEdge10系列芯片基于一個标準化的大模型計算單元打造,可實現1.8B大模型的實時高效推理。

　　通過D2D Chiplet技術、C2C Mesh技術和C2C Mes Torus技術,雲天勵飛将标準計算單元像搭積木一樣,封裝成不同算力的芯片,覆蓋8T-256T算力應用,可實現7B、14B、130B等不同參數量大模型在邊緣端的高效推理。

　　目前,DeepEdge10系列芯片可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各類不同架構的主流模型,并在機器人、邊緣網關、服務器等領域實現商業化應用。

　　随着大模型進一步深入行業和場景,市場對邊緣AI芯片的需求将越來越大,而目前全球邊緣AI芯片市場仍處于萌芽階段。未來雲天勵飛将堅持走自主研發路線,通過架構創新,在國産工藝上實現芯片性能的突破,為行業帶來更好用、更高性價比的國産AI芯片産品。