英特爾最強服務器CPU來了!AI性能直接翻倍

2024-11-21 11:47:28 來源:中國商報網
        【每日科技網】

  服務器CPU領域持續多年的核心數量大戰,被一舉終結了!

  英特爾發布的至強® 6 性能核處理器(P-core系列),超越了過去單一維度的競争,通過“升維”定義了新的遊戲規則:

英特爾最強服務器CPU來了!AI性能直接翻倍

英特爾最強服務器CPU來了!AI性能直接翻倍

  在過去,CPU升級換代往往要在單個芯片上集成更多的核心,但這難免會受到工藝和芯片尺寸的限制,更别提與IO和内存的匹配難題。

  這一次,至強® 6 性能核處理器采用了計算芯片單元與I/O芯片單元解耦的分離式模塊化設計,可以靈活組合不同數量的計算單元,實現核心數量的擴展及内存和IO的同步強化,保證更優的整體性能和能效

  用最直觀的方式感受一下:

  2023年12月15日,英特爾數據中心與人工智能集團副總裁陳葆立從褲兜裡掏出第五代至強® 可擴展處理器,還隻有64個核心。

  2024年9月26日,還是陳葆立,同樣從褲兜裡掏出至強® 6 性能核處理器,卻直接翻倍到128核心。

  兩款處理器外形大小相似,都能輕松放入口袋,但性能卻發生了質的飛躍。

英特爾最強服務器CPU來了!AI性能直接翻倍

  具體來說,剛剛登場的是至強® 6性能核處理器大家族中的先鋒+戰力——英特爾® 至強® 6900P系列。

  擁有多達128個性能核和504MB的超大L3緩存,更大、更寬的内存支持,更多、更快的IO能力。非常适用于各種數據和計算密集型應用任務,比如科學計算、海量數據處理,還有AI。

英特爾最強服務器CPU來了!AI性能直接翻倍

  看到這裡,可能很多人會有疑問:你們又要說用CPU跑AI?是GPU它不香了麼?

  NoNoNo,我們是想說:有了這款CPU,你的GPU或其他的AI加速器,會更香!

  談到這個話題,就要先說說AI服務器。

  在生成式AI應用百花齊放的當下,AI服務器的重要性可謂是不言而喻,無論是對于大規模的訓練、推理,亦或是RAG等任務,都對其提出了更高的要求。

  也正如綜合市場預測數據從側面反應出來的那般:

英特爾最強服務器CPU來了!AI性能直接翻倍

  我們都知道AI服務器裡GPU或AI加速器很重要,卻很容易忽視其中CPU的作用。一個真正為AI服務器或AI數據中心基礎設施設計的出色的CPU,應該是什麼樣的?

  英特爾® 至強® 6 性能核處理器,可以說是給出了一個正解。

  外媒甚至評測過後,對英特爾這次的新CPU給予了極高的評價:

英特爾最強服務器CPU來了!AI性能直接翻倍

英特爾最強服務器CPU來了!AI性能直接翻倍

  嗯,用中文來說的話,就是英特爾至強,這次是真的至強(達到最強)了。

  那麼英特爾® 至強® 6 性能核處理器是如何解鎖這種認同的呢?

至強,何以至強

首先要說的是算力。

  英特爾® 至強® 6900P系列産品此次最亮眼的128核(三個計算芯片單元),這就是它看似符合此前遊戲規則的一大技術亮點。

  通過核心數量的不同排列組合方式,至強® 6 性能核處理器可以應對不同的場景來提供不同核心的型号,除了128核的産品系列(6900P)外,還有86核(2個計算芯片單元),48核(1個計算芯片單元)和16核(1個計算芯片單元)的産品系列。

英特爾最強服務器CPU來了!AI性能直接翻倍

  用來做這種排列組合的模塊中,計算芯片單元采用的是Intel 3制程,包含一體式網格、核心、緩存、内存控制器等,可以保證數據傳輸的一緻性。

  I/O芯片單元則是采用Intel 7制程,包含UPI、PCIe、CXL和加速器引擎等。

  不同于第五代英特爾® 至強® 産品,至強® 6是将I/O和計算兩個單元進行了解耦,不僅易于做核數的擴展,還有利于驗證、重複和靈活使用。

英特爾最強服務器CPU來了!AI性能直接翻倍

  除此之外,英特爾® 至強® 6 性能核處理器的亮點還包括:

  6400 MT/s DDR5

  8800 MT/s MRDIMM内存

  6條UPI 2.0鍊路;速率高達24 GT/s

  96條PCIe 5.0/ 64條 CXL 2.0通道

  L3緩存高達504MB

  支持FP16數據格式的英特爾® AMX

英特爾最強服務器CPU來了!AI性能直接翻倍

接下來要說的是存力。

  至強® 6 性能核處理器超脫此前遊戲規則的亮點就藏在其中。

  它同時支持了更快的DDR5内存(6400MT/s)和更“寬”的MRDIMM内存(8800MT/s)。

  僅把前者替換成後者,就已經能讓科學計算和AI場景的多項任務提升7%-33%不等了。而且相比此前至強® CPU Max采用的HBM,MRDIMM内存的引入,不僅帶寬和速度優勢更明顯,它與CPU解耦的型态,也更利于用戶的靈活采購、配置與升級。

英特爾最強服務器CPU來了!AI性能直接翻倍

  存力除了内存本身的性能,還包含CPU與内存之間的互連技術,至強® 6導入了的Compute Express Link 2.0(CXL 2.0) 。

  CXL 2.0支持多種設備類型,且可向後兼容,實現對内存和存儲設備的靈活擴展。

  支持鍊路分叉、更強的CXL内存分層支持,以及以受控熱插拔的方式添加/移除設備,為未來的數據中心架構帶來了更多可能性。

  更值得一提的是至強® 6獨占的“Flat”内存模式,CXL内存和DRAM内存被視為單一的内存層,讓操作系統可以直接訪問這一統一的内存地址空間。

  這樣的分層管理可以确保限度地提升内存使用效率,并且實現利用好CXL内存擴展而無需修改軟件。

英特爾最強服務器CPU來了!AI性能直接翻倍

  如此這般能對内存速度、帶寬、容量和可擴展性全面兼顧,已經形成了至強® 6 性能核處理器獨樹一幟的競争力。

  具體到服務器設計上,CLX2.0可以支持每機提供8TB内存容量擴展,同時提供384GB/s的内存帶寬擴展。

英特爾最強服務器CPU來了!AI性能直接翻倍

  當然,作為CPU的至強® 6 性能核處理器并沒有忘記自己的本份,把存力與算力的硬指标優勢結合起來,轉化成真正的優勢,才是它被看好的底氣。

  在算力方面,除了更多内核,它還有内置加速器與指令集更新帶來的加成。

英特爾最強服務器CPU來了!AI性能直接翻倍

  主攻AI加速的英特爾® 矩陣擴展(Intel® AMX)新增對FP16數據類型的支持,現已全面覆蓋 int8、BF16和FP16數據類型。

  其在每個内核中的矩陣乘加(MAC)運算速度可達 2048 FLOPS(int8)和1024 FLOPS(BF16/FP16),能大幅提升 AI 推理和訓練性能。

  英特爾® 矢量擴展 512(AVX-512)雖然是員老将了,但在得到如此豐沛的内核資源支持後,也依然是科學計算、數據庫和 AI 任務中的矢量計算擔當。

  這些加速器的升級與煥新帶來的成果就是下圖這種多負載性能表現普遍倍增的現象,在AI領域,尤其是在Llama2-7B上的提升直接達到了前一代産品的3.08倍。

英特爾最強服務器CPU來了!AI性能直接翻倍

  最後在硬件增強的安全特性方面,英特爾早期的方案為SGX,但從第五代至強® 開始新增了TDX方案。這些看似難以通過Benchmark數值來證明自身價值的技術,實則不可或缺,是确保關鍵數據和應用更為安全可靠的壓艙石。

  而安全,恰恰是目前AI數據中心或智算中心這種涉及海量數據、關系萬千機密和隐私的環境中較少提及,卻最應補足和鞏固的一環。

英特爾最強服務器CPU來了!AI性能直接翻倍

  說了這麼多,如果要用一句話總結至強® 6 性能核處理器,尤其是6900P系列産品的定位,那就是“更強通用計算,兼顧AI加速”了。

  那麼新處理器具體都有哪些用法,表現又如何呢?

  還請繼續往下看。

全能型CPU:加速AI推理,統領異構計算

  首先,至強® 6 性能核處理器可以做“獨行俠”,直接加速AI推理,助力AI應用普及。

  用CPU做AI推理加速,其意義并非在于與GPU或其他專用加速器競争的速度或效率,而是要在一些成本、采購、環境等條件受限的情況下,借助CPU部署更廣泛、人才儲備更紮實和應用更便捷的優勢,讓AI能夠更快、更有效地落地。

  帶着這樣的整體目标,英特爾在軟件生态和工作負載優化方面投入了大量精力,以确保用戶能夠充分發揮至強® 6 性能核處理器的潛力。

  例如,英特爾與TensorFlow和PyTorch等主流深度學習框架進行深度合作,将針對英特爾CPU的優化集成到官方發行版中,從而使得在英特爾CPU上運行深度學習模型時,性能得到顯著提升。上文提到的Llama2-7B成績便是這些努力的成果之一。

另外,至強® 6 性能核處理器還可以做“指揮官”,強化AI系統整體實力。

  這其實是很多用戶更為熟悉,也是至強® 6性能核處理器更主打的應用方式,所謂“指揮官”,另一個名稱就是機頭(head-node)CPU或主控CPU。

  如果将至強® 6 性能核處理器用作AI服務器的機頭CPU,那麼其在算力(更強的單線程性能)、存力(對MRDIMM内存和CXL内存擴展能力的支持)以及 I/O(更多的PCIe 5.0通道)等方面的優勢和潛能就能更加充分地發揮和釋放出來。

  使其能夠與GPU或專用的AI加速器高效協作,出色地處理數據預處理、數據傳輸分享和混合工作負載。

英特爾最強服務器CPU來了!AI性能直接翻倍

  我們最初的設問,至此終于拼湊出了一個更為完整的答案,即為何至強® 6 性能核處理器能夠被稱作AI服務器或AI數據中心的“嚴選”,甚至是優選CPU ?

  這正是由于它既能夠單槍匹馬地加速AI推理,又可以居中協調以提升異構系統的整體性能輸出。

  更不必說,它還能夠兼顧衆多傳統但同樣不可或缺的應用負載,例如前文提及的科學計算和數據庫,以及高性能雲基礎設施構建等任務。

  以Flatiron Institute的案例來說,作為一家科研機構,他們對科學計算有着強烈的需求。通過測試得知,至強® 6 性能核處理器在常見科學計算負載上表現優異。

  他們還覺得對MRDIMM内存的支持将進一步突破傳統DDR内存的性能瓶頸,推動數據密集型科學發現。

英特爾最強服務器CPU來了!AI性能直接翻倍

  在本次至強® 6 性能核處理器的發布會上,英特爾也展示了本地數據庫軟件合作夥伴——科藍軟件的成果。

  英特爾市場營銷集團副總裁、中國區&行業解決方案和數據中心銷售部總經理梁雅莉在介紹生态系統支持狀況時表示:

英特爾最強服務器CPU來了!AI性能直接翻倍

  值得一提的是,在她分享中出現的中國合作夥伴數量衆多且都是各領域的核心力量,英特爾雖然在産品研發上有了更多創新,但在商業模式上仍然非常依賴開放架構平台之上的産業合力。

  十數家OEM、ODM、OSV和ISV在至強® 6 性能核處理器發布時同步推出新産品,以及多家雲服務提供商的支持,在英特爾看來,才是新品真正走近用戶和價值放大的基礎。

英特爾最強服務器CPU來了!AI性能直接翻倍

建好AI服務器,CPU不能是短闆

  從前面列舉的衆多數據和用例可以看出,在當前AI應用加速落地、新推理計算範式和合成數據等趨勢的推動下,AI算力需求越來越注重推理和複合工作負載。

  在這之中GPU或專用加速器固然重要,但CPU作為整個系統的“指揮官”,絕不能成為短闆。

  大家需要真正兼顧通用計算,以及AI服務器及AI數據中心場景的CPU産品。它不僅能支持廣泛的第三方GPU及AI加速器,與它們組合形成強大的異構計算平台,還能在其中補足GPU或專用加速器覆蓋不到或不足的地方,為更多樣和複雜的場景提供靈活的算力選擇,并增強整個AI平台的穩定性、安全性和擴展性。

英特爾最強服務器CPU來了!AI性能直接翻倍

  英特爾® 至強® 6 性能核處理器的出現,就為AI計算帶來了這樣一個全新的支點。

  (夢晨 金磊)

免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
    本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

猜你喜歡

海能達發布全新專業防爆PDT對講機CH690Ex

随着我國應急管理體系持續完善,消防救援任務正在從傳統火災處置,向化工園區事故、危險品洩漏、地下空間救援、大型綜合災害等多風險、多場景方向發展。在這些複雜環境中,救援現場往往面臨爆炸性氣體、可燃性粉塵、

2周前

海能達CCW 2026載譽收官:AI與融合通信引領專用通信新未來

6月16日至18日,2026年全球關鍵通信展(CCW2026)在英國倫敦舉行。展會期間,海能達集中展示了從終端到系統、從感知到決策的全鍊路創新版圖,AI與融合通信産品及解決方案貫穿三天展期,持續獲得高

4周前

登陸歐洲 Intersolar!遠景AI電力系統支撐全球 AI 算力發展

慕尼黑,2026年6月23日——在IntersolarEurope2026上,遠景科技集團發布面向AI數據中心的下一代電力基礎設施——融合風光儲一體化方案、固态變壓器(SST)、800V直流供電、儲能

4周前

海能達六度問鼎ICCAs,PDC650與西安機場方案摘得雙獎

6月17日,2026年國際關鍵通信獎(InternationalCriticalCommunicationsAwards,ICCAs)在英國倫敦舉行的全球關鍵通信展(CCW2026)期間正式揭曉。海能

4周前

海能達即将亮相2026年CCW全球關鍵通信展: 攜AI與融合通信解決方案登陸倫敦

6月16日至18日,2026年CCW全球關鍵通信展将在英國倫敦啟幕。作為全球領先的專用通信解決方案提供商,海能達将以全場景關鍵通信産品矩陣亮相F25展位,集中展示面向公共安全、應急救援、城市治理等領域

1個月前

海能達再獲第十一屆廣東專利獎:持續自主創新,構築專用通信知識産權高地

近日,廣東省市場監督管理局正式公示第十一屆廣東專利獎評選結果。海能達通信股份有限公司申報的“一種集群通信系統的組派接方法、通信系統及存儲介質”(專利号:ZL201811296617.7)榮獲廣東專利優

1個月前