阿裡雲發布全棧AI負載高可用 與用戶共建AI時代雲上IT新治理

　　12 月 17 日上午，在中國信息通信研究院主辦的 2024 第五屆“GOLF+IT新治理領導力論壇”主論壇上，阿裡雲重磅發布了全棧AI負載高可用架構，以滿足AI大模型企業級應用在大規模參數量、複雜結構和高性能算力背景下，對雲服務處理能力可擴展性、服務連續性、服務質量和故障快速恢複的需求。

　　以為生成式AI 打造持續的卓越用戶體驗為目的，阿裡雲全棧AI負載高可用架構可達到GPU故障預測準确率92%，千卡規模集群連續訓練有效時長大于99%，秒級模型自動保存、分鐘級故障恢複;每分鐘 10000 個pod擴展，分鐘級自動擴容;核心模型服務99.99%的API SLA，模型應用服務全鍊路可觀測等重要的AI業務高可用目标，在大規模數據處理和訓推場景下，實現了對Gen AI應用業務連續性、響應速度、穩定性和安全性的全面保障。

　　在論壇上， 2025 年中國數字化治理領域比較新評估結果揭曉，阿裡雲成為首批通過信通院“企業用雲治理能力成熟度評估”評測的兩家企業之一，同時獲得該項能力評估比較高等級。

阿裡雲全棧AI負載高可用架構正式發布

　　在AI算力需求逐漸超越通用需求的今天，以GenAI為代表的應用場景和技術倍增，雲上企業需要處理和存儲的數據量呈指數增長，AI驅動的應用在高負載情況下，對保障業務的連續性、響應速度、穩定性和安全性均提出了更高要求。

“高可用模型訓練、靈活彈性的推理資源、數據高可靠”

為此，阿裡雲在升級雲平台自身的技術服務能力的同時，将GPU、異構算力集群、容器集群、存儲、向量數據庫、機器學習平台等AI負載高可用全面融入雲平台架構設計，圍繞大模型訓練微調、推理、多模态數據處理等環節，構建具備特性的全棧AI負載高可用架構，實現了從通用負載向AI負載的可用性演進，為客戶AI業務構建提供穩定的業務服務和出色的用戶體驗。

　　在高可用模型訓練方面，阿裡雲AI基礎設施高可用能力融入雲服務整體架構設計，基于AI算法的故障預測，實現訓推環節的性能瓶頸分析和潛在故障分析，GPU故障預測準确率達92%，同時将異常預測接入自愈鍊路，訓練恢複自愈率超90%、千卡規模集群連續訓練有效時長大于99%，實現秒級模型自動保存、分鐘級故障恢複;同時，CPFS 高性能存儲集群，在超大集群中 20TB/s 的吞吐能力，支持更大及更加頻繁的 Checkpoint 讀寫，能夠更好地防止數據丢失，并提升訓練的穩定性和可靠性。在網絡層面，阿裡雲自研的高性能網絡，業界首創雙平面的高可用網絡架構，網絡Link和設備中斷，訓練任務不中斷。

　　在推理資源方面，阿裡雲容器計算服務ACS的彈性能力實現每分鐘可以進行 10000 個pod擴展，分鐘級自動擴容;PAI-EAS模型在線服務，适用于實時推理、近實時異步推理等多種AI推理場景，能感知每個請求的執行進度，做到更公平的任務調度，提高擴縮容效率。同時，阿裡雲将跨區域的主動式重路由技術運用到數據中心間的通信，從而在跨數據中心推理網絡上，達到跨域帶寬業界比較高的 99.995% SLA，實現秒級内重新路由，提供一個更加穩定的網絡通信延遲。

　　對于在實時語音交互、實時AI搜索等高性能場景有推理需求的客戶，阿裡雲百煉模型服務平台，基于預訓練模型為用戶提供模型推理與應用構建托管服務，核心模型服務API達到 99.99% SLA，高性能場景核心用戶用例中的首包延時小于 300 毫秒，能夠有效解決應用開發、模型調用等過程中的跨區域TPM限制、高并發需求下API響應變慢等問題，提升Gen AI應用推理與構建時的用戶體驗。

　　在數據高可靠方面，阿裡雲數據存儲與數據庫服務面向不同計算引擎、多種AI 框架進行了深度集成，形成承載PB級甚至EB級大規模數據統一的存儲底座，同城冗餘容災，高達99.995% SLA，數據多副本冗餘、大文件斷點續傳、批量和多線程數據操作保障數據服務高可靠，向上支撐面向單AZ， 雙AZ， 三AZ及跨Region的高可用服務，跨Region AI數據的就近讀寫和負載均衡，滿足AI數據多活的強一緻性，AI數據冷備、熱備、故障自動切換，解決AI數據故障風險。

AI時代與用戶共建雲上的IT新治理

　　AI時代的浪潮中，企業對于高可用架構的需求不僅僅停留在節點的穩定性上，而是在更高的層面追求智能化運營。阿裡雲全棧AI負載的高可用架構已為企業奠定了堅實的技術基礎，而進一步的挑戰則在于如何提升雲上系統的運維管理與治理能力。通過與用戶攜手，阿裡雲緻力于在雲環境中構建一個AI-Native的智能化、自動化和可持續的IT治理體系，為企業的創新之路保駕護航。

　　阿裡雲根據多年服務客戶的經驗總結為一系列的方法論和架構設計原則，推出了阿裡雲卓越架構Well-Architeched Framework，意在幫助企業在雲上構建一個安全、穩定、有效的應用環境。面向AI技術融入帶來的更複雜更大規模的，根據雲計算的彈性、實時交付、自助化等特點，阿裡雲卓越架構進一步升級了用雲企業運維管理和治理規則基線的理想實踐，依靠Well-Architeched雲卓越架構來學習-度量-優化，落地治理潛在的風險隐患，從安全、穩定、效率、成本、性能五大支柱全面提升系統整體韌性和運營效率。

　　阿裡雲開放平台負責人何登成表示，“在雲上構建可靠的系統是雲廠商與用戶共同的責任。雲廠商負責提供雲平台的可靠性，确保提供的雲服務可用性符合或超過阿裡雲服務等級協議;用戶需要根據業務需求，選擇合适的産品服務，并根據雲相關文檔的指導搭建高可用架構，來确保雲上應用的可靠性。”

　　尤其在AI迅猛發展的今天，企業更應讓業務系統利用現代雲平台的基礎設施達到高可用，總結成三個"面向"：面向失敗的設計架構，面向精細的運維管控，面向風險的應急快恢。同時，用戶可以在建設持續穩定的雲環境過程中，面向AI并結合AI，通過良好的AI模型訓推架構設計、AI數據資産處理與存儲、智能診斷與風險預測等手段，進一步提升系統可用性、可靠性、可持續性。

阿裡雲獲信通院企業用雲治理能力成熟度評估比較高等級

　　據信通院發布的《企業用雲治理能力成熟度分級要求》，企業用雲治理能力成熟度評估共分為L1-L5 共 5 個等級，分别為L1 基礎級、L2 應用級、L3 級、L4 先進級、L5 卓越級。該分級要求不僅适用于對雲服務使用方用雲治理能力成熟度進行評估，也适用于對雲服務提供商雲服務治理産品、技術能力成熟度進行評估。阿裡雲測評結果為L4+，是目前階段雲服務提供商實際獲得的比較高等級。

　　此前，阿裡雲企業用雲治理能力曾兩度獲得信通院評測認可，包括 2022 年“企業雲治理能力成熟度模型”獲信通院科技治理領域年度明星解決方案及産品; 2023 年“雲治理中心”獲信通院科技治理領域年度明星解決方案。

　　今年，針對企業用雲發展路徑、企業雲治理發展趨勢分析與洞察，阿裡雲聯合埃森哲發布《雲治理企業成熟度發展 2024 年度報告》(https://developer.aliyun.com/ebook/8419)，報告調研取樣來自 400 多家企業客戶，橫跨互聯網、金融、新零售、交通等多個行業，旨在幫助用戶理解雲治理概念、企業用雲實踐的現狀及變遷趨勢，并基于雲治理框架的五大分類(即穩定性、安全合規、成本效益、有效性能、卓越運營)，報告作為企業雲上旅程的實踐樣本，為面向AI時代做好IT新治理和雲上架構優化提供更多的參考與決策依據。