近日，第四範式宣布将推出兩項算力黑科技：XGBoost++和pyGDBT。XGBoost是AI開發者所熟知的工具，XGBoost++可以在前者的基礎上，隻修改一行代碼，即可輕松切換到異構計算模式，享受軟硬一體技術帶來的算力升級。而将于10月初發布的pyGDBT則從另一個維度給用戶帶來算力體驗，用戶隻需基于類似scikit-learn的語法編寫python程序，即可通過智能調參框架，享受異構計算帶來的性能。
XGBoost++和pyGDBT的共同點在于，以往的AI開發中想要使用異構加速或實現高維離散場景的計算需要，必須具備深厚的AI技術基礎，而這兩款工具的易用程度讓數據科學家、數據分析師、普通AI開發者即可輕松上手。這也讓第四範式離“AI for Everyone”的願景更進一步。
第四範式 FlashGBM ：讓醫學、金融等高維離散場景計算提速 10 倍
第四範式FlashGBM是XGBoost++和pyGDBT的底層異構加速引擎，使用基于FPGA開發的GBM專用加速芯片，定制了配合該加速器的高性能軟件程序，尤其擅長處理複雜的高維離散特征。FlashGBM不僅實現了不同場景下平均10倍以上的加速，而且相比傳統的CPU方案，内置自動參數優化功能，免去專家人工調參過程，自動調整至性能，降低使用門檻，縮短建模周期。
FlashGBM有如下特性：
1. 為高維離散稀疏場景提供高性能支持，覆蓋傳統GBM難以覆蓋的場景。
2. 引入自動調參技術。用戶不需要手動調參來确定效率情況下的參數組合。
3. 針對GBM訓練算法和FPGA本身架構特點做了深入的流水線優化，避免cache bank conflict，提升訪存效率。
在測試實驗中(見上表)可以看到，不同場景的加速比從4.0x到26x不等，而平均加速比達到了12.5x。其中，互聯網廣告點擊率預測是一個典型的高維稀疏離散計算場景;該場景中存在大量離散特征，例如A用戶是否購買X商品，B用戶是否收藏Y商品;海量用戶與海量行為的交叉形成了超高維，例如千萬用戶與上百種行為交叉産生數十億維。在該場景下，FlashGBM的加速高達26倍。
FlashGBM通過PCIe從宿主機拿到數據，傳遞給計算核心，計算核心通過和闆載内存交互來計算GBM的統計直方圖，并将結果送回宿主機内存。
第四範式 XGBoost++ ：從 XGBoost 一鍵切換至 FlashGBM 高性能模式
XGBoost是Gradient Boosting的一種高效系統實現，作為開源系統, XGBoost的社區很活躍，被廣泛使用。第四範式XGBoost++在FlashGBM底層框架上實現了與XGBoost兼容的接口。數據科學家可以零學習成本地切換到高性能FlashGBM模式，享受FPGA帶來的異構加速優勢。
第四範式 pyGDBT ：打造易用的高維分布式機器學習框架
GDBT是第四範式自主研發的超大規模分布式機器學習框架，設計初衷是打造專門為分布式大規模機器學習設計的計算框架，兼顧開發效率和運行效率。相比主流開源架構，GBM在高維場景有百倍以上優勢。即将發布的第四範式pyGDBT面向AI科學家的使用習慣，對GDBT進行了進一步整合和優化，在建模效率、模型維度與效果、性能、易用性等幾個方面進行了升級：
1) 高效率: 針對反複調參調研的高成本，通過智能調參加速機制降低特征、模型調研周期。
2) 模型維度與效果: 通過集群計算框架和分布式訓練算法支持海量數據與高維模型，提升模型表達能力與效果。
3) 高性能：結合FlashGBM底層計算框架，提供了異構加速能力。
4) 易用性：提供了近似scikit-learn的python使用接口，AI建模人員可以快速實現代碼遷移和使用。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
