星環科技Sophon 3.2發布，通過“六易三倉兩中心”實現新一代AI平民化

針對目前各行業用戶在落地廣泛業務需求分析、處理多重數據模态對接、跟進高度定制場景問題解決、運營多源多框架AI模型等方面的問題，星環自主研發的一站式智能分析工具平台Sophon推出了3.2版本。

  3.2版本的Sophon通過以數據和模型為中心，提供“六易三倉兩中心”的功能服務，讓用戶能夠基于自身需求構建緊密貼合其業務場景的新一代AI應用。

  一、六易——實現新一代AI平民化

  Sophon 3.2從數據接入獲取、模型構建訓練、模型運維管理、模型發布疊代等AI應用全生命周期的相關流程出發，考慮用戶可能遇到的問題後，從樣本管理、場景開發、模型獲得、模型管理、效果疊代及系統運維六大方面降低用戶使用的門檻，實現新一代AI平民化。

  圖：Sophon智能分析工具 v3.2架構圖

  * 樣本“易”管理：提供樣本倉庫，讓數據資産易管理

  * 場景“易”開發：提供Vlab、Discover、AutoCV多個模塊，通過可視化、編程式、流程式的建模服務，以及内置的開源建模框架、自研的Sophon ZenGraph圖計算框架、Sophon TS 時間序列計算庫及基礎機器學習算法庫，讓建模場景易搭建;

  * 模型“易”獲得：提供模型倉庫，支持将NLP、OCR、CV、基礎機器學習等多框架多源模型進行統一納管，并在模型上線前提供靜态評估，讓高性能的模型服務易被挖掘;

  * 模型“易”管理：提供MLOps及XAI模塊，支持将高性能模型進行統一可視化部署、統一全方位監控、統一多維度評估;提供一鍵部署以及可視化的服務推理搭建部署的模式，并從模型調用情況、模型使用資源情況、模型數據偏移情況等方面提供全方位監控，同時從模型預測性能、模型可解釋、模型輸入輸出偏移等方面提供多維度的評估，讓模型易管理，全面掌握模型服務運行狀态;

  * 效果“易”疊代：提供MLOps模塊，支持可視化持續訓練pipeline，讓模型疊代時，模型效果易提升;

  * 系統“易”運維：支持無需侵入式代碼改造的分布式python機器學習計算框架Ray、基于GPU池化的GPU分組管理服務、基于Spark on K8s的資源統一調度等，讓GPU資源易用、分布式能力易用、系統運維易用。

  二、三倉——實現多模态數據管理

  Sophon 3.2基于“三倉一平台”的框架，圍繞數據開發全流程，以數據流視角分别建設“樣本倉、模型倉和場景倉”，實現全流程、多模态數據的統一納管。

  * 樣本倉庫：新版本Sophon提供的樣本倉功能模塊，可實現對數據的精細化管理，輸出高質量多模數據，驅動高質量模型的疊代。

  圖：Sophon樣本倉庫

  樣本倉庫支持數據接入、智能标簽和數據洞察。樣本倉庫支持文本、視頻、圖像、時間序列等多模态的數據統一接入和管理;智能标簽方面，平台預置2種前沿風格遷移算法、20+多模态數據預處理算法、10+标注類型以及20+靈活的數據增強方式，支持數據準備、生成、标注及擴增等一系列過程;在快速完成原始數據的實體、關系、文本類型、圖片設備狀态、圖片異物狀況等要素提取的同時，并建立智能化标簽及相關索引，便于精細化查找對應樣本數據;此外，針對非機構化數據，結合預置分析模型，自動輸出分析報告，幫助用戶更清晰的洞察數據質量。

  * 模型倉庫：新版本Sophon提供的模型倉庫功能模塊，作為模型開發與模型應用的中間環節，統一納管多源模型，讓模型管理和應用人員能快速找到最适合業務場景的模型，實現組裝與評估輸出高質量模型服務。

  圖：Sophon模型倉庫

  模型倉庫支持對模型的納管、組裝和評估。模型納管功能支持NLP、結構化二維表、圖像、OCR等模型以鏡像或文件的鏡像一鍵上架到模型倉庫進行統一納管;模型組裝功能支持用戶将兩個或以上的單任務模型，自由組合形成更貼近需求的多模态模型方案;模型評估功能支持用戶在模型部署上線前，在模型倉庫種進行冒煙測試，并生成模型測試評估報告，并橫向對比多份評估報告，保證輸出部署上線高質量的模型服務。

  * 場景倉庫：内置場景涵蓋營銷、風控、KBQA、圖譜風險探查、圖像檢索、内容安全檢測等廣泛需求，并提供覆蓋場景建模分析全流程的平台和工具，讓用戶通過低代碼方式快速構建貼合其業務應用的建模場景。

  圖：Sophon場景倉庫

  場景模闆内置基于模型和業務的積累，平台預置了面向不同行業領域的應用模闆，開箱即用。同時場景模闆開放了業務規則的配置能力，實施人員可基于模闆在大規模部署落地時，僅修改配置即可。此外，平台提供拉拽的交互方式輔助用戶将模型和業務邏輯串聯，形成标準場景模闆，業務流程支持不同模态的業務流組合分析，場景包可以在平台進行積累，版本管理和遷移。

  三、兩中心——實現數據及模型資産的價值挖掘

  Sophon 3.2秉持以數據為中心和以模型為中心的理念，幫助用戶将零散的數據和模型進行有效管理，并通過數據資産管理及模型資産管理等手段，實現數據和模型資産的價值迸發。

  企業可以通過确定某一使用場景，來倒推需要使用的模型或模型組，從而确定需要收集和訓練的數據種類及數據集。通過數據環、模型環和場景環建設，企業可以有效降低模型、場景及應用的開發成本，并有效激發團隊協作潛能，并提升應用創新能力。

  圖：Sophon 人工智能應用建設方法論

  為更好地激發AI模型資産價值，Sophon 3.2發布的MLops模型運營模塊，提供大模型的開發/運維工具鍊，可幫助企業用戶快速開發構建領域大模型應用。同時，使用Sophon MLOps進行指令開發和模型微調、對齊，我們開發出了大數據分析大模型SoLar求索，讓業務人員在不需要學習和掌握數據庫編程語言的前提下自由地按需查詢數據。

  圖：LLM平台階段性演進圖

  圖：大數據分析大模型SoLar求索的NLP2SQL功能

  Sophon 3.2通過提供六易三倉兩中心能力，加之MLOps模型運管模塊、AutoCV視覺模型生産應用模塊等AI能力支撐，能夠保障企業數據到智能應用的落地，實現AI能力平民化、AI價值化。