從C端斷供,到B端的隐形失控
7月19日晚,月之暗面發布說明,Kimi K3發布後48小時用戶請求量逼近集群承載極限,即日起暫停C端新訂閱。K3參數量2.8萬億,數小時登頂Arena代碼評測榜首——模型很強,但算力接不住。
這是C端的故事,結局是顯性的、可感知的暫停。B端的邏輯更隐蔽:企業不會突然被斷供,但賬單會悄悄膨脹。從試用到規模化部署,月調用費用從幾千元躍升到幾十萬元,往往隻需幾個月時間。Kimi算力告急是一個極端案例,但它暴露的模型調用成本不可控問題,在企業側每天都在發生。
企業的AI 賬單問題往往出在三個層面。第一,模型選擇粗放。多數企業"選一家、用到底",客服問答和合同審核走同一個模型。簡單對話用高階模型是過度付費,複雜分析用輕量模型則質量不夠、返工成本更高。企業缺乏按任務複雜度自動切換模型的能力,要麼過度付費,要麼質量不達标。
第二,多模型管理成本高。豆包适合中文應用,DeepSeek擅長推理,OpenAI生态豐富,Claude長文本能力突出——企業實際需要多家模型互補。但每接入一家就要單獨簽約、對接、計費、處理故障轉移,十家模型意味着十套對接邏輯。很多企業選擇妥協:隻用一兩家,放棄其他模型的能力優勢。
第三,成本不可觀測。Token消耗散落在不同廠商賬單裡,哪個部門用了多少、哪個場景消耗最多、哪些調用是低效的,沒有統一計量和歸因,成本不可觀測就不可優化。
千匠星樞:大模型時代的統一接入層
這三道暗坑,本質上都指向同一個缺口:企業需要一層能夠統一管理多家模型的中間層,而不是讓選型、對接、計量各自為戰。
千匠星樞正是針對這個缺口給出的答案。它處于模型消費者與提供商之間,将多家模型的服務能力聚合封裝,向上交付統一調用接口。架構上,星樞分三層:接入層面向個人開發者、企業客戶和千匠内部産品;聚合平台核心承擔認證、路由和适配三項職能;最底層是模型生态,目前已聚合豆包、DeepSeek、Kimi、智譜、通義、ChatGPT、Claude等10餘家主流模型。對開發者來說,接入門檻也被降到最低——不用學習新接口,隻需做幾個簡單的參數替換就能完成對接,一個Key調用所有模型,統一鑒權計費。企業不再需要逐家簽約對接,新模型上線自動可用,維護成本從"N套對接"降為"一套網關"。
據悉,千匠星樞的核心能力來自智能路由:系統分析每次請求的任務類型、複雜度和上下文長度,結合企業預設策略(質量優先或成本優先),自動選擇性價比最高的模型。日常客服走輕量模型控制成本,合同審核切換高階模型保證質量,涉及核心數據的場景則路由到私有化模型以滿足合規要求。整個路由決策耗時控制在10毫秒以内,不構成可感知的延遲。
當某個模型廠商出現服務波動,星樞自動将請求切換到備用模型,業務側無感知。這解決了單一模型"廠商一抖動,業務就中斷"的風險。治理層面,星樞提供Token消耗的部門級核算——哪個部門用了多少、調用了哪些模型,都有明細可查。企業可為不同部門設置預算阈值,消耗觸達阈值時系統自動切換到更經濟的模型,而非直接中斷。這讓AI投入變得可量化。更長期看,随着企業通過星樞的調用量增加,系統積累的路由數據和效果反饋也在增加——哪些任務用哪個模型效果最好、成本最低,這些數據反過來優化路由策略,讓決策越來越精準,形成一個正向循環。
在千匠的整體架構中,星樞是基礎設施層。向上為千匠問天和千匠智元提供統一的模型調用能力,向下聚合主流大模型生态。千匠自身AI産品運行時的每一次模型推理,都經過星樞的路由決策。安全合規方面,星樞通過了安全認證,具備數據脫敏、審計日志和企業級治理能力。對數據安全有剛性要求的金融、醫療等行業,可将涉及核心數據的請求路由到私有化部署的模型,實現數據不出域。
變量與局限
千匠星樞瞄準的是模型調用層的成本與治理問題,但落地效果并非一勞永逸,仍受幾個現實變量牽制。
路由決策質量取決于策略成熟度。 新接入的模型缺乏曆史調用數據,路由判斷的準确性會打折扣——從"可用"到"最優"仍需實際業務數據的積累。千匠方面稱新模型對接周期已壓縮到數天,但磨合期客觀存在。
成本節省幅度取決于企業自身的調用結構。 如果90%的請求都是高複雜度任務,節省空間自然收窄;反之,大量低複雜度的客服和查詢請求,節省比例會更明顯。
更宏觀的變量在于大模型定價策略本身。 過去一年模型調用價格持續下降,國産模型已壓到極低區間。如果調用成本趨近于零,星樞作為中間層的優化價值會被稀釋。但模型降價不等于企業不需要治理——多模型管理、故障轉移、部門核算、安全合規,這些需求不會因為價格下降而消失。
值得注意的是,千匠星樞并非孤例。做模型統一接入和智能路由的企業已經不少,從雲廠商到獨立創業公司都在這條賽道上嘗試。這說明單個廠商的路由策略是否夠精準,還隻是競争的表層。随着企業接入的模型越來越多、場景越來越複雜,"統一接入層"本身會成為企業AI基礎設施裡繞不開的一環。而誰能在路由精度、故障轉移和治理能力上跑得更快,誰就有機會把這塊基礎設施的位置占住。
免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

