
7 月 11 日消息,科技媒體 NeoWin 于 7 月 10 日發布博文稱,微軟推出了 Phi-4-mini-flash-reasoning 小語言模型,旨在顯著提升端側 AI 模型在數學和邏輯推理方面的能力。在當下 AI 技術迅猛發展的時代,邊緣設備、移動應用和嵌入式系統等對先進推理功能的需求愈發迫切,而 Phi-4-mini-flash-reasoning 模型的誕生,正好滿足了這些資源受限場景的需求。
在架構設計上,Phi-4-mini-flash-reasoning 創新性地引入了 SambaY 架構。其中,名為 Gated Memory Unit(GMU)的組件是一大亮點。該組件能夠在模型内部各部分之間高效地共享信息,極大地優化了模型的運行效率。這一特性使得模型在面對超長輸入時,也能夠迅速生成答案并完成任務,同時還能高效處理大量數據,理解複雜且冗長的文本或對話,為用戶帶來流暢且智能的交互體驗。
性能層面,Phi-4-mini-flash-reasoning 相較于其他 Phi 模型取得了重大突破。其吞吐量最高提升了 10 倍,意味着在相同時間内,該模型可以處理遠超以往的請求數量,或生成多達 10 倍的文本内容,大大提高了工作效率。同時,模型延遲降低至其他 Phi 模型的 1/2~1/3.這使得應用響應更加迅速,為實際應用場景帶來了質的飛躍,無論是實時交互類應用,還是對響應速度要求嚴苛的業務,都能從中受益。
目前,Phi-4-mini-flash-reasoning 新型模型已在 Azure AI Foundry、NVIDIA API Catalog 和 Hugging Face 三大平台上線。這為廣大開發者和用戶提供了便捷的接入途徑,助力他們将該模型集成到各類應用中,進一步推動端側 AI 在不同領域的廣泛應用與發展,為智能設備和應用的智能化升級注入強大動力 。
免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

