2025年2月24日——由360與北京大學聯合研發的中等量級推理模型Tiny-R1-32B-Preview正式亮相,僅以5%參數,逼近Deepseek-R1-671B的性能。

核心突破:小模型,大能量
數學領域:以78.1分(AIME 2024評測)逼近原版R1模型(79.8分),遠超Deepseek-R1-Distill-Llama-70B(70.0分);
綜合性能:在編程(LiveCodeBench 61.6分)、科學(GPQA-Diamond 65.0分)領域全面開源70B模型Deepseek-R1-Distill-Llama-70B;
效率躍遷:僅需5%參數量,性能達原版R1的95%以上,推理成本大幅降低。
技術革新:領域專精+模型融合
研究團隊使用「分治-融合」策略:
基于DeepSeek-R1生成海量領域數據,分别訓練數學、編程、科學三大垂直模型;
通過Arcee團隊Mergekit工具智能融合,突破單一模型性能上限,實現多任務均衡優化。
開源承諾:推動技術普惠
即将公開完整技術報告、訓練代碼及部分數據集;
踐行開源精神,助力AI社區共築高效推理新生态。
研發團隊表示:「Tiny-R1-32B-Preview是蒸餾技術的裡程碑,未來将持續探索更輕量、更強大的通用模型,推動AI技術普惠化進程。」
360 團隊: Lin Sun, Guangxiang Zhao, Xiaoqi Jian, Weihong Lin, Yongfu Zhu, Change Jia, Linglin Zhang, Jinzhu Wu, Sai-er Hu, Xiangzheng Zhang
北大團隊: Yuhan Wu, Zihan Jiang, Wenrui Liu, Junting Zhou, Bin Cui, Tong Yang


免責聲明:本文僅代表作者個人觀點,與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實,對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責,若因作品内容、知識産權、版權和其他問題,請及時提供相關證明等材料并與我們聯系,本網站将在規定時間内給予删除等相關處理.

