導航軟件突發 “迷航” 亂指路、智能客服答非所問繞圈子、自動駕駛系統莫名 “宕機”…… 如今 AI 已深度融入生産生活，但這些 “不靠譜” 的瞬間背後，暗藏着人工智能數據與算法在安全性、魯棒性上的隐憂。9 月 20 日，在合肥舉辦的世界制造業大會數據要素綜合試驗區創新成果暨新模式場景對接會上，科大國創軟件股份有限公司(下稱 “科大國創”)的一項金獎技術，正為破解這一行業痛點提供解決方案。
當天，由國家數據局、安徽省人民政府指導，安徽省數據資源管理局主辦的 2025 年 “數據要素 *” 大賽安徽分賽決賽公布獲獎名單。在涵蓋人工智能、交通運輸等 14 個賽道的 902 支參賽團隊中，科大國創 “基于形式化驗證的 AI 智能體安全漏洞自動挖掘平台” 項目脫穎而出，斬獲人工智能賽道金獎。這項看似複雜的技術，精準瞄準了 AI 應用中的核心隐患。
“現在 AI 技術應用很火，但對其本身安全性、可靠性的關注還不夠，我們正是捕捉到了這個市場機會。” 負責該項目的中科國創高可信軟件有限公司總經理張振海解釋道。通俗而言，該平台相當于給 AI 大模型及智能體做 “全身體檢”—— 通過創新性運用形式化驗證方法，将 AI 大模型的魯棒性、安全性等關鍵性質用形式化語言嚴格定義，再以數學推演的方式逐層排查，精準定位潛在漏洞與缺陷。
為何要如此 “較真”?張振海一語道破關鍵：“AI 大模型從訓練、部署到疊代全靠數據和算法驅動，一旦數據失真、算法有瑕疵，就可能導緻決策失誤，甚至被惡意攻擊。在自動駕駛、航空航天、國防軍工這些關鍵領域，這類問題堪稱‘緻命風險’。” 依托企業自主研發的國創高可信系列工具，該平台将高可信軟件技術融入 AI 安全檢測全流程，不僅能找出漏洞，還能構造反例并提供改進建議，真正實現 “防患于未然”。
目前，這項填補國内人工智能智能體漏洞檢測産品空白的技術，已在中國移動運營商、航空航天等重點行業落地應用，市場化推廣成效顯著。張振海透露，下一步公司計劃将平台移植至 GPU 超算平台，進一步提升算力支撐能力，以應對更大模型、更複雜算法的檢測需求，推動技術向更廣泛産業場景延伸。
除了 AI 安全領域的突破，科大國創在本次世界制造業大會上還集中展現了 “AI + 行業應用” 的全鍊條布局：新能源領域的智能雲 BMS、BEMS 及液冷儲能系統悉數亮相;融合汽車智能駕駛技術的助行機器人，為行動不便群體中短途出行提供便利;可信數據空間、量子科技等前沿探索成果同步展出，彰顯出企業從軟件到硬件、從核心技術到場景落地的全方位賦能實力。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
