“AI 是一把‘雙刃劍’，它在帶來颠覆性機遇的同時，也衍生出了前所未有的安全挑戰。”360 集團創始人、ISC 大會主席周鴻祎如此說道。在 9 月 8 日于上海外灘 FTC 舉行的 ISC.AI 大模型安全論壇暨 360 大模型安全衛士産品發布會上，周鴻祎列舉了一系列令人警醒的風險點，如惡意利用、内容安全、幻覺問題、提示詞攻擊等。
“大模型既是生産力工具，也可能成為新的攻擊載體和攻擊入口。” 周鴻祎指出，“政府和企業的數據資産、商業機密面臨着前所未有的暴露風險。保障 AI 安全，不僅是一項技術挑戰，更是一項長期而艱巨的任務，需要各方協同努力。” 這并非危言聳聽，而是 360 基于多年在網絡安全領域深厚積累所形成的深刻洞察。當大模型與關鍵基礎設施、核心業務深度融合，任何細微漏洞都可能被急劇放大，釀成災難性後果。
360 數字安全集團副總裁餘凱在随後的演講中，進一步剖析了當前 AI 安全的困境：“面對 AI 安全新挑戰，傳統安全企業在大模型技術領域積澱不足，往往‘盲人摸象’，難以系統把握全局;而多數大模型企業缺乏必要的安全技術積累與攻防實踐經驗，難以提出行之有效的解決方案。” 這番話一針見血地指出了當前市場上 “懂 AI 不懂安全，懂安全不懂 AI” 的普遍痛點，而這也正是 360 能夠脫穎而出的關鍵所在。
“以模制模”：四大智能體築牢 AI 安全新防線
在智能時代，單純依靠傳統安全手段來抵禦 AI 攻擊已遠遠不夠。360 給出的應對之策是 “以模制模”。這一概念的核心，是借助 AI 自身的強大能力，去理解、識别并對抗 AI 帶來的安全風險。
360 數字安全集團副總裁餘凱深入闡釋道：“作為國内唯一兼具數字安全和人工智能雙重能力的企業，360 充分發揮‘懂 AI 更懂安全’的跨領域優勢，基于‘以模制模’理念打造 360 大模型安全衛士，聚焦解決 AI 的‘可靠、可信、可控、向善’核心問題。”
360 大模型安全衛士并非單一工具，而是由四大智能體協同運作的智能安全系統，它們如同四位各司其職的忠誠守護者，系統性地解決大模型生命周期各環節的安全問題。
内容安全智能體：AI 世界的 “道德審查官”
内容安全智能體堪稱 AI 世界的 “道德審查官”。通過垂直領域專業模型訓練，它具備智能判定、風險内容檢測及安全回複代答等關鍵能力。餘凱介紹：“我們建立了五道内容防線，擁有 100 + 風險類目識别能力，确保輸入輸出雙向安全。同時，我們以測促防，持續對模型回複内容進行評測，識别潛在攻擊風險。” 這意味着，無論是惡意投毒、信息洩露，還是不當内容生成，都将遭到嚴密審查與攔截。
AI Agent 安全智能體：讓 AI Agent 行為可控
随着 AI Agent 的普及，其自主規劃與執行能力在提升效率的同時，也埋下了行為失控的隐患。AI Agent 安全智能體通過原生安全機制，全方位保障 AI Agent 執行任務時的數據安全與權限控制，有效防範可能出現的 “脫缰野馬” 現象。餘凱形象地比喻：“我們的目标是把大模型能力‘關在籠子裡’”，确保 Agent 的行為始終限定在預設的安全邊界内。
幻覺抑制智能體：提升大模型輸出可靠性
大模型的 “幻覺” 問題，即生成看似合理實則錯誤或虛假信息，長期以來是影響其可靠性的一大難題。360 運用搜索增強、知識增強與對齊增強技術，顯著提升大模型推理過程的準确性，有效抑制因内容時效性缺失、數據過時等因素引發的幻覺問題。餘凱強調：“我們緻力于确保生成内容真實可信”，這将極大增強用戶對大模型輸出信息的信任度。
軟件安全智能體：守護 AI 軟件供應鍊安全
AI 應用的底層軟件供應鍊安全同樣不容忽視。軟件安全智能體能夠高效識别開源軟件，精準定位 AI 軟件的安全漏洞，覆蓋從模型訓練到推理的全鍊路安全檢測。餘凱表示：“我們支持識别模型服務相關組件、生态鍊漏洞掃描與多語言代碼審計，保障 AI 軟件供應鍊生命周期的安全性。” 這意味着從代碼編寫到模型部署的每一步，都處于安全監控之下。
此外，360 創新性地将大模型安全衛士融入安全運營體系，通過整合安全大模型、安全大腦平台、大模型安全衛士及終端探針工具的核心能力，構建 “網數模一體化” 安全運營平台，實現了安全運營的系統性重塑與升級。這宛如為 AI 時代的數字世界打造了一座全方位的 “智慧警衛室”。
實踐出真知：AI 安全新基建的實戰成效
“AI 安全是一個門檻極高的技術領域，它需要同時具備 AI 技術積澱、安全實戰經驗、真實場景驗證和海量語料積累。” 餘凱說。360 大模型安全衛士已在公司内外多項業務中深度應用，并取得顯著成效。
自有 AI 大模型業務實踐：為業務穩定運行護航
在 360 自有 AI 大模型業務中，大模型安全衛士日均守護 1.5 萬卡算力集群、3000P + 算力及數十條核心 AI 業務鍊路，為業務穩定運行築牢安全防線。在内容安全方面，部署 360 大模型安全衛士後，可将開源大模型安全性提升 10 - 30%。這一數據有力證明了其在實際應用中的強大防護能力。
智慧政務内容安全保障：提升政務服務安全性與效率
在某智慧政務内容安全保障工作中，360 大模型安全衛士日均檢測不良内容 1000 餘條，業務代答 900 餘條，回複安全率超 99%，風險識别準确率達 99% 以上。這不僅守住了政務工作的安全底線，更有力推動了政府的智能化轉型，讓政務服務更安全、高效。
大模型備案監管支撐：助力構建健康 AI 生态
360 大模型安全衛士還積極投身大模型備案監管工作，接入 8 個備案大模型，完成 100 + 檢查，積累專項評測數據集超 100 萬條。這為監管部門提供了強有力的數據支持與決策依據，助力構建健康有序的 AI 生态。
助力上海，共築 AI 發展高地
作為國内領先的數字安全企業，360 不僅專注于自身産品與技術創新，還積極參與國家标準制定，推動行業生态建設。據悉，360 已深度參與大模型國家标準、大模型技術研發标準、大模型安全框架标準以及國家人工智能三大核心安全标準的制定。同時，公司還積極牽頭成立行業生态聯盟，促進全球産學研企共建 AI 安全。
此次發布會選址上海，彰顯了 360 助力上海打造人工智能發展高地的堅定決心。上海作為我國人工智能産業的重要基地，對 AI 安全需求極為迫切。360 大模型安全衛士的發布，将為金融、政務、醫療、文旅等重點行業的智能化升級提供堅實安全基座，助力這些行業在智能化浪潮中穩健前行，共同打造具有全球競争力的人工智能發展高地，為推動大模型技術的安全發展與創新應用注入強大動能。正如周鴻祎所說：“我們堅信，隻有安全可控的 AI，才能真正服務于人類，造福于社會。”
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
