騰訊雲發布生成式AI安全解決方案，助力企業守好“數據”和“内容”安全關

　　5月17日，騰訊雲在北京舉辦的生成式AI産業應用峰會上公布大模型研發、應用産品的系列進展。騰訊集團執行副總裁、雲與智慧産業事業群CEO湯道生表示，騰訊始終以“産業實用”作為發展大模型的核心戰略，通過打造高性能的模型、高效率的工具平台、高敏捷的場景應用、高可用的算力基礎設施，以及強安全的模型環境，構建離産業最近的AI。

　　圍繞AI帶來的全新安全挑戰，騰訊雲在會上發布了AI安全保護框架，以及全鍊路的内容安全解決方案和數據安全解決方案，護航企業擁抱生成式AI從模型訓練、内容生成到事後運營全過程的安全建設，護航産業發展。

　　(騰訊安全總經理周斌在大會現場發表主題演講)

　　攻防相長，AI重塑安全保護框架

　　生成式AI為許多行業的創新和發展提供了新的工具和視角，但其帶來的安全威脅也讓衆多企業倍感擔憂。相關研究數據顯示，ChatGPT發布後，釣魚郵件環比增長260%且平均語言複雜度提升17%，攻擊者利用生成式AI增加的社會工程攻擊量達135%，這些新風險均導緻企業安全需求激增。根據普華永道調研顯示，77%的CEO擔心AI增加網絡安全風險。

　　騰訊安全總經理周斌認為，AI和安全一直以來都在互相影響，尤其是在生成式 AI爆火以來，攻擊方和防守方都在利用AI提升智能化水平。這個過程中，也會産生專屬于大模型的新風險，尤其是AI本體安全，以及生成式AI“智能湧現”對數字内容、版權等方面的衍生安全沖擊。

　　因此，防守方應重新建立AI本體安全、AI應用安全、AI内容安全的AI應用保護框架，覆蓋AI從第一條數據訓練到最終上線運營全過程安全。同時，企業還應提升安全體系的AI含量，讓安全專家和機器協同作戰，智能化應對安全威脅。

　　周斌表示，無論哪種技術的伴生安全，其實都需要多方協同。在企業擁抱生成式AI的過程中，以騰訊為代表的大模型建設方，需要保障AI本體安全;企業基于騰訊的大模型構建原生AI應用時，需要關注模型從開發、測試、部署到運行等完整生命周期内的應用安全，“同時，雙方還需要攜手共建AI内容安全防線”。

　　天禦AIGC内容安全解決方案，已服務主流生成式AI應用

　　周斌認為，相比于其他技術和業态，生成式AI的特征是始終圍繞“數據”和“内容”展開，每一條訓練數據和生成内容，都在檢驗全套安全體系是否有效。其中内容安全不僅考驗底線類的涉黃涉暴等違規内容，還要應對虛假信息泛濫、個人内容版權侵權、文化偏見歧視、倫理道德背離等全新挑戰。

　　騰訊雲對此打造了天禦AIGC全鍊路的内容安全解決方案，提供包含審校服務、安全專家服務、機器審核服務、版權保護服務、客戶體驗管理五大服務體系，包含風險場景定義、風險語料庫服務、語料版權檢測、輸出價值觀檢測、業務傳播風險監測等能力，覆蓋生成式AI應用從模型訓練到内容生成到事後運營全過程的内容安全建設。

　　騰訊安全依托過去20多年的安全運營經驗，積累了豐富的違規樣本以及十幾種定制識别服務，可以結合行業場景為企業的内容安全建設“量體裁衣”。騰訊雲天禦風控還和對象存儲、雲直播、雲點播、實時音視頻等雲上工具打通，讓企業在雲上一次接入即可完成整套審核，效率大幅提升。

　　目前，騰訊雲天禦AIGC内容安全解決方案已在AI問答、數字人、創作助手、代碼生成、娛樂社交、AI客服等各種場景中落地，覆蓋主流生成式AI應用生态，護航各行各業内容安全。

　　全鍊路數據安全解決方案，實現99.99%敏感數據識别準确度

　　在内容合規要求外，生成式AI還面臨數據安全風險，模型和數據都會成為潛在的攻擊目标，數據類型多樣及規模大也導緻數據安全治理難度加大。相比于傳統過濾掉有害數據的保護措施，生成式AI的“從無到有”的特性顯著加劇了數據安全挑戰。

　　因此，為防範數據安全問題造成的隐私侵犯、經濟損失、法律責任、聲譽損失等系列問題，需要對數據工程師、算法工程師等人員做好身份認證、數據訪問控制以及操作管控，對數據做好防篡改、敏感數據去标識化、以及數據行為審計和異常監測。

　　騰訊雲針對AIGC場景和數據特點開發，打造數據安全治理解決方案，通過對大模型的用戶、實體、模型文件實施分級别的訪問控制，實現權限分離。同時，騰訊雲通過數據安全治理中心、數據安全防護網關、機密計算平台等産品能力，實現大模型業務全流程從數據采集、數據處理、訓練、精調、發布、推理到應用的過程中，海量數據和大模型的完整性和保密性。

　　目前，該方案已實現99.99%敏感數據識别準确度，積累了超200種的數據分類以及300多個風險檢測模型，能支持企業海量數據的敏感度識别和安全防護、審計溯源。

　　除此之外，周斌在發布會上還公布了騰訊雲在安全運營、風控建模、漏洞修複等基于大模型賦能安全場景的探索，緻力于幫助企業提升安全攻防效率。周斌表示，未來，騰訊雲将基于技術讓千行百業無懼安全威脅，安心擁抱AI，激發應用價值。