AI生成違法違規内容、AI換臉詐騙、AI錯誤信息诽謗、AI侵權……如何應對AIGC時代的内容安全風險?
6月19日，騰訊雲披露行業大模型方案進展，正式公布MaaS(Model-as-a-Service)能力全景圖，助力企業打造專屬的行業大模型。在安全保障方面，騰訊雲在問題側、模型側、答案側三個層面進行敏感信息過濾和規避。同時，依托騰訊二十餘年的安全經驗和天禦大數據能力，提供AIGC全鍊路内容安全解決方案，确保大模型可信、可靠、可用。
AIGC帶來豐富創造力的同時，也帶了全新的内容安全挑戰。相對過去以PGC、UGC為主的内容，AIGC時代的内容安全内涵與外延均有顯著變化。今年4月，國家網信辦發布《生成式人工智能服務管理辦法(征求意見稿)》在黃暴政恐違禁、防止歧視、版權保護、虛假信息防範、個人隐私保護等方面均有明确要求。
據了解，騰訊安全AIGC全鍊路内容安全解決方案，提供包含審校服務、安全專家服務、機器審核服務、版權保護服務四大能力闆塊，覆蓋AIGC類應用從模型訓練到内容生成到事後運營全過程的内容安全建設。
AIGC内容安全新挑戰不僅體現在“天文級”的數據體量，處理的内容也更加複雜。以模型階段為例，除了典型的特征标注外，對标注文本的通順度、邏輯性、連貫性也有較高要求。在内容生成階段,新型AI 僞造、虛假、違背倫理、不适内容、未成年人等違規内容，以及AI 問答産生專業性内容，都超出傳統内容風控的範疇。
騰訊安全依托過去20多年的安全運營經驗，積累了萬億級的違規樣本以及十幾種定制識别服務，可以結合行業場景，為企業的内容安全建設“量體裁衣”。此外，騰訊安全天禦風控還和對象存儲、雲直播、雲點播、實時音視頻等雲上工具打通，企業在雲上一次接入，即可完成全套内容安全審核，大幅提升效率。
AIGC的快速發展也引發了黑灰産的新一輪的攻擊，利用AI換臉、批量生成版權内容套現獲利。對此，騰訊安全做了專項優化,在AIGC引發的版權保護難題上，騰訊安全基于版權資産統一ID庫,助力企業進行版權原創性篩查;此外，騰訊安全還提供“檢測、比對、維權”的全鍊路版權保護服務。騰訊安全從2019年9月起，對B站平台上UP主上傳的原創視頻進行版權監測服務，累計監測作品500餘萬部，累計發現侵權鍊接近3000萬條，發起維權近百萬次，維權成功率達98%。
目前，騰訊安全在AIGC内容安全領域已有多個場景實踐落地，為文生文、文生圖、醫療級視頻内容、長小說文本等類型企業提供内容安全服務，護航生成式人工智能健康發展。
免責聲明：本文僅代表作者個人觀點，與每日科技網無關。其原創性以及文中陳述文字和内容未經本站證實，對本文以及其中全部或者部分内容、文字的真實性、完整性、及時性本站不作任何保證或承諾，請讀者僅作參考，并請自行核實相關内容。
本網站有部分内容均轉載自其它媒體，轉載目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，若因作品内容、知識産權、版權和其他問題，請及時提供相關證明等材料并與我們聯系，本網站将在規定時間内給予删除等相關處理.
