騰訊安全亮相聯合國互聯網治理論壇，用AI守護兒童網絡内容安全

　　近日,以“互聯網大聯合”為主題的第十六屆聯合國互聯網治理論壇(IGF)開幕。12月10日,騰訊安全産品總監王翔受邀參加論壇下設《人工智能為兒童——面向兒童群體的人工智能應用調研報告》發布活動,分享騰訊安全基于人工智能為兒童營造健康數字生活的思考與實踐。

　　圖為發布活動現場

　　IGF是聯合國框架下關于互聯網治理問題的開放性論壇,旨在促進全球各方在互聯網公共政策方面的讨論和對話,把握全球互聯網治理重要機遇,本屆論壇聚焦經濟社會、市場監管、環境等問題。發布活動由中國網絡社會組織聯合會、中國傳媒大學、聯合國兒童基金會共同舉辦,向全球展示中國在面向兒童群體的人工智能領域所取得的成就,加強國際交流合作,進一步從人工智能的角度探讨經濟和社會的平等與包容,探索構建有意義的人工智能為兒童國際通用标準。活動在中國傳媒大學圓形報告廳設置線下專場,以線上+線下的方式邀請國内外的行業專家、相關機構及企業代表參與。

　　圖為騰訊安全産品總監王翔

　　如何用科技讓兒童安全上網、健康用網、助力成長,是一個牽動億萬家庭、長期性與緊迫性并存的社會新課題。騰訊秉承着“科技向善”的願景使命,在打造提升人類生活質量的新技術,提供各類互聯網服務的同時,也充分利用人工智能技術維護用戶權益。基于騰訊安全天禦内容風控能力、騰訊優圖的AI内容審核能力,騰訊啟動Guard for Children項目,緻力于營造清朗的網絡空間,從而避免網絡不良信息威脅兒童的網絡學習和生活。

　　Guard for Children項目将從三個方面展開工作。首先是通過公開課的形式對家長和兒童進行安全教育,騰訊推出了一系列關于如何認識網絡空間和如何應對網絡欺淩的公共教育課程,幫助兒童變得堅強和心智成熟,并為其提供網絡幫助;其次是與教育局展開合作,為14歲以下兒童設計和定制視頻和音頻,使用人工智能進行智能組合推薦;同時還通過人工智能檢測,減少兒童的不适當内容和不适合兒童觀看的内容呈現,例如色情、欺淩、不良行為、不良ACG等。

　　據統計,中國有17.5億14歲以下的互聯網用戶,2019年,46%的兒童遭遇過各類網絡安全事件,不良體驗主要來源于内容不當。由于兒童的信息分辨能力、網絡安全事件應對能力弱,從源頭上為其阻隔不良内容實屬關鍵。Guard for Children項目于2020年9月正式上線,通過海量訓練得到的AI識别能力,能夠精準識别侵害兒童的隐私内容、過濾出不良内容傳播,包括兒童色情、校園暴力、青少年犯罪、煙賭毒等内容,淨化兒童的上網環境。

　　騰訊安全天禦風控依托20多年業務安全運營及黑灰産對抗經驗,憑借行業安全專家、完備安全的大數據及AI技術積累,為企業從“情報-攻防-管理-規劃”四維構建安全戰略,助力企業建立完善長效的青少年網絡内容治理機制。目前該方案已為1500+家平台提供内容安全服務,共計審核圖片總量已突破3000億條,累計攔截不良内容超5億條。

　　去年12月,騰訊還聯合聯合國兒童基金會等三大公益組織發起了騰訊Light·公益創新挑戰賽,該挑戰賽以“AI,讓美好現在發生”為主題,邀請開發者和公益界的有志之士,根據“未成年人網絡保護”等主題,利用騰訊雲AI提供的人工智能技術打造公益小程序,以科技之力守護未成年人健康成長。大賽共吸引了共663支隊伍近3000名選手參賽,經過四個多月激烈的角逐,24支團隊成功入圍決賽,湧現了一批用技術和創意讓AI落地公益場景的項目,為提升效率、解決社會痛點等方面帶來科技力量。據了解,今年的大賽也将于近期啟動。

　　未來,騰訊也将輸出更多數字化能力和經驗,踐行“科技向善”,攜手更多社會力量守護兒童健康成長。