ISC2020正式開幕，人工智能安全論壇“AI安全起底”

　　進入AI時代，整個安全行業都在迎接全新的挑戰。當人們談論AI安全，都在談些什麼?算法安全，如圖像對抗、語音對抗，還是AI關鍵基礎設施安全?AI技術在網絡安全中又将有哪些應用?這些問題在8月5日召開的ISC2020人工智能安全分論壇上都将找到答案。

　　當日，第八屆互聯網安全大會(ISC2020)正式開幕，這是一場突破圈層、打破壁壘的“萬人在線”網絡安全雲峰會。在人工智能安全分論壇現場，來自中國移動通信有限公司研究院安全技術研究所所長何申、國家互聯網應急中心工程師饒毓、360AI安全研究院研究員劉昭、北京理工大學教授李侃、國家電網研究員趙明明、vivo千鏡實驗室安全研究員劉黃骁烈的不同背景的網絡安全專家、學者圍繞數字時代的人工智能安全議題展開了深度對話與碰撞。

　　AI安全起底：算法安全與基礎設施安全“并駕齊驅”

　　AI技術近些年來發展迅速，相關的産品應用越來越多，相關的安全問題也越來越突出。大多數研究人員都偏向于對算法安全的研究，比如圖像對抗、語音對抗，通過對輸入的圖像或者語音添加擾動信息，使AI模型做出錯誤的判斷。

　　算法安全是AI安全的一個重要組成部分，360AI安全研究院研究員劉昭認為，如果要建立完整的AI安全體系，我們還需要關注AI算法所依賴的基礎設施安全。AI關鍵基礎設施存在容易被忽視的安全問題，如堆棧溢出、未授權訪問、任意文件上傳等，這些安全問題将會導緻嚴重後果，如惡意代碼執行、敏感信息洩露、服務不可用等。

　　360AI安全研究院研究員劉昭指出，AI基礎設施中主要有三個關鍵部分：第一是深度學習框架，其中包含框架自身代碼實現以及第三方圖像處理庫、算子庫等;其次是硬件相關，包含GPU驅動、芯片等;最後是雲平台，包含web框架、虛拟化技術等。

　　針對AI關鍵基礎設施的攻擊，最終可能會導緻更嚴重的後果。劉昭建議，可以通過權限控制、訪問隔離、參數過濾等措施來緩解AI關鍵基礎設施的安全問題。

　　vivo千鏡實驗室安全研究員劉黃骁烈則圍繞對抗樣本的攻與防展開分享，劉黃骁烈指出，目前，對抗樣本的攻防已經不再局限于對抗樣本本身。攻擊者通過人工智能産品的軟硬件漏洞或安全缺陷獲取模型信息，試圖将黑盒轉化為白盒;防禦者結合對抗樣本的特性，通過安全思想和安全技術來提高攻擊成本和攻擊難度。

　　AI應用圖像：網絡安全精準捕獲與分析攻擊行為

　　AI系統存在的漏洞風險帶來巨大的挑戰，但同時，随着AI技術的不斷發展，也在應用上為網絡安全行業帶來更多機會。

　　國家互聯網應急中心工程師饒毓在有關《高位視角下的網絡攻擊團夥發現與追蹤方法探讨》中指出，自2001年至今，國家互聯網應急中心積累了大量的網絡攻擊事件數據，并長期開展安全态勢分析工作。在此基礎上，近幾年來也嘗試甄别海量攻擊事件背後的團夥行為，主動挖掘劃分攻擊團夥并對攻擊團夥進行持續的追蹤。目前，國家互聯網應急中心重點針對DDoS攻擊、web攻擊、詐騙等開展了團夥的自主發現和追蹤，并在大會上分享了DDoS攻擊團夥的一些案例情況。

　　從消費互聯網到産業互聯網時代，網絡安全的需求及理念也在不斷發生變化。

　　在這一背景下，中國移動通信有限公司研究院安全技術研究所所長何申發表了《基于知識驅動的安全智慧決策》，指出未來安全的主題傾向于由網絡運營方來承擔，知識積累和運營也将成為網絡運營方的重要優勢。何申所長介紹了基于知識積累、賦能和基于知識驅動的智慧決策整體架構，從知識的形成、進化與遺忘，以及決策與賦能進行了詳細介紹。未來，将着重研究AI決策的邊界和越界約束，6G數字孿生場景下的知識積累和智慧決策模式，也對知識運營的産業合作進行展望。

　　北京理工大學教授李侃則圍繞群智中台及其在公共安全領域的應用展開演講，李侃表示，群體中台由知識+數據驅動，采用HI+AI共享學習範式，形成群智的橫向和縱向閉環，人在回路，能夠自我進化，具有數據可用不可見，價值可量化的特點。系統通過協作、共享和賦能，促進個體智能釋放傳承、推動群體智能湧現彙聚，激發用戶價值創新活力、提升行業整體智能水平，同時注重保護用戶隐私，已應用于公共安全領域。

　　随後，國網網安公司技術專家、國家電網研究員趙明明從工業生産蜜網搭建和漏洞挖掘實踐角度分享了智能分析技術，蜜罐技術本質上是一種對攻擊方進行欺騙的技術，通過高度仿真工業業務流程，誘使攻擊方對它們實施攻擊，從而可以對攻擊行為進行捕獲和分析，了解攻擊方所使用的工具與方法，推測攻擊意圖和動機，能夠讓防禦方清晰地了解他們所面對的安全威脅，并通過技術和管理手段來增強實際系統的安全防護能力。

　　工業蜜網不僅僅是蜜罐的堆疊，而是結合人工智能、安全知識圖譜、全球情報網絡等技術的綜合型蜜罐網絡。

　　綜上可見，人工智能安全是一個全方位的概念，它甚至不是任何一家公司、社區、生态能夠獨立解決的事情，這也是本次人工智能安全輪胎秉持開放态度的初心，從産品到技術，從框架到理念，ISC2020期待和更多的合作夥伴一起構建開放的AI安全生态。