黃健翔“變身”伊萬卡?GeekPwn舞台上的AI又賣萌了

　　精密識别下驚現“AI障眼法”; AI監視之下一展“隐身術”!在10月24日于上海舉辦的GeekPwn國際安全極客大賽的現場,一衆黑客與AI針鋒相對,再度技驚四座,為觀衆呈現了一系列扣人心弦的人工智能攻破挑戰。

　　霍金教授生前曾預言:人工智能崛起要麼是人類的事情,要麼就是最糟糕的事情。正如任何事物都具備的兩面性,AI勾勒出令人向往未來的同時,其帶來的安全威脅也可能是人類從未面臨過的。作為全球探索人工智能與專業安全的平台,GeekPwn2019繼續對AI安全展開了探索。

　　高精度圖像識别AI緣何“指鹿為馬”?

　　AI技術的發展,讓人臉識别技術備受青睐,“刷臉”目前已經被應用到了大部分領域。ATM機上的刷臉取款、自動售貨機的刷臉購物等等。相比于肉眼識别,AI人臉識别确實可以大幅度提高識别精度。大範圍的應用普及似乎賦予了AI“至高無上的權利”,然而,在極客眼中,它們并非能夠做到萬無一失,甚至會将肉眼能夠輕松識别的事物完全錯認。

　　作為GeekPwn大賽的重頭戲,此次CAAD CTF圖像對抗樣本攻防賽為選手提供了三個挑戰:定向攻擊,非定向攻擊,并攻擊知名人臉識别服務,其中非定向攻擊要求選手通過一張對抗性圖片欺騙三組開源分類器,定向攻擊則要求選手利用一張對抗圖片讓開源分類器将圖片錯認為某一固定事物,而人臉識别攻擊則要求選手對三款人臉識别服務發起挑戰。通過長達三輪預選賽的激烈角逐,共有六支戰隊來到GeekPwn舞台決賽現場。

　　CAAD圖像CTF各戰隊展開角逐

　　在比賽中,來自清華大學的TSAIL戰隊首先在“非定向識别”、“定向識别”前兩項任務中取得高分,并在難度的第三項“人臉識别攻擊”挑戰中成功欺騙圖像分類器,讓Clarifai人臉識别系統将黃健翔識别成伊萬卡,雖然置信度很低,但依照比賽規則,選手攻破成功!最終TSAIL戰隊以229.77的總得分,獲得CAAD圖像CTF項目。

　　在AI之眼下實現隐身需要分幾步?

　　或許是與生俱來的獵奇心态,亦或是對未能實現事物特有的憧憬,人們對于“隐身”這項能力似乎有着獨特的情結,而這一情結也在諸多影視作品中演繹得淋漓盡緻:哈利波特中“隐形鬥篷”;神奇四俠中的“隐形著名演員”蘇珊斯通,蝙蝠俠中的超級反派幽靈紳士……在GeekPwn2019的舞台上影視橋段中的“超能力”成為了現實。CAAD隐身挑戰賽中,選手僅通過A4紙便在AI的監視下成功實現了“隐身”。

　　根據“CAAD隐身挑戰賽”的規則,評委現場指定兩款标準算法模型,兩種算法可以從視頻或圖像中進行目标檢測識别人體的存在。而選手們則需要在規定時間内,通過總面積不超過一張A4大小的對抗圖片來遮擋身體,并在現場接受算法的實時檢測,如果算法模型識别不出人的存在且結果維持10s以上,則挑戰成功。

　　CAAD隐身挑戰賽選手讓現場觀衆實現“隐身”

　　在比賽現場,Hiding Cat、NISLer、TSAIL三支戰隊選手通過打印多張“圖像對抗樣本”,并讓現場觀衆将樣本舉在胸前,成功躲過了檢測系統的識别完成挑戰。三組選手的成功挑戰檢測距離均為1米,其中TSAIL戰隊使用的紙張面積最小,僅為196平方厘米。值得一提的是,此次比賽選手全部攻破的是被視為“目标檢測網絡的之作”的YOLOv3系統。

　　全新推出的CAAD隐身挑戰賽對于AI安全來說有着極高的現實意義,在對抗樣本的作用下,活生生的人可以在鏡頭下實現“隐身”,犯罪分子甚至可以逃避執法機關的追捕,成為行走在鏡頭下的“危險隐形人”!

　　此次GeekPwn2019 CAAD系列比賽,為我們呈現歎為觀止的攻破挑戰的同時,也為當下“大紅大紫”的AI技術安全性敲響了警鐘,一旦對抗樣本在某些真實環境下被濫用,便很有可能造成極為嚴重的後果。

　　在人工智能與大衆的生活越來越近的今天,前沿技術的安全性研究需要引起更為廣泛的重視,保障人們在享受科技的同時規避其高速發展帶來的風險。GeekPwn自創辦以來便一直專注于智能生活與專業安全,為大衆帶來極具腦洞的破解展示,并向廠商提交近千個漏洞,讓更多的人關注到前沿安全的重要性,讓人們的未來生活更加安全。