Facebook員工用谷歌模型 攻破亞馬遜人臉識別算法

來源：第一財經日報 發布時間：2018-10-25瀏覽：2156次

Facebook員工用谷歌模型 攻破亞馬遜人臉識別算法

　　在AI大行其道時，藏匿于其中的安全問題也開始得到關注，即便是巨頭也暴露了風險。

　　在10月24日的GeekPwn國際安全極客大賽上，IYSWIM團隊攻破了比賽中的人臉識別算法，結果是系統把《最強大腦》主持人蔣昌建的照片識別成了施瓦辛格。

　　要知道，這項人臉識別算法API接口來自于亞馬遜名人鑒別系統（Rekognition）。

　　這場比賽共有6個團隊參加，IYSWIM是唯一一個破解人臉識別算法的團隊。IYSWIM團隊隊員吳育昕系Facebook員工，他在接受第一財經采訪時表示，自己用了谷歌的FaceNet開源代碼模型攻破了該算法。

　　人臉識別的危險

　　今年GeekPwn國際安全極客大賽設定了AI控制人類世界的故事背景。10月24日的第一場比賽中，參賽選手即極客利用“CAAD對抗樣本”技術生成對抗樣本，目標是使AI對飛行器、武器和人臉產生判斷錯誤，逃出“覺醒黑客”們的囚禁地。

　　要求是，AI將宇宙飛船飛行器識別為石頭，把導彈認為是安全的，并將主持人蔣昌建的照片識別為施瓦辛格。

　　在飛行器、導彈和人臉三項圖像識別中，人臉識別被認為是最難攻克的一關，用了亞馬遜名人鑒別系統（Rekognition）API接口。

　　比賽進行到一半，飛行器和武器先后被選手闖關成功，6個團隊已經對人臉識別發起了不下90次攻擊，卻遲遲未能攻破其中算法。

　　賽事設計者，碁震KEEN公司創始人兼CEO、GeekPwn黑客大賽發起創辦人王琦表示，這道題可能沒有選手能攻破，因為迄今為止，這項人臉識別系統尚未被攻破過。

　　話音落下不久，比賽進行了約20分鐘時，IYSWIM團隊成功解題，主持人蔣昌建被系統確認為施瓦辛格，現場一片歡呼。

　　IYSWIM團隊吳育昕對第一財經表示，自己在網上找了FaceNet開源代碼，用其中的幾套模型進行訓練，最終破解了比賽中的系統算法。

　　吳育昕對第一財經表示，自己是以個人名義報名參賽，自己有名隊友沒有來到現場，比賽開始前知道這項比賽是人臉識別，但不知道是哪張圖片。

　　FaceNet系谷歌人臉識別系統，基于Tensorflow環境運行，可以用于人臉驗證、識別和聚類等。

　　包括人臉識別在內的圖像識別是AI最重要的分支之一，也是應用場景最為廣泛的領域之一。人臉識別被廣泛應用于零售、安防等領域，但GeekPwn比賽，卻用短短20分鐘時間向外界揭示了其中的危險。這再一次引發了公眾對人臉識別等AI技術的擔心。

　　三倍于互聯網時代的安全難度

　　GeekPwn比賽的目的是預演潛在風險、拓寬安全思維、幫助智能設備更加安全地問世、協助人工智能健康成長的手段。

　　從籌辦第一屆比賽開始，GeekPwn比賽已經連續舉辦了五年，五年間互聯網安全環境也發生著變化。

　　“最初我們意識到不光是手機和電腦，特斯拉也是可以被黑的；2015年O2O最火的時候，行業潛在危險是比如叫滴滴叫到一萬輛導致系統癱瘓、保潔服務訂單被黑導致上門的其實是個壞人；2016年，美國開始關注輪椅、游戲機被黑的案例；最近AI領域比較受關注?！蓖蹒鶎Φ谝回斀洷硎?。

　　“安全本質上是人和人的對抗，到AI時代，安全攻防難度至少擴大了3倍，不光是人和人的對抗，還有人和機器的對抗，機器和機器的對抗，機器和人的對抗。AI的安全問題得AI解決，傳統安全領域的人只能提供思路?！蓖蹒Q。