2016年GeekPwn硅谷站：谷歌大腦團隊的資深研究員Ian Goodfellow
中新網8月29日電 在人工智能異?；鸨拇蟓h(huán)境下，各種生物識別技術的應用已經越來越廣泛。聲紋識別作為生物識別領域很重要的識別方式，已經逐漸滲透到人們的日常生活：借助聲紋識別技術，智能硬件產品將可以實現“聞聲識人”；公安機關將能更有效地遏制與打擊犯罪；金融機構則得以大幅提高風險防范系統安全性。
2017年，全球最大關注智能生活的黑客大賽GeekPwn(極棒)，將設立500萬總獎金池，繼續(xù)探索智能領域的安全問題。在保留“無所不 PWN” 的報名規(guī)則和比賽形式的基礎上，開設專項“人工智能安全挑戰(zhàn)賽”，招募AI黑客的安全挑戰(zhàn)項目。同時，還將增設“AI仿聲驗聲攻防賽”，以此鼓勵全球頂尖AI黑客或AI相關領域的安全研究團隊積極參與。
以AI的方式擊敗AI “黑客 VS AI”開戰(zhàn)在即
如果說由于AI的學習發(fā)展模式會導致黑客的蓄意攻擊，那么AI自身的特性也會引發(fā)“不自覺的相互攻擊”，這才是AI發(fā)展過程中最大的隱藏威脅。KEEN公司CEO、GeekPwn大賽發(fā)起人和創(chuàng)辦人王琦表示，隨著AI在交通、金融和醫(yī)療體系中運用的愈加完善，一旦AI失去控制，后果將不堪設想。GeekPwn希望在惡意分子真正動手之前，找到對抗這些攻擊的方法，幫助人工智能更加健康的發(fā)展。
作為全球首個探索人工智能與專業(yè)安全的前沿平臺，2017年， GeekPwn首創(chuàng)人工智能安全挑戰(zhàn)專項。根據功能區(qū)分，人工智能安全挑戰(zhàn)專項分為 PWN AI 與 AI PWN 兩部分。旨在鼓勵全球黑客自由報名，對已發(fā)布的AI 服務、產品、庫、框架等發(fā)起挑戰(zhàn)。
同時， GeekPwn組委會還在500萬總獎金池中抽出40萬獎金增設“AI仿聲驗聲攻防賽”。即日起，面向全球招募優(yōu)秀AI安全極客或AI研究團隊，用AI的方式向聲紋識別系統發(fā)起攻擊。
參賽隊伍將從目標人物的聲音中學習語音特征并合成音頻，攻擊若干語音驗證系統，突破或欺騙目標系統本身的用戶身份鑒別功能。王琦針對大賽規(guī)則解釋到，簡單來說，就是以AI的方式擊敗AI的防線。屆時，將會有10支隊伍進入10月24日在上海舉辦的GeekPwn2017嘉年華，第一名的隊伍將有可能獲得最高20萬元的獎金。
聲紋識別已滲透日常生活 方便同時帶來安全隱患
人工智能將會如何改變一個普通人的日常生活？隨著生物科技的不斷發(fā)展和廣泛應用，包括人臉、指紋、掌紋、虹膜等生物特征已被用于公司打卡、軟件系統登錄、家庭或公共場所的安防等多個場景。由于生物識別技術的準確率已經達到與人工識別接近的程度。越來越多的人將目光放在另外一種生物識別技術上——聲紋識別。
在世界范圍內，聲紋識別技術已應用于如金融、證券、刑偵、以及其他民用安全認證系統等諸多領域。然而，聲紋識別所締造的“獨一無二”的聲音真的無法被打破嗎？如果有一天，這些被人們認為是安全保障的人工智能被利用或者是攻擊，將會對人們的日常生活帶來怎樣的危害？
在深度學習大紅大紫的今天，人工智能已經暴露出諸多問題。而人工智能與白帽黑客的過招，早在國內外有各種實踐。在2016年GeekPwn嘉年華上，來自谷歌大腦團隊的資深研究員Ian Goodfellow就分享了“對抗性圖像在物理世界中欺騙機器學習”的成果，僅在一張圖片上加入了人眼無法察覺的干擾因素，就輕松騙過機器導致其做出了錯誤的判斷。
王琦表示，AI并不是萬無一失。AI圖像領域存在被欺騙的可能性，AI被欺騙，看似人工智能的錯誤和不完善，但其實在黑客眼里就有可能變成可以利用的漏洞。針對AI，黑客可以根據不同領域的技術特點，利用障眼法等手段，蒙蔽、欺騙、誘導人工智能出現“失誤”，甚至引發(fā)災難。AI的這些失誤，用黑客思維理解，就會變成可以利用的漏洞。
據悉，2017年GeekPwn嘉年華將于10月24日、11月13日分別在中國上海和美國硅谷共同舉辦，全球頂尖黑客將在GeekPwn的舞臺上帶來眾多“前所未見”、“腦洞大開”的項目。
責任編輯：靳玉鳳