神奇貼紙”可愚弄計(jì)算機(jī)視覺(jué)軟件，人工智能系統(tǒng)還得邁過(guò)這道坎
2018-01-04 12:00:46 來(lái)源：cnBeta.COM 熱度:
長(zhǎng)久以來(lái)，計(jì)算機(jī)科學(xué)家們都在努力開(kāi)發(fā)一些能夠“愚弄”人工智能的圖像類型。而這種特殊的圖片和模式，就被稱作“敵對(duì)圖像”（adversarial images）。實(shí)際上，這么做是利用了計(jì)算機(jī)看待世界的不同方式，讓人工智能的“眼睛”看到了并不存在的東西（可以理解為 AI 版本的“視覺(jué)幻象”）。比如將物理對(duì)象打印在紙張上，做出一幅“眼鏡”來(lái)考驗(yàn)面部識(shí)別系統(tǒng)?，F(xiàn)在，Google 的研究人員們又想出了新的法子，它就是“神奇貼紙”。
上個(gè)月的時(shí)候，研究人員已經(jīng)發(fā)表了一篇描述“敵對(duì)圖像”（Adversarial Patch）的論文。雖然算不上是突破性的進(jìn)展，但至少向前又邁進(jìn)了一步。
這些測(cè)試圖像可以在家里輕松打印出來(lái)，與其它“敵對(duì)圖像”攻擊不同的是，它們顯得相對(duì)“柔性”一點(diǎn)，無(wú)需根據(jù)想要覆蓋的圖像、或者 AI 的視角而進(jìn)行調(diào)整。
文中寫到，即便不知道先前的光線條件、相機(jī)視角、分類、甚至場(chǎng)景里的其它物品，都可以用貼紙來(lái)創(chuàng)建“物理世界的攻擊”。生成了這樣的圖像之后，還可以發(fā)布到網(wǎng)絡(luò)上供其它攻擊者打印和使用。
許多人工智能研究人員都擔(dān)心，這類方法會(huì)對(duì)自動(dòng)駕駛汽車等系統(tǒng)產(chǎn)生危害，比如讓車載系統(tǒng)誤以為高速公路邊有個(gè)“停車”的牌子、或者一張防止個(gè)人被 AI 監(jiān)視系統(tǒng)識(shí)別的標(biāo)簽。
即便普通人可以注意到這些貼紙的異樣，也不一定會(huì)理解它的真實(shí)意圖，甚至認(rèn)為這僅僅是某種藝術(shù)的展現(xiàn)形式。
當(dāng)然，目前暫時(shí)也不用擔(dān)心出現(xiàn)類似的攻擊，畢竟隨著技術(shù)的發(fā)展（打補(bǔ)?。瑯拥奶茁凡灰欢〞?huì)在每一套 AI 系統(tǒng)上都奏效。
下一篇：2017年中國(guó)經(jīng)濟(jì)關(guān)鍵詞：中國(guó)領(lǐng)跑5G正式商用近在咫尺上一篇：新通信行業(yè)周報(bào):“網(wǎng)絡(luò)強(qiáng)國(guó)”建設(shè)推動(dòng)信息通信產(chǎn)業(yè)發(fā)展,NB-IoT作為主流蜂窩物聯(lián)標(biāo)準(zhǔn)加快物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展
責(zé)任編輯：佟美麗
相關(guān)推薦
為什么人工智能和共享經(jīng)濟(jì)會(huì)成為TMT的風(fēng)口？
尋求“智慧升級(jí)” 傳統(tǒng)家電行業(yè)加速探索人工智能
如果這個(gè)世界的工種都被機(jī)器人取代了，人類可以做什么人工智能一路狂飆現(xiàn)隱憂
如果要在2017年的科技領(lǐng)域選出一個(gè)最熱門的話題，那么一定非人工智能(AI)莫屬。2017年，人工智能跳出AlphaGo的棋盤，在獲得輿論極大關(guān)注和資本熱情擁抱的同時(shí)，在各行業(yè)得以廣泛應(yīng)用：在出行領(lǐng)域，由人工智能驅(qū)動(dòng)的無(wú)人駕駛汽車駛?cè)敫鞣N展會(huì)，甚至駛?cè)胄郯残聟^(qū);在醫(yī)療領(lǐng)域，具有深度學(xué)習(xí)和圖像識(shí)別能力的人工智能已經(jīng)可以幫助醫(yī)生識(shí)別肺部結(jié)節(jié)，甚至通過(guò)國(guó)