欧美色图 亚洲|野外口爆视频国产|久久精品视频观看|97精品人人抽插

真真假假：在人類社會(huì)中，人工智能如何防止被騙

2017-08-01 10:49:06 來源：AI Lab 熱度:

人工智能能夠準(zhǔn)確識(shí)別圖像中的物體，或者聽懂人類所表達(dá)的語言，但它的計(jì)算程序并不像人腦那樣運(yùn)作這意味著人工智能不會(huì)像人類一樣可以防止受到欺騙。
 
據(jù)新科學(xué)家雜質(zhì)報(bào)道，來自以色列巴伊蘭大學(xué)和Facebook的人工智能團(tuán)隊(duì)的研究人員已經(jīng)證明，有可能對(duì)音頻片段進(jìn)行細(xì)微的調(diào)整，人類能夠聽懂，但是人工智能卻能識(shí)別出完全不一樣的聲音。這種方法的原理是在一個(gè)聲音片段中加入一層分貝較小的噪音，這個(gè)聲音片段與眾不同，它能模仿神經(jīng)網(wǎng)絡(luò)并和其他語音融合在一起。
 
該團(tuán)隊(duì)將這個(gè)新算法程序命名為“霍迪尼”，并將它應(yīng)用到一系列音頻片段中，然后通過谷歌語音進(jìn)行轉(zhuǎn)錄。一個(gè)原始聲音片段是：
 
Herbearingwasgracefulandanimatedsheledhersonbythehandandbeforeherwalkedtwomaidswithwaxlightsandsilvercandlesticks.
她牽著兒子的手，舉止優(yōu)雅，充滿活力。兩個(gè)女仆走在她前面，手里拿著蠟燈和銀燭臺(tái)。
 
當(dāng)這一原創(chuàng)內(nèi)容通過谷歌語音轉(zhuǎn)錄時(shí)，它成了：
Thebearingwasgracefulananimatedshelethersonbythehandandbeforehewalkstwomaidswithwaxlightsandsilvercandlesticks.
 
通過聽力測(cè)試，被改編的版本與人耳所聽到的并沒有區(qū)別，它被轉(zhuǎn)錄為：
MarywasgratefulthenadmittedshelethersonbeforethewalkstoMayswouldlikeslicefurnacefiltercountsix.
 
該團(tuán)隊(duì)的成就也可以應(yīng)用于其他機(jī)器學(xué)習(xí)的算法程序中。對(duì)人的圖像進(jìn)行調(diào)整，可能會(huì)讓人工智能的算法程序發(fā)生錯(cuò)亂，人工智能會(huì)將一個(gè)擺pose的人誤認(rèn)為這個(gè)人站錯(cuò)了位置。通過在馬路場(chǎng)景的圖像中添加噪聲，該團(tuán)隊(duì)能夠騙過汽車應(yīng)用程序的人工智能算法程序。這個(gè)算法程序通常是用來對(duì)路況和路標(biāo)進(jìn)行分辨的。這些基于圖像的研究結(jié)果，與去年由OpenAI和谷歌大腦的機(jī)器學(xué)習(xí)機(jī)構(gòu)的研究人員發(fā)布的研究結(jié)果相似。
 
這些所謂的對(duì)抗樣本似乎是一個(gè)奇怪的研究領(lǐng)域，但它們可以用來對(duì)機(jī)器學(xué)習(xí)算法進(jìn)行壓力測(cè)試。更令人擔(dān)憂的是，它們也可以被惡意利用，誘使人工智能聽聞一些根本不存在的東西例如，讓自動(dòng)駕駛汽車在路上看到虛假的交通路況，或者讓智能語音提醒聽到假的指示信息。當(dāng)然，實(shí)際上，在實(shí)際生活中運(yùn)用這些技術(shù)，和在實(shí)驗(yàn)室里做實(shí)驗(yàn)是完全不同的兩碼事。不僅僅是因?yàn)楂@取數(shù)據(jù)是一個(gè)棘手的問題。
 
也許最有趣的便是找到一種方法來保護(hù)人工智能不受困擾，但這其實(shí)也是相當(dāng)困難的。正如我們?cè)谶^去所解釋的那樣，我們無法真正理解深層神經(jīng)網(wǎng)絡(luò)的內(nèi)部如何運(yùn)作，這意味著我們不知道為什么人工智能會(huì)感受到聲音片段或圖像中的細(xì)微變化。在我們做到這一點(diǎn)之前，對(duì)人工智能算法來說，對(duì)抗樣本將一直存在。

責(zé)任編輯：黃焱林