再見AI黑匣子：研究人員教會(huì)AI進(jìn)行自我解釋
2018-03-01 14:52:45 來源：thenextweb 熱度:
AI決策過程的黑匣子問題一直是AI領(lǐng)域最大的擔(dān)憂之一，但近期黑匣子決策問題似乎被破解。來自加州大學(xué)伯克利分校、阿姆斯特丹大學(xué)、Facebook AI Research團(tuán)隊(duì)的研究人員創(chuàng)建出一個(gè)AI自我解釋模型，該模型可使AI在回答問題時(shí)指出問題對(duì)應(yīng)的證據(jù)，在回答相關(guān)圖像問題時(shí)，其能夠?yàn)槠錄Q策提供自然語言理由并指出圖像顯示證據(jù)。
來自加州大學(xué)伯克利分校、阿姆斯特丹大學(xué)、Facebook AI Research團(tuán)隊(duì)的研究人員創(chuàng)建出一個(gè)AI自我解釋模型，該模型可使AI在回答問題時(shí)指出問題對(duì)應(yīng)的證據(jù)，在回答相關(guān)圖像問題時(shí)，其能夠?yàn)槠錄Q策提供自然語言理由并指出圖像顯示證據(jù)。
“黑匣子”變得透明，這是一件大事。
在許多環(huán)境中，深度模型既有效又可解釋;先前可解釋的模型是單峰模型，提供了基于圖像的注意權(quán)重的可視化或基于文本的事后理由的生成。
這次的研究提出了一種多模式的解釋方法，并且認(rèn)為這兩種模式提供了互補(bǔ)的說明性優(yōu)勢(shì)。
團(tuán)隊(duì)收集兩個(gè)新的數(shù)據(jù)集來定義和評(píng)估這個(gè)任務(wù)，并提出一個(gè)新的模型，可以提供聯(lián)合文本理性和可視化生成。我們的數(shù)據(jù)集定義了活動(dòng)識(shí)別任務(wù)（ACT-X）和視覺問題解答任務(wù)（VQA-X）的分類決策的視覺和文本理由。
在數(shù)量上表明，使用文本解釋進(jìn)行培訓(xùn)不僅可以產(chǎn)生更好的文本理由模型，還可以更好地定位支持決策的證據(jù)。我們還定性地展示了視覺解釋比文本解釋更具洞察力的情況，反之亦然，支持我們的論點(diǎn)：多模式解釋模型提供了超越單峰方法的顯著優(yōu)勢(shì)。
VQA-X定性結(jié)果：對(duì)于每個(gè)圖像，PJ-X模型提供了答案和理由，并指出了該理由的證據(jù)。
弄清楚為什么一個(gè)神經(jīng)網(wǎng)絡(luò)做出它所做的決定是人工智能領(lǐng)域最大的擔(dān)憂之一。正如它所稱的那樣，黑盒問題實(shí)際上使我們不能相信AI系統(tǒng)。
像人類一樣，它可以“指出”它用來回答問題的證據(jù)，并且通過文本可以描述它如何解釋證據(jù)。它的開發(fā)旨在回答那些需要九歲小孩平均智力的問題。
這是人們第一次創(chuàng)建了一個(gè)可以用兩種不同方式解釋自己的系統(tǒng)：
我們的模型是第一個(gè)能夠?yàn)闆Q策提供自然語言理由并指向圖像中的證據(jù)的人。
研究人員開發(fā)了AI來回答關(guān)于圖像的簡(jiǎn)單語言查詢。它可以回答關(guān)于給定場(chǎng)景中的對(duì)象和動(dòng)作的問題。它通過描述它看到的內(nèi)容并突出顯示圖像的相關(guān)部分來解釋它的答案。
它并不總是讓事情正確。在實(shí)驗(yàn)過程中，人工智能感到困惑，無法確定一個(gè)人是否在微笑，也無法分辨出一個(gè)人在使用吸塵器的人和一個(gè)正在使用吸塵器的人之間的區(qū)別。
但是，這是一個(gè)重點(diǎn)：當(dāng)電腦出現(xiàn)問題時(shí)，我們需要知道原因。
為了達(dá)到任何可衡量的成熟度，AI的領(lǐng)域需要調(diào)試，錯(cuò)誤檢查和理解機(jī)器決策過程的方法。神經(jīng)網(wǎng)絡(luò)發(fā)展并成為我們數(shù)據(jù)分析的主要來源時(shí)尤其如此。
為人工智能展示其工作并以外行人員的角度解釋自己，這是一個(gè)巨大的飛躍，可以避免每個(gè)人似乎都很擔(dān)心的機(jī)器人啟示。
責(zé)任編輯：吳一波
相關(guān)推薦
巴帝電信夢(mèng)想成真：107億美元收購Zain非洲資產(chǎn)這筆交易將為巴帝電信在15個(gè)非洲國家?guī)?200萬用戶，意味著其躋身新興市場(chǎng)頂尖運(yùn)營商的夢(mèng)想終于成真。Zain出售非洲資產(chǎn)套現(xiàn)90億美元在雙方約定的107億美元中包括90億美元的股份收購，支付方式將為現(xiàn)金。其中83億美元將在交易結(jié)束后支付，7億美元將在交易結(jié)束一年后支付。此外，巴帝電信還須代替Zain承擔(dān)起17億美元的綜合債務(wù)。據(jù)稱，Zain可分派儲(chǔ)備和40億美元循環(huán)貸款償付的規(guī)模須經(jīng)股東批準(zhǔn)，它打算以股息的形式向股東分配前期大部分凈收入。Zain集團(tuán)董事長阿薩德·艾爾·班萬（AsaadAlBanwan）評(píng)價(jià)該交易時(shí)相當(dāng)?shù)靡猓骸白?005年收購Celtel以來，我們大幅增長成為非洲主要的移動(dòng)運(yùn)
蘋果CEO庫克暗示不會(huì)推ARM芯片MacBook Air北京時(shí)間2月4日消息，據(jù)國外媒體報(bào)道，蘋果首席執(zhí)行官蒂姆庫克（TimCook）和首席財(cái)務(wù)官彼得奧本海默（PeterOpenheimer）近日與花旗分析師會(huì)談時(shí)指出，由于iPad發(fā)展前景廣闊，所以不太可能去開發(fā)基于ARM芯片的MacBookAir；中國市場(chǎng)蘊(yùn)含著巨大的增長潛力；AppleTV前景仍不明朗；而iCloud發(fā)展迅速且非常重要。iPad將繼續(xù)發(fā)展，不會(huì)推出基于ARM芯片的Mac。庫克重申了他在季度財(cái)報(bào)電話會(huì)議上所說的話，他認(rèn)為平板電腦市場(chǎng)將繼續(xù)發(fā)展，最終將超過傳統(tǒng)PC市場(chǎng)的規(guī)模。蘋果并未將iPad看作是PC產(chǎn)品，而是將它看作一款后PC產(chǎn)品，因此基于ARM芯片的平板電腦將不會(huì)與基于英特爾
AirPlay支持 YAMAHA全新AVENTAGE功放
小米AI音箱發(fā)布 299元的智能生活助理