欧美色图 亚洲|野外口爆视频国产|久久精品视频观看|97精品人人抽插

AI發(fā)展出人類無法理解的語言 臉書關閉“失控”項目

2017-08-01 11:17:31 來源：新智元 熱度:
Facebook上個月引起廣泛爭議的“開發(fā)出人類無法理解”的溝通的智能對話機器人項目已經(jīng)被關閉，因為研究者擔心會“失控”。
　　
根據(jù)digitaljournal網(wǎng)站21日的報道，F(xiàn)acebook上個月引起廣泛爭議的“開發(fā)出人類無法理解”的溝通的智能對話機器人項目已經(jīng)被關閉。隨后，多家科技媒體也報道了這則消息。
 
 
上個月，F(xiàn)acebook 人工智能研究所（FAIR）使用機器學習方法，對兩個聊天機器人進行對話策略迭代升級，結(jié)果發(fā)現(xiàn)它們竟自行發(fā)展出了人類無法理解的獨特語言。研究者不得不對其進行了人工干預。
 
　
6月20日，美國《大西洋月刊》公布了其中一段聊天記錄
　　
這一研究一經(jīng)發(fā)布，迅速在網(wǎng)絡和媒體上引起了廣泛的關注和傳播，不少人在驚呼：機器創(chuàng)造了自己的語言，人類都無法理解，細思極恐。
　　
但是也有人指出，這不就是一堆亂碼嗎？
　　
現(xiàn)在，這一系統(tǒng)被關進了“小黑屋”。根據(jù)國外媒體的報道，現(xiàn)在Facebook 的研究院已經(jīng)停止了這一項目的研究，原因是“擔心可能會對這些AI失去控制”。
　　
這不是第一次發(fā)現(xiàn) AI 偏離訓練所用的英文，轉(zhuǎn)向發(fā)展出新的更加有效的語言。雖然在人類看來，這些溝通更像是胡言亂語。但是，從AI 智能體的角度上看，他們實際上是有詞義意義的。
　　
用新的語言進行溝通：英語缺乏“反饋”
 
　
這篇研究報告的主旨是說機器人可以成為不錯的談判者——他們甚至會假裝對某件沒有價值的東西感興趣，然后在談判過程中犧牲掉它，好像做出了讓步。而關于對話智能體發(fā)展出自我語言的部分，在研究報告中確實只是一鱗半爪，但卻引發(fā)了大家的關注。
 
　
正如Fast Co. Design報道，研究員注意到，系統(tǒng)中的聊天機器人（bots）完全放棄了用英語進行交流，但是，升級版的系統(tǒng)確實能夠與其他的智能體進行交流。他們一起可以決定如何繼續(xù)進行任何工作。一開始，他們所使用的詞匯似乎是無法理解的，但是，通過長期的觀察，研究者發(fā)現(xiàn)，這些詞匯其實代表了智能體面臨的任務。
　　
例如，在一次交流中，兩個進行對話的機器人——Bob 和 Alice，使用自己創(chuàng)造的語言來完成了交流。Bob 開始說：“I can can I I everything else”。Alice回答，“Balls have zero to me to me to me to me to me to me to me to me to。” 接下來的對話都是類似這樣的句子。
　　
雖然這些詞語組合第一眼看上去沒什么實際意義，但是，研究者認為，他們揭示了兩個機器人是如何工作的，每一個詞匯他們需要進行多少次處理。Bob的重復說明了他如何使用這一詞匯，來想Alice傳遞更多的信息。如果用這種方法來進行闡述，那么它所說的那就好就有點像人們所說的“I’ll have three and you have everything else”。
　　
看起來，似乎智能體們發(fā)現(xiàn)，英語的句子對于特定場景的理解并不是必需的。當下，以深度學習為主的AI 遵循的是“回饋”（reward）原則，智能體通過依照一系統(tǒng)特定的行為行動，會獲得相應的利益（benefit）。但是，在這一場景中，繼續(xù)使用英語并沒能帶來相應的回饋，所以智能體決定適應更加高效的方法進行溝通。
　　
Facebook AI Research (FAIR)的研究員對FastCo. Designs說，“英語語言中，并沒有所謂的回饋能讓智能體來遵從。”
　　
FastCo. Designs報道稱：“智能體會偏離自己人類能理解的語言，創(chuàng)造出自己的‘代碼語言’。比如，如果提到‘the’ 5次，那么就是我想要復制這一術語5次。這和人類創(chuàng)造的縮寫其實也沒有多大的差別。”
　　
其他的AI開發(fā)者也注意到了智能體會使用“縮寫”來簡化溝通。在Open AI，研究者成功地讓AI機器人學會自己創(chuàng)造的語言。
　　
問題在哪
　　
如果AI繼續(xù)創(chuàng)建自己的語言，開發(fā)人員可能會在創(chuàng)建和采用新的神經(jīng)網(wǎng)絡時遇到問題，但是不清楚這是否會讓機器實際上推翻其研發(fā)者。
　　
然而，這些新的發(fā)展使得AI能夠更有效地工作，并且如果他們在工作中學習新的AI創(chuàng)建的“縮寫”，并保持最新的這種新的溝通方式，可以使研究團隊長期受益。

責任編輯：黃焱林

相關推薦

Telairity H.264 編碼技術為2010年世界杯全球高清/標清轉(zhuǎn)播提供支持

DVBCN消息2010年7月7日電--Telairity卓越的H.264編碼技術是為全球近十億人觀看2010年世界杯足球賽提供支持的“秘密要素”。整個亞洲、南太平洋以及世界杯主辦國南非的觀眾都是依靠Telairity的H.264/AVC編碼器來收看高清(HD)和標清(SD)比賽轉(zhuǎn)播的。有了Telairity的H.264現(xiàn)代技術，世界各地的網(wǎng)絡運營商和廣播、衛(wèi)星及有線電視公司可以更換掉舊的MPEG-2壓縮系統(tǒng)，為客戶提供更出色的視頻質(zhì)量并顯著降低對帶寬的依賴，從而大幅減少傳輸成本。泰國國營電信公司CATTelecomPublicCompanyLimited安裝了Telairity高清和標清編碼器

ST高清電視系統(tǒng)級芯片獲Adobe AIR for TV認證

意法半導體（STMicroelectronics，簡稱ST）宣布，其先進的高清電視系統(tǒng)級芯片（SoC）平臺取得了巨大進步，此項成果將意法半導體推向能夠運行基于Adobe®AIR®的游戲和其它應用軟件的下一代互聯(lián)網(wǎng)電視技術的最前沿。意法半導體已成功移植AdobeAIR®2.5forTV軟件至第三代先進互動高清機頂盒系統(tǒng)芯片平臺，并通過Adobe產(chǎn)品認證。AdobeAIR軟件是AdobeFlash平臺的一個重要組件，原始設備制造商（OEM）、原始設計制造商（ODM）、服務開發(fā)人員以及應用開發(fā)人員能夠在這個平臺開發(fā)豐富的網(wǎng)絡應用軟件和游戲，專門為機頂盒和數(shù)字電視等嵌入式設備和

把面向數(shù)字家庭的Adobe Flash引進到MIPS-Based平臺

TriplePlayIntegration銷售副總裁MikeNottage什么是三重播放集成？TPI公司是一家致力于提供數(shù)字家庭視頻平臺解決方案的專業(yè)軟件服務公司。TPI公司還是官方Adobe的“ScalingPartner”，為消費電子平臺提供FlashPlayer10、AIR和舞臺美術技術提供優(yōu)化的端口。我們有25名具有專業(yè)的項目管理和質(zhì)量保障經(jīng)驗的高級工程師團隊,平均具有24年的工作經(jīng)驗.你們能夠提供什么樣的

Alan Tsai：移動終端GPU之趨勢與迷思

DVBCN數(shù)字電視中文網(wǎng)訊（敖瑞），2012年6月15日（周五），由ARM主辦的“跨界、變革、多贏——ARM移動智能終端研討會暨應用開發(fā)者大會”在上海舉行。本次約有20名廠商代表上臺演講；參會并參與展示會的廠商超過30家，均為ARM在各個領域的合作伙伴。ARM亞太市場開發(fā)經(jīng)理AlanTsai做出了“移動終端GPU之趨勢與迷思”的精彩演講。Alan表示：在用戶體驗上來說，分辨率已經(jīng)可以高達人眼都無法辨析的地步了。公允的說，業(yè)界對GPU的評判標準存在太多的分歧：從三角形的角度來看，涉及到生成率、裁切率等指標，不同類型的GPU產(chǎn)品根本沒法比；從填充率的角度上