欧美色图 亚洲|野外口爆视频国产|久久精品视频观看|97精品人人抽插

加利福尼亞大學(xué)研究報(bào)告:讓AI自我懷疑以防人類被顛覆

2017-06-15 10:36:20 來(lái)源:人工智能網(wǎng) 熱度:
專家稱,人工智能機(jī)器人應(yīng)該被賦予自我懷疑的屬性,并有必要讓機(jī)器人尋求人類肯定,以防人類被機(jī)器人推翻。
 
 
隨著真正的人工智能的發(fā)展,專家們朝著奇點(diǎn)(機(jī)器將變得比人類更聰明)不斷靠攏,研究人員正在研究如何確保人類在未來(lái)仍然是在地球的頂端。許多專家警告說(shuō),開(kāi)發(fā)和我們一樣有能力的機(jī)器會(huì)帶來(lái)危險(xiǎn),因?yàn)樗赡軙?huì)讓人類失業(yè),并最終將我們視為阻礙,把我們從地球上抹去。
 
為了應(yīng)對(duì)這一威脅,科學(xué)家們提出了可以對(duì)應(yīng)的措施,其中一個(gè)思路是,開(kāi)發(fā)人員應(yīng)該給人工智能裝上自我懷疑的能力。這個(gè)想法認(rèn)為,如果人工智能會(huì)去懷疑他們自己,它就需要從人類那里尋求安慰,就像狗一樣。這樣就能鞏固我們作為地球統(tǒng)治階層的地位。
 
來(lái)自加利福尼亞大學(xué)的一個(gè)小組的研究結(jié)果顯示,自我懷疑的機(jī)器人更聽(tīng)話。該研究小組在一篇發(fā)表在arXiv的論文中寫道:“很明顯,用來(lái)降低AI系統(tǒng)行為不當(dāng)風(fēng)險(xiǎn)的措施之一,是設(shè)計(jì)人類關(guān)閉系統(tǒng)的功能。隨著人工智能系統(tǒng)的能力不斷提高,應(yīng)確保此類系統(tǒng)不會(huì)產(chǎn)生與人類關(guān)閉系統(tǒng)起沖突的子目標(biāo)。我們的研究目的是發(fā)現(xiàn)人工智能允許自己被關(guān)閉的動(dòng)機(jī)是什么。在一個(gè)模擬實(shí)驗(yàn)中,一個(gè)機(jī)器人的“大腦”被人為關(guān)閉了,同時(shí)他能夠自動(dòng)重啟。沒(méi)有自我懷疑屬性的機(jī)器人重新啟動(dòng),但擁有該屬性的機(jī)器人因它不確定結(jié)果是否違背人類的意愿而并未重啟。”
 
該團(tuán)隊(duì)總結(jié)道:我們的分析表明,那些對(duì)其自身功能不明的人工智能,他們有動(dòng)機(jī)去接受或?qū)で笕祟惖谋O(jiān)督。因此,開(kāi)發(fā)對(duì)其本身功能不明確的系統(tǒng),是設(shè)計(jì)研究安全人工智能系統(tǒng)方向一個(gè)很有前景的領(lǐng)域。

責(zé)任編輯:黃焱林

相關(guān)推薦

Telairity H.264 編碼技術(shù)為2010年世界杯全球高清/標(biāo)清轉(zhuǎn)播提供支持

DVBCN消息2010年7月7日電--Telairity卓越的H.264編碼技術(shù)是為全球近十億人觀看2010年世界杯足球賽提供支持的“秘密要素”。整個(gè)亞洲、南太平洋以及世界杯主辦國(guó)南非的觀眾都是依靠Telairity的H.264/AVC編碼器來(lái)收看高清(HD)和標(biāo)清(SD)比賽轉(zhuǎn)播的。有了Telairity的H.264現(xiàn)代技術(shù),世界各地的網(wǎng)絡(luò)運(yùn)營(yíng)商和廣播、衛(wèi)星及有線電視公司可以更換掉舊的MPEG-2壓縮系統(tǒng),為客戶提供更出色的視頻質(zhì)量并顯著降低對(duì)帶寬的依賴,從而大幅減少傳輸成本。泰國(guó)國(guó)營(yíng)電信公司CATTelecomPublicCompanyLimited安裝了Telairity高清和標(biāo)清編碼器

ST高清電視系統(tǒng)級(jí)芯片獲Adobe AIR for TV認(rèn)證

意法半導(dǎo)體(STMicroelectronics,簡(jiǎn)稱ST)宣布,其先進(jìn)的高清電視系統(tǒng)級(jí)芯片(SoC)平臺(tái)取得了巨大進(jìn)步,此項(xiàng)成果將意法半導(dǎo)體推向能夠運(yùn)行基于Adobe®AIR®的游戲和其它應(yīng)用軟件的下一代互聯(lián)網(wǎng)電視技術(shù)的最前沿。意法半導(dǎo)體已成功移植AdobeAIR®2.5forTV軟件至第三代先進(jìn)互動(dòng)高清機(jī)頂盒系統(tǒng)芯片平臺(tái),并通過(guò)Adobe產(chǎn)品認(rèn)證。AdobeAIR軟件是AdobeFlash平臺(tái)的一個(gè)重要組件,原始設(shè)備制造商(OEM)、原始設(shè)計(jì)制造商(ODM)、服務(wù)開(kāi)發(fā)人員以及應(yīng)用開(kāi)發(fā)人員能夠在這個(gè)平臺(tái)開(kāi)發(fā)豐富的網(wǎng)絡(luò)應(yīng)用軟件和游戲,專門為機(jī)頂盒和數(shù)字電視等嵌入式設(shè)備和

把面向數(shù)字家庭的Adobe Flash引進(jìn)到MIPS-Based平臺(tái)

TriplePlayIntegration銷售副總裁MikeNottage什么是三重播放集成?TPI公司是一家致力于提供數(shù)字家庭視頻平臺(tái)解決方案的專業(yè)軟件服務(wù)公司。TPI公司還是官方Adobe的“ScalingPartner”,為消費(fèi)電子平臺(tái)提供FlashPlayer10、AIR和舞臺(tái)美術(shù)技術(shù)提供優(yōu)化的端口。我們有25名具有專業(yè)的項(xiàng)目管理和質(zhì)量保障經(jīng)驗(yàn)的高級(jí)工程師團(tuán)隊(duì),平均具有24年的工作經(jīng)驗(yàn).你們能夠提供什么樣的

Alan Tsai:移動(dòng)終端GPU之趨勢(shì)與迷思

DVBCN數(shù)字電視中文網(wǎng)訊(敖瑞),2012年6月15日(周五),由ARM主辦的“跨界、變革、多贏——ARM移動(dòng)智能終端研討會(huì)暨應(yīng)用開(kāi)發(fā)者大會(huì)”在上海舉行。本次約有20名廠商代表上臺(tái)演講;參會(huì)并參與展示會(huì)的廠商超過(guò)30家,均為ARM在各個(gè)領(lǐng)域的合作伙伴。ARM亞太市場(chǎng)開(kāi)發(fā)經(jīng)理AlanTsai做出了“移動(dòng)終端GPU之趨勢(shì)與迷思”的精彩演講。Alan表示:在用戶體驗(yàn)上來(lái)說(shuō),分辨率已經(jīng)可以高達(dá)人眼都無(wú)法辨析的地步了。公允的說(shuō),業(yè)界對(duì)GPU的評(píng)判標(biāo)準(zhǔn)存在太多的分歧:從三角形的角度來(lái)看,涉及到生成率、裁切率等指標(biāo),不同類型的GPU產(chǎn)品根本沒(méi)法比;從填充率的角度上