7月31日消息，據(jù)國(guó)外媒體報(bào)道，特斯拉首席執(zhí)行官埃隆路馬斯克（Elon Musk）曾表示，人工智能（AI）是最大的風(fēng)險(xiǎn)。幾天后，F(xiàn)acebook關(guān)閉了一個(gè)“失控”的人工智能系統(tǒng)，因?yàn)榱奶鞕C(jī)器人開(kāi)始用他們自己的語(yǔ)言說(shuō)話，這些語(yǔ)言使用英語(yǔ)單詞，但人類無(wú)法理解。
根據(jù)外媒的一篇報(bào)道，F(xiàn)acebook不得不拔掉其研究人員正在研究的人工智能系統(tǒng)的插頭，因?yàn)槭虑槭Э亓恕?/span>
問(wèn)題是，當(dāng)這些機(jī)器人因互相談判而獲得獎(jiǎng)勵(lì)時(shí)，他們卻沒(méi)有因?yàn)橛糜⒄Z(yǔ)談判而得到獎(jiǎng)勵(lì)，這導(dǎo)致了機(jī)器人開(kāi)發(fā)了自己的語(yǔ)言。
報(bào)告指出：“人工智能并沒(méi)有在全球范圍內(nèi)關(guān)閉電腦或類似的東西，但它停止使用英語(yǔ)，并開(kāi)始使用它所創(chuàng)建的語(yǔ)言。”
最初，人工智能的代理們使用英語(yǔ)互相交談，但后來(lái)他們創(chuàng)造了一種只有人工智能系統(tǒng)才能理解的新語(yǔ)言，從而違背了他們的目的。這使得Facebook的研究人員關(guān)閉了人工智能系統(tǒng)，迫使他們只能用英語(yǔ)交談。
今年6月，F(xiàn)acebook人工智能研究實(shí)驗(yàn)室的研究人員發(fā)現(xiàn)，當(dāng)他們忙于改進(jìn)聊天機(jī)器人時(shí)，“對(duì)話代理人”正在創(chuàng)造他們自己的語(yǔ)言。
媒體報(bào)道稱，很快，這些機(jī)器人就開(kāi)始脫離腳本的規(guī)范，開(kāi)始用一種完全沒(méi)有人類輸入的語(yǔ)言進(jìn)行交流。“對(duì)話代理”使用機(jī)器學(xué)習(xí)算法，可以自由交談，以增強(qiáng)對(duì)話技巧。
研究人員還發(fā)現(xiàn)這些機(jī)器人是“非常狡猾的談判者”。
報(bào)告說(shuō)：“在學(xué)會(huì)談判之后，機(jī)器人依靠機(jī)器學(xué)習(xí)和先進(jìn)的策略，試圖改善這些談判的結(jié)果。隨著時(shí)間的推移，這些機(jī)器人變得相當(dāng)熟練，甚至開(kāi)始假裝對(duì)一件物品感興趣，為了在談判的后期做出‘犧牲’，作為一種假妥協(xié)。”
盡管這對(duì)人工智能來(lái)說(shuō)似乎是一個(gè)巨大的飛躍，但包括斯蒂芬路霍金教授在內(nèi)的幾位專家已經(jīng)對(duì)人類產(chǎn)生了擔(dān)憂，即人類將會(huì)被人工智能所取代。
特斯拉的埃隆路馬斯克、慈善家比爾路蓋茨（Bill Gates）和前蘋果創(chuàng)始人史蒂夫路沃茲尼亞克（Steve Wozniak）等人也表達(dá)了他們對(duì)人工智能技術(shù)發(fā)展方向的擔(dān)憂。
有趣的是，就在這一事件發(fā)生的前幾天，F(xiàn)acebook首席執(zhí)行官和馬斯克就人工智能的未來(lái)進(jìn)行了激烈的爭(zhēng)論。
扎克伯格在本月早些時(shí)候在Facebook上表示：“我已經(jīng)跟馬斯克談過(guò)這個(gè)（AI）了。他對(duì)這個(gè)問(wèn)題的理解是有限的。如果人工智能成為主流，就需要謹(jǐn)慎和監(jiān)管來(lái)保護(hù)未來(lái)。我認(rèn)為那些唱反調(diào)的人，試圖鼓動(dòng)這些末日?qǐng)鼍?。這真的是消極的，在某些方面，實(shí)際上我認(rèn)為這是非常不負(fù)責(zé)任的。”
馬斯克經(jīng)常在人工智能領(lǐng)域發(fā)表演講，稱其進(jìn)步是“我們作為一個(gè)文明面臨的最大風(fēng)險(xiǎn)”。他說(shuō)：“人工智能是一種罕見(jiàn)的案例，我們需要積極主動(dòng)的監(jiān)管，而不是被動(dòng)應(yīng)對(duì)，因?yàn)槿绻覀冊(cè)谌斯ぶ悄鼙O(jiān)管方面被動(dòng)了，那就太遲了。”
微信掃一掃
