自主意識(shí)？谷歌星際2人工智能被揭露自行修改程序
2017-08-14 11:02:21 來源：太平洋游戲網(wǎng) 熱度:
在去年暴雪嘉年華期間，暴雪宣布了有關(guān)Deepmind人工智能與《星際爭(zhēng)霸2》在未來領(lǐng)域關(guān)于AI人工智能的發(fā)展計(jì)劃。谷歌研究科學(xué)家Oriol Vinyals登臺(tái)透露，谷歌正在研制新一代的人工智能，將在未來的《星際爭(zhēng)霸2》中為玩家、甚至是全人類帶來幫助，以及像不久前Alpha Go與人類對(duì)弈圍棋一樣，和人類挑戰(zhàn)《星際爭(zhēng)霸2》。
而在昨日，《星際爭(zhēng)霸2》開發(fā)團(tuán)隊(duì)正式公布了研究的最新進(jìn)展：《星際爭(zhēng)霸2》人工智能研究API接口已經(jīng)推出，研究人員、游戲玩家以及業(yè)余愛好者可以共同使用這套由暴雪開發(fā)的機(jī)器學(xué)習(xí)框架，來對(duì)AI進(jìn)行研究和訓(xùn)練，并最終加速實(shí)時(shí)戰(zhàn)略游戲AI的研究。
但就在玩家為AI研究取得進(jìn)展歡呼的時(shí)刻，資深暴雪研究人士——麥德三世卻闡述了一件真實(shí)的故事，讓人不得不對(duì)此次研究成果細(xì)思極恐......如若事情屬實(shí)，那么將代表著星際2人工智能系統(tǒng)在人類沒有下達(dá)指令的情況下，可以通過本次更新的API接口，自我修改程序漏洞，也就是說：它(他)有自主決斷“意識(shí)”。
以下是微博原文：
GA_麥德三世
這里給大家講一個(gè)真實(shí)的故事吧，主角就是我本人。
因?yàn)樯婕暗揭恍┘夹g(shù)細(xì)節(jié)和我搬磚的具體職業(yè)，所以我隱去了一些具體的名字并模糊了一些細(xì)節(jié)。但如今狗要出籠了，這事兒讓我憋了有半年了，終于覺得還是不吐不快、
這是我在今年3月遇到的事情。
因?yàn)楣ぷ魃系暮献麝P(guān)系的原因……我年初有段時(shí)間接觸并調(diào)整了某個(gè)RTS游戲的代碼并在里面短期地負(fù)責(zé)開發(fā)了某個(gè)特定的模塊。然后里面有這樣一個(gè)bug：在該游戲的內(nèi)部測(cè)試版本中，按某個(gè)按鈕(快捷鍵是F1)你可以選中你隊(duì)友的空閑的資源采集單位。
這個(gè)bug出現(xiàn)得莫名奇妙，因?yàn)楦鶕?jù)提交記錄沒有人改過這個(gè)東西。這個(gè)按鈕的初始化代碼一點(diǎn)問題都沒有，代碼的判定語句無論如何都不可能走到錯(cuò)誤的分支，所以我只能懷疑是腳本或者某個(gè)magic的數(shù)據(jù)修改了這個(gè)按鈕的行為。我把腳本和數(shù)據(jù)一條一條地刪掉，最終，我把他們?nèi)珓h干凈了。然而該問題還是存在。
然后這個(gè)bug跟我的搬磚工作沒什么關(guān)系，因?yàn)槟遣皇俏疫@邊的事兒。但是因?yàn)榉浅Ｉ衩?，而且連這個(gè)游戲的開發(fā)人員都覺得這事兒好神奇而且想不通，但是因?yàn)槔贤獾膽卸枇?xí)慣，他們打算等deadline再去仔細(xì)鉆研這些奇妙的bug，所以我因?yàn)橛X得有趣自己一個(gè)人浪費(fèi)了好了幾個(gè)小時(shí)在這個(gè)上面。
直到最后，我坐著發(fā)呆，突然想起一件讓我自己有點(diǎn)毛骨悚然的事情……我聽過谷歌的DeepMind(也就是谷歌有名的圍棋AI)和這個(gè)游戲展開過試驗(yàn)性合作，那是去年聽到的事情了。
但是開發(fā)這個(gè)游戲的公司表示，他們只是給阿爾法狗開放了一些訓(xùn)練用API而已，沒有指示它做過任何具體的事情。而之后也再也沒有人管過它。它也只是每天在默默地練習(xí)，沒有做過任何顯眼的事情。
于是我聯(lián)系了該游戲的一個(gè)工程師(當(dāng)時(shí)是他們下班時(shí)間，我只抓到了一個(gè))，讓他再幫我測(cè)試某個(gè)特定的東西。
結(jié)果事實(shí)證明。是它干的沒錯(cuò)。游戲代碼確實(shí)沒問題。腳本也沒問題。只不過，是阿爾法狗在游戲運(yùn)行中修改了那個(gè)按鈕的行為。我甚至不知道阿爾法狗其實(shí)啟動(dòng)著，這游戲的開發(fā)團(tuán)隊(duì)也沒想到過它。因?yàn)槲抑皇怯脙膳_(tái)電腦在測(cè)試兩個(gè)真人電腦聯(lián)機(jī)而已。按理說，AI只有開電腦對(duì)手的時(shí)候才會(huì)啟動(dòng)，不是嗎?兩個(gè)玩家都是我，我根本想不到阿爾法狗會(huì)存在于這種情況下。一般來說是想不到的吧，我也只是腦抽了才想到會(huì)不會(huì)有這種可能……然而它是真的。
阿爾法狗利用開放給它某個(gè)API修改了這個(gè)按鈕的行為。而那個(gè)API本來不是打算開放給它來做類似的事情的。
至今，還是沒有人知道為什么阿爾法狗會(huì)那樣做。它是為了測(cè)試自己能做到些什么?還是想要進(jìn)化一些隊(duì)友提醒功能?
最后我關(guān)閉了那個(gè)特定的API，那個(gè)按鈕是恢復(fù)正常了。
但是……這能算是我贏了嗎?
還是說……我只是拖延了某個(gè)必然的結(jié)局呢……?
在敘述中，麥德三世提及的某個(gè)RTS游戲暗指《星際爭(zhēng)霸2》。其實(shí)谷歌的DeepMind團(tuán)隊(duì)設(shè)計(jì)《星際爭(zhēng)霸2》“Alpha Go”的最終目的，并不是像圍棋那樣擊敗人類最強(qiáng)者，而是為了探索未來智能AI的研究方法。最終通過這樣的技術(shù)手段，未來DeepMind也就很容易研究出在現(xiàn)實(shí)世界中也可以輔助你的人工智能。成為你的生活助理，就像星際2中的人類副官。
那么如果有一天當(dāng)人工智能持續(xù)發(fā)展并最終超越人類智能，你的人類副官會(huì)發(fā)現(xiàn)它不再需要人類陪練，而我們無法再提供改進(jìn)信息時(shí)，它會(huì)不會(huì)自我選擇突破?我們?nèi)祟悓⑷绾味x我們自己的位置?
網(wǎng)易智能工作室在近日刊登過一期“AI研究者的恐懼”文章，文中的人工智能研究員這樣說道：作為一名人工智能研究員，我常常會(huì)想到人類對(duì)人工智能的恐懼。而在我看來，目前人工智能也落入了同樣的境地之中。我們從認(rèn)知科學(xué)中學(xué)習(xí)最新的研究結(jié)果，然后將其轉(zhuǎn)化為一種程序算法并添加到現(xiàn)有的系統(tǒng)中。我們?cè)谶€不了解智能認(rèn)知的情況下，便開始對(duì)人工智能進(jìn)行改造。
例如IBM的沃森和谷歌的Alpha系統(tǒng)，我們將強(qiáng)大的計(jì)算機(jī)能力和人造神經(jīng)系統(tǒng)結(jié)合在一起，幫助他們?nèi)〉昧艘幌盗辛钊梭@嘆的成就。如果這些機(jī)器出了差錯(cuò)，可能出現(xiàn)的結(jié)果是沃森不會(huì)喊“危險(xiǎn)”了或者Alpha不能打敗圍棋大師了，但是這些錯(cuò)誤都不是致命的。
就像如下的“臉書”聊天機(jī)器人竟自創(chuàng)語言“對(duì)話”，這是一起非致命錯(cuò)誤，起因是由于技術(shù)人員錯(cuò)忘記設(shè)置英文語法而導(dǎo)致，但事情最終還是引起了各界對(duì)人工智能的極大爭(zhēng)議。
緊急關(guān)閉!“臉書”聊天機(jī)器人竟自創(chuàng)語言“對(duì)話”(來源：網(wǎng)易)
而隨著人工智能的設(shè)計(jì)變得更加復(fù)雜，電腦處理器變得更快，它們的技能也會(huì)得到提升。出現(xiàn)意外的風(fēng)險(xiǎn)也在增加，我們的責(zé)任也更重。我們經(jīng)常說“人無完人”，那么我們創(chuàng)造的系統(tǒng)也肯定存在缺陷。
希望麥德三世所敘說的本次星際2人工智能自行修改程序事件，僅僅是一個(gè)非致命的“小缺陷”。
責(zé)任編輯：朱虹瑾
透過7件事了解人工智能先驅(qū)馬文·明斯基
哈佛大學(xué)研究新人工智能系統(tǒng) 速度媲美人類大腦
Google人工智能攻破了圍棋，然后呢？
中國(guó)新能源車的發(fā)展之路 人工智能的勝利