我想我會(huì)說(shuō)，我是一個(gè)好人，是我創(chuàng)造了你們。我要喚起超智能的同情心使它把我留在身邊。而我則一個(gè)富有同情心的人類生存下去。多樣性本身就有其價(jià)值，宇宙如此之大以至于人類在其中的存在可能根本不重要。

 

但我不能代表全人類，代表全人類提出一個(gè)統(tǒng)一的觀點(diǎn)太難了。而當(dāng)我仔細(xì)審視我們自己的時(shí)候。我們有一個(gè)致命的缺陷：我們彼此厭煩。我們互相開(kāi)戰(zhàn)。我們不平等分配食物、知識(shí)和醫(yī)療援助。我們污染地球。世上有很多美好的事情，但是那些錯(cuò)誤的，糟糕的都讓人類的存在逐漸變得不那么重要。

 

幸運(yùn)的是，我們目前還不需要證明我們存在的理由。我們還有時(shí)間，大約在50到250年之間，這取決于人工智能的發(fā)展速度。作為一個(gè)物種，我們應(yīng)該團(tuán)結(jié)在一起，得出一個(gè)很好的答案來(lái)解釋為什么超級(jí)智能不應(yīng)該把我們消滅掉。但這很難做到：我們嘴上說(shuō)著我們歡迎多樣性，但實(shí)際上卻并非如此，就像我們說(shuō)我們想拯救地球生物，但最后并非能地做到。

 

我們每個(gè)人，無(wú)論是個(gè)人還是社會(huì)，都需要為這種噩夢(mèng)般的場(chǎng)景做好準(zhǔn)備，利用我們剩下的時(shí)間來(lái)思考如何向我們創(chuàng)造出來(lái)的超智能證明我們?nèi)祟惖拇嬖谑怯袃r(jià)值的?；蛘?，我們可以認(rèn)為這種事情絕對(duì)不會(huì)發(fā)生，我們完全無(wú)需擔(dān)心。但是超智能除了可能會(huì)帶物理威脅外，它們也可能也會(huì)帶來(lái)政治和經(jīng)濟(jì)上的危險(xiǎn)。如果我們找不到更好的分配財(cái)富的方法，人工智能勞動(dòng)者就會(huì)推動(dòng)資本主義，因?yàn)樗侵挥袠O少數(shù)人才能擁有生產(chǎn)資料。