這份100頁的報(bào)告標(biāo)題為《人工智能的惡意用途：預(yù)測(cè)、預(yù)防和緩解》（The Malicious Use of Artificial Intelligence： Forecasting， Prevention， and Mitigation）【點(diǎn)此下載報(bào)告全文英文版】，參與撰寫的專家來自14家不同的機(jī)構(gòu)和組織，包括牛津大學(xué)、劍橋大學(xué)和埃隆·馬斯克（Elon Musk）的OpenAI等。

 

作者在其中詳細(xì)闡述了人工智能可能在未來幾年做出哪些令人們普遍反感的事情。由于人工智能在很多方面的能力都遠(yuǎn)超人類，所以該報(bào)告認(rèn)為，這種技術(shù)現(xiàn)在會(huì)幫助敵對(duì)國家、犯罪分子和恐怖分子展開精準(zhǔn)而高效的攻擊，不僅能夠擴(kuò)大范圍，還可以提高效率。

 

該報(bào)告寫道：“隨著人工智能越來越強(qiáng)大，越來越普及，我們預(yù)計(jì)人工智能系統(tǒng)的廣泛應(yīng)用將導(dǎo)致現(xiàn)有威脅的擴(kuò)大，還會(huì)引發(fā)新的威脅，甚至改變典型的威脅特征。”他們還警告稱，由于人工智能可以擴(kuò)大規(guī)模，并減輕人類的負(fù)擔(dān)，所以攻擊成本也會(huì)大幅降低。類似地，由于可以借助這種系統(tǒng)來完成人類通常難以完成的任務(wù)，所以也有可能出現(xiàn)新的攻擊。

 

具體來說，該報(bào)告認(rèn)為，與自動(dòng)攻擊、釣魚、語音合成、數(shù)據(jù)中毒有關(guān)的網(wǎng)絡(luò)攻擊將會(huì)增多。無人機(jī)以及全自動(dòng)和半自動(dòng)駕駛系統(tǒng)的出現(xiàn)也會(huì)構(gòu)成新的風(fēng)險(xiǎn)，包括多輛無人駕駛汽車故意撞擊，使用數(shù)千架無人機(jī)協(xié)同攻擊，把商用無人機(jī)變成人臉識(shí)別刺客，控制關(guān)鍵基礎(chǔ)設(shè)施以索要贖金。在政治方面，人工智能還可以用于左右民眾觀點(diǎn)，形成高度精準(zhǔn)的宣傳，傳播虛假但卻可信的文章和視頻。人工智能還能在私有和公共空間催生更好的監(jiān)控技術(shù)。

 

　　為了緩解這些威脅，該報(bào)告給出了5點(diǎn)建議：

 

　　- 人工智能和機(jī)器學(xué)習(xí)研究人員應(yīng)該承認(rèn)其研究成果是雙刃劍。

 

　　- 政策制定者應(yīng)該與技術(shù)人員密切合作，調(diào)查、預(yù)防和緩解人工智能可能的惡意使用方式。

 

　　- 應(yīng)該向電腦安全等其他高風(fēng)險(xiǎn)技術(shù)領(lǐng)域?qū)W習(xí)一些方法，將其應(yīng)用于人工智能領(lǐng)域。

 

　　- 應(yīng)該在這些領(lǐng)域優(yōu)先形成規(guī)范和道德框架。

 

　　- 討論這些挑戰(zhàn)時(shí)所涵蓋的利益相關(guān)者和專家范圍應(yīng)該擴(kuò)大。

 

除此之外，報(bào)告作者還認(rèn)為，應(yīng)該“重新思考”網(wǎng)絡(luò)安全，并對(duì)制度化和技術(shù)性解決方案展開投資。他們還表示，開發(fā)者應(yīng)該形成“責(zé)任文化”，考慮數(shù)據(jù)共享和開放性所帶來的力量。

 

不過，也有人認(rèn)為報(bào)告作者夸大了我們面臨的威脅。網(wǎng)絡(luò)安全公司High-Tech Bridge CEO伊拉·克羅琴科（Ilia Kolochenko）認(rèn)為應(yīng)該明確區(qū)分強(qiáng)人工智能和日常所說的人工智能，前者的確可以取代人類大腦。他表示，犯罪分子已經(jīng)使用簡單的機(jī)器學(xué)習(xí)算法來提升攻擊效率，但這些措施之所以能夠成功，是因?yàn)榛A(chǔ)安全性不足以及組織內(nèi)部的疏忽所致。機(jī)器學(xué)習(xí)只是扮演了“輔助加速器”的角色。

 

他還補(bǔ)充道，人工智能還可以用于更加高效地對(duì)抗網(wǎng)絡(luò)攻擊。另外，人工智能技術(shù)的發(fā)展往往需要展開長期的高額投入，這是“黑帽黑客”通常無法承擔(dān)的。因此，他不認(rèn)為數(shù)字領(lǐng)域會(huì)因此面臨實(shí)質(zhì)性的風(fēng)險(xiǎn)和革命——至少5年內(nèi)不會(huì)。（樵夫）