哈佛大學(xué)肯尼迪政治學(xué)院貝爾弗科學(xué)與國際事務(wù)中心7月發(fā)布《人工智能與國家安全》報(bào)告，分析人工智能（AI）對美國家安全的巨大影響，為美政府AI政策提供建議。

報(bào)告概要：

雖然美國軍事和情報(bào)界計(jì)劃在投資組合中納入更多人工智能技術(shù)，但最具顛覆性的AI應(yīng)用尚未實(shí)現(xiàn)。報(bào)告提出了制定人工智能和國家安全未來政策的三個(gè)目標(biāo)：

保持美國技術(shù)領(lǐng)先優(yōu)勢，為軍事和情報(bào)能力優(yōu)勢提供砝碼。
支持AI用于和平和商業(yè)用途，幫助民事和商業(yè)部門享受新技術(shù)帶來的好處。
減少災(zāi)難性風(fēng)險(xiǎn)，防范或降低偶發(fā)/敵對事件帶來的嚴(yán)重后果。

重點(diǎn)內(nèi)容：

AI技術(shù)發(fā)展迅猛

人工智能領(lǐng)域在過去5年取得了顯著的技術(shù)進(jìn)步，遠(yuǎn)遠(yuǎn)超出預(yù)期；這種形勢還將會繼續(xù)發(fā)展，甚至?xí)M(jìn)一步提速。推動AI快速發(fā)展的4個(gè)因素是：計(jì)算機(jī)性能在近幾十年呈指數(shù)級增長、訓(xùn)練機(jī)器學(xué)習(xí)的大型數(shù)據(jù)集數(shù)量增加、機(jī)器學(xué)習(xí)技術(shù)不斷進(jìn)步、商業(yè)投資猛增。其中機(jī)器學(xué)習(xí)子領(lǐng)域的發(fā)展是主因。

AI技術(shù)是給國家安全帶來深刻變化的顛覆性技術(shù)

現(xiàn)有的AI技術(shù)能力在國家安全方面擁有巨大潛力，如機(jī)器學(xué)習(xí)技術(shù)可使衛(wèi)星圖像分析和網(wǎng)絡(luò)防御等勞動密集型活動實(shí)現(xiàn)高度自動化。未來的AI技術(shù)有可能與核武器、飛機(jī)、計(jì)算機(jī)和生物技術(shù)一樣，成為給國家安全帶來深刻變化的顛覆性技術(shù)。AI的每一種技術(shù)都為美國國家安全機(jī)構(gòu)的戰(zhàn)略、組織、優(yōu)先事項(xiàng)和資源分配帶來重大變革，其未來影響力至少可與核武器比肩。

AI技術(shù)對國家安全的具體影響

在軍事方面，AI的發(fā)展將產(chǎn)生新的能力，并使現(xiàn)有能力成本被更廣泛的行為體所接受，AI催生的商業(yè)可用技術(shù)（如遠(yuǎn)程無人機(jī)包裹運(yùn)送等）可能會使弱國和非國家行為體獲得遠(yuǎn)程精準(zhǔn)打擊能力。在網(wǎng)絡(luò)領(lǐng)域，目前需要大量高技能勞動力的活動（如先進(jìn)持續(xù)性威脅行動等）未來可能會實(shí)現(xiàn)高度自動化，并在黑市上廣泛出售。在信息優(yōu)勢方面，AI將大幅提升數(shù)據(jù)收集、分析以及建立數(shù)據(jù)的能力。在情報(bào)行動中，意味著有越來越多的信息源可供分辨真相；相應(yīng)的，制造偽情報(bào)也變得更加便利。但同時(shí)，借助AI技術(shù)，偽造音視頻媒體的質(zhì)量迅速提升，同時(shí)成本迅速下降。在經(jīng)濟(jì)方面，AI的發(fā)展可能會帶來一次新的產(chǎn)業(yè)革命，將重新塑造世界經(jīng)濟(jì)中的勞資關(guān)系。

變革性技術(shù)案例帶來的經(jīng)驗(yàn)

該機(jī)構(gòu)分析了之前的核、航空航天、網(wǎng)絡(luò)和生物技術(shù)4個(gè)變革性軍事技術(shù)案例，從中提取出以下幾條可用的經(jīng)驗(yàn)和教訓(xùn)：激進(jìn)的技術(shù)變革催生全新的政府政策及思想，世界各國政府將考慮甚至部分國家將采取相當(dāng)激進(jìn)的政策措施；AI在戰(zhàn)爭和間諜活動上的擴(kuò)展應(yīng)用是不可避免的，但必須設(shè)立更加溫和的目標(biāo)，對AI技術(shù)進(jìn)行安全有效的管理；必須認(rèn)識到AI技術(shù)固有的軍民兩用性，對突破性技術(shù)進(jìn)行保密和保護(hù)，擴(kuò)展民用顛覆性技術(shù)的分類和認(rèn)證流程，限制商業(yè)公司向海外出售技術(shù)；應(yīng)考慮成立正式的研發(fā)管理機(jī)構(gòu)；應(yīng)考慮確立AI軍事情報(bào)應(yīng)用的技術(shù)投資組合，建立長久的技術(shù)優(yōu)勢。

報(bào)告建議：

報(bào)告對美國政府有關(guān)AI技術(shù)的國家安全政策提出3項(xiàng)目標(biāo)和11項(xiàng)建議。

維持美國的技術(shù)領(lǐng)先優(yōu)勢

國防部應(yīng)開展以AI為核心的軍事演習(xí)，以甄別潛在的顛覆性軍事創(chuàng)新；國防部應(yīng)資助以人工智能技術(shù)及影響為主題的各種長期戰(zhàn)略分析；國防部應(yīng)優(yōu)先考慮能夠提供可持續(xù)優(yōu)勢并降低核心風(fēng)險(xiǎn)的AI研發(fā)投資領(lǐng)域；美國防情報(bào)界應(yīng)大力投資“反AI”的進(jìn)攻和防御能力。

支持AI技術(shù)用于和平目的

DARPA、IARPA、海軍研究辦公室和國家科學(xué)基金會應(yīng)增加與AI相關(guān)的基礎(chǔ)研究經(jīng)費(fèi)；國防部應(yīng)發(fā)布關(guān)于AI軍民兩用能力的信息征詢書；向美國In-Q-Tel公司（專門服務(wù)于中央情報(bào)局）提供更多資源，促進(jìn)國家安全機(jī)構(gòu)和AI商業(yè)公司的合作。

管理災(zāi)難性風(fēng)險(xiǎn)

國家安全委員會和國務(wù)院需研究美國應(yīng)利用條約的形式限制哪些AI應(yīng)用；國防和情報(bào)部門應(yīng)設(shè)立專門的AI安全機(jī)構(gòu)；DARPA應(yīng)為AI系統(tǒng)自動防故障和安全運(yùn)行技術(shù)研究提供資金；國家標(biāo)準(zhǔn)與技術(shù)研究院和國家安全局應(yīng)探索防AI造假技術(shù)方案。