哈佛大學肯尼迪政治學院貝爾弗科學與國際事務中心7月發(fā)布《人工智能與國家安全》報告，分析人工智能（AI）對美國家安全的巨大影響，為美政府AI政策提供建議。

報告概要：

雖然美國軍事和情報界計劃在投資組合中納入更多人工智能技術，但最具顛覆性的AI應用尚未實現(xiàn)。報告提出了制定人工智能和國家安全未來政策的三個目標：

保持美國技術領先優(yōu)勢，為軍事和情報能力優(yōu)勢提供砝碼。
支持AI用于和平和商業(yè)用途，幫助民事和商業(yè)部門享受新技術帶來的好處。
減少災難性風險，防范或降低偶發(fā)/敵對事件帶來的嚴重后果。

重點內(nèi)容：

AI技術發(fā)展迅猛

人工智能領域在過去5年取得了顯著的技術進步，遠遠超出預期；這種形勢還將會繼續(xù)發(fā)展，甚至會進一步提速。推動AI快速發(fā)展的4個因素是：計算機性能在近幾十年呈指數(shù)級增長、訓練機器學習的大型數(shù)據(jù)集數(shù)量增加、機器學習技術不斷進步、商業(yè)投資猛增。其中機器學習子領域的發(fā)展是主因。

AI技術是給國家安全帶來深刻變化的顛覆性技術

現(xiàn)有的AI技術能力在國家安全方面擁有巨大潛力，如機器學習技術可使衛(wèi)星圖像分析和網(wǎng)絡防御等勞動密集型活動實現(xiàn)高度自動化。未來的AI技術有可能與核武器、飛機、計算機和生物技術一樣，成為給國家安全帶來深刻變化的顛覆性技術。AI的每一種技術都為美國國家安全機構的戰(zhàn)略、組織、優(yōu)先事項和資源分配帶來重大變革，其未來影響力至少可與核武器比肩。

AI技術對國家安全的具體影響

在軍事方面，AI的發(fā)展將產(chǎn)生新的能力，并使現(xiàn)有能力成本被更廣泛的行為體所接受，AI催生的商業(yè)可用技術（如遠程無人機包裹運送等）可能會使弱國和非國家行為體獲得遠程精準打擊能力。在網(wǎng)絡領域，目前需要大量高技能勞動力的活動（如先進持續(xù)性威脅行動等）未來可能會實現(xiàn)高度自動化，并在黑市上廣泛出售。在信息優(yōu)勢方面，AI將大幅提升數(shù)據(jù)收集、分析以及建立數(shù)據(jù)的能力。在情報行動中，意味著有越來越多的信息源可供分辨真相；相應的，制造偽情報也變得更加便利。但同時，借助AI技術，偽造音視頻媒體的質(zhì)量迅速提升，同時成本迅速下降。在經(jīng)濟方面，AI的發(fā)展可能會帶來一次新的產(chǎn)業(yè)革命，將重新塑造世界經(jīng)濟中的勞資關系。

變革性技術案例帶來的經(jīng)驗

該機構分析了之前的核、航空航天、網(wǎng)絡和生物技術4個變革性軍事技術案例，從中提取出以下幾條可用的經(jīng)驗和教訓：激進的技術變革催生全新的政府政策及思想，世界各國政府將考慮甚至部分國家將采取相當激進的政策措施；AI在戰(zhàn)爭和間諜活動上的擴展應用是不可避免的，但必須設立更加溫和的目標，對AI技術進行安全有效的管理；必須認識到AI技術固有的軍民兩用性，對突破性技術進行保密和保護，擴展民用顛覆性技術的分類和認證流程，限制商業(yè)公司向海外出售技術；應考慮成立正式的研發(fā)管理機構；應考慮確立AI軍事情報應用的技術投資組合，建立長久的技術優(yōu)勢。

報告建議：

報告對美國政府有關AI技術的國家安全政策提出3項目標和11項建議。

維持美國的技術領先優(yōu)勢

國防部應開展以AI為核心的軍事演習，以甄別潛在的顛覆性軍事創(chuàng)新；國防部應資助以人工智能技術及影響為主題的各種長期戰(zhàn)略分析；國防部應優(yōu)先考慮能夠提供可持續(xù)優(yōu)勢并降低核心風險的AI研發(fā)投資領域；美國防情報界應大力投資“反AI”的進攻和防御能力。

支持AI技術用于和平目的

DARPA、IARPA、海軍研究辦公室和國家科學基金會應增加與AI相關的基礎研究經(jīng)費；國防部應發(fā)布關于AI軍民兩用能力的信息征詢書；向美國In-Q-Tel公司（專門服務于中央情報局）提供更多資源，促進國家安全機構和AI商業(yè)公司的合作。

管理災難性風險

國家安全委員會和國務院需研究美國應利用條約的形式限制哪些AI應用；國防和情報部門應設立專門的AI安全機構；DARPA應為AI系統(tǒng)自動防故障和安全運行技術研究提供資金；國家標準與技術研究院和國家安全局應探索防AI造假技術方案。