人工智能在 2017 年中的表現(xiàn)是不平凡的，國務(wù)院關(guān)于印發(fā)《新一代人工智能發(fā)展規(guī)劃》的通知、工業(yè)和信息化部關(guān)于印發(fā)《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計(jì)劃（2018-2020）》的通知，明確我國新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和重點(diǎn)支持行業(yè)、重點(diǎn)應(yīng)用。業(yè)內(nèi)信息技術(shù)發(fā)展趨勢的指向標(biāo) Gartner 發(fā)布2017新興技術(shù)成熟度曲線，認(rèn)為未來10年，人工智能將成為最具顛覆性的技術(shù)。DeepMind發(fā)布最新成果 AlphaGo Zero將 AlphaGo、Master 遠(yuǎn)遠(yuǎn)甩在身后，讓人工智能在大眾心中也留下了濃重的一筆。

AI 也攪動了安全行業(yè)的“一池春水”。不過，在啟明星辰集團(tuán)助理總裁、核心研究院院長周濤看來，對AI 的一些誤解也可能讓人工智能攪亂網(wǎng)絡(luò)安全。以下內(nèi)容為周濤在北向峰會上的演講精要。

 

一、安全行業(yè)對人工智能理解的誤區(qū)

人工智能的前景很大，現(xiàn)在政策已開始推動，相關(guān)分析機(jī)構(gòu)的行業(yè)預(yù)測都給了市場信心，但在刨除火熱的概念，從應(yīng)用場景的角度出發(fā)，業(yè)內(nèi)對人工智能的理解是存在一些誤區(qū)。

目前行業(yè)對人工智能理解上主要有三大類誤區(qū)，第一大誤區(qū)是認(rèn)為人工智能等于深度學(xué)習(xí)，好像深度學(xué)習(xí)能夠一統(tǒng)江湖，而傳統(tǒng)機(jī)器學(xué)習(xí)應(yīng)用不算人工智能。事實(shí)上深度學(xué)習(xí)并不適合所有的應(yīng)用場景，深度學(xué)習(xí)只是人工智能領(lǐng)域分支之一。

第二大誤區(qū)——削足適履，放棄安全領(lǐng)域的經(jīng)驗(yàn)積累，生搬 NLP、圖像識別領(lǐng)域的成功用例。但實(shí)際上攻防對抗會導(dǎo)致檢測對象的統(tǒng)計(jì)特征失效，NLP等領(lǐng)域算法完備性不強(qiáng)，與此同時(shí)深度學(xué)習(xí)的黑箱特性導(dǎo)致檢測結(jié)論可解釋性低。

 

對網(wǎng)絡(luò)安全應(yīng)用環(huán)境的復(fù)雜性估計(jì)不足是第三大誤區(qū)，某些時(shí)候人們往往會以AlphaGo、圖片識別、機(jī)器翻譯等其他領(lǐng)域的成功經(jīng)驗(yàn)，樂觀預(yù)測網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用前景，而忽略了同圖片識別、機(jī)器翻譯等典型人工智能應(yīng)用相比，網(wǎng)絡(luò)安全分析的人工智能應(yīng)用環(huán)境復(fù)雜度更高。

二、如何在在安全業(yè)務(wù)中應(yīng)用 AI

首先，要認(rèn)清上限。以深度學(xué)習(xí)為例，其本質(zhì)上是一種基于統(tǒng)計(jì)的學(xué)習(xí)方法，可適用的場景是相對模糊、非精確匹配，比如垃圾郵件識別、惡意域名識別、異常行為檢測。相反像二進(jìn)制級惡意代碼識別和數(shù)據(jù)包特征識別這類需精確匹配的場景就不太可能適用。

 

其次，了解局限。學(xué)習(xí)類算法對于判斷結(jié)果往往無法給出精確解釋，傳統(tǒng)特征匹配雖然對未知威脅幾乎沒有檢測能力，但對已知威脅的檢測結(jié)果的解釋性最強(qiáng)。深度學(xué)習(xí)對未知威脅的檢測能力較強(qiáng)，但檢測結(jié)果的可解釋性最差，因此不同的場景、不同的業(yè)務(wù)，要用適合的檢測方法。

 

最后，要跳出深度學(xué)習(xí)的束縛，考慮人工智能領(lǐng)域其他的技術(shù)流派。深度學(xué)習(xí)適合的是解決“知其然，不知其所以然”的問題，但現(xiàn)階段對于網(wǎng)絡(luò)攻擊，我們是可以通過了解攻擊手段，而了解如何預(yù)防的。即對于網(wǎng)絡(luò)安全分析，一旦“知其然”，就基本“知其所以然”。人工智能領(lǐng)域符號主義的技術(shù)流派，在網(wǎng)絡(luò)安全分析中的價(jià)值可能會更大。