人工智能在 2017 年中的表現(xiàn)是不平凡的，國(guó)務(wù)院關(guān)于印發(fā)《新一代人工智能發(fā)展規(guī)劃》的通知、工業(yè)和信息化部關(guān)于印發(fā)《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018-2020）》的通知，明確我國(guó)新一代人工智能發(fā)展的指導(dǎo)思想、戰(zhàn)略目標(biāo)、重點(diǎn)任務(wù)和重點(diǎn)支持行業(yè)、重點(diǎn)應(yīng)用。業(yè)內(nèi)信息技術(shù)發(fā)展趨勢(shì)的指向標(biāo) Gartner 發(fā)布2017新興技術(shù)成熟度曲線，認(rèn)為未來(lái)10年，人工智能將成為最具顛覆性的技術(shù)。DeepMind發(fā)布最新成果 AlphaGo Zero將 AlphaGo、Master 遠(yuǎn)遠(yuǎn)甩在身后，讓人工智能在大眾心中也留下了濃重的一筆。

AI 也攪動(dòng)了安全行業(yè)的“一池春水”。不過(guò)，在啟明星辰集團(tuán)助理總裁、核心研究院院長(zhǎng)周濤看來(lái)，對(duì)AI 的一些誤解也可能讓人工智能攪亂網(wǎng)絡(luò)安全。以下內(nèi)容為周濤在北向峰會(huì)上的演講精要。

 

一、安全行業(yè)對(duì)人工智能理解的誤區(qū)

人工智能的前景很大，現(xiàn)在政策已開(kāi)始推動(dòng)，相關(guān)分析機(jī)構(gòu)的行業(yè)預(yù)測(cè)都給了市場(chǎng)信心，但在刨除火熱的概念，從應(yīng)用場(chǎng)景的角度出發(fā)，業(yè)內(nèi)對(duì)人工智能的理解是存在一些誤區(qū)。

目前行業(yè)對(duì)人工智能理解上主要有三大類誤區(qū)，第一大誤區(qū)是認(rèn)為人工智能等于深度學(xué)習(xí)，好像深度學(xué)習(xí)能夠一統(tǒng)江湖，而傳統(tǒng)機(jī)器學(xué)習(xí)應(yīng)用不算人工智能。事實(shí)上深度學(xué)習(xí)并不適合所有的應(yīng)用場(chǎng)景，深度學(xué)習(xí)只是人工智能領(lǐng)域分支之一。

第二大誤區(qū)——削足適履，放棄安全領(lǐng)域的經(jīng)驗(yàn)積累，生搬 NLP、圖像識(shí)別領(lǐng)域的成功用例。但實(shí)際上攻防對(duì)抗會(huì)導(dǎo)致檢測(cè)對(duì)象的統(tǒng)計(jì)特征失效，NLP等領(lǐng)域算法完備性不強(qiáng)，與此同時(shí)深度學(xué)習(xí)的黑箱特性導(dǎo)致檢測(cè)結(jié)論可解釋性低。

 

對(duì)網(wǎng)絡(luò)安全應(yīng)用環(huán)境的復(fù)雜性估計(jì)不足是第三大誤區(qū)，某些時(shí)候人們往往會(huì)以AlphaGo、圖片識(shí)別、機(jī)器翻譯等其他領(lǐng)域的成功經(jīng)驗(yàn)，樂(lè)觀預(yù)測(cè)網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用前景，而忽略了同圖片識(shí)別、機(jī)器翻譯等典型人工智能應(yīng)用相比，網(wǎng)絡(luò)安全分析的人工智能應(yīng)用環(huán)境復(fù)雜度更高。

二、如何在在安全業(yè)務(wù)中應(yīng)用 AI

首先，要認(rèn)清上限。以深度學(xué)習(xí)為例，其本質(zhì)上是一種基于統(tǒng)計(jì)的學(xué)習(xí)方法，可適用的場(chǎng)景是相對(duì)模糊、非精確匹配，比如垃圾郵件識(shí)別、惡意域名識(shí)別、異常行為檢測(cè)。相反像二進(jìn)制級(jí)惡意代碼識(shí)別和數(shù)據(jù)包特征識(shí)別這類需精確匹配的場(chǎng)景就不太可能適用。

 

其次，了解局限。學(xué)習(xí)類算法對(duì)于判斷結(jié)果往往無(wú)法給出精確解釋，傳統(tǒng)特征匹配雖然對(duì)未知威脅幾乎沒(méi)有檢測(cè)能力，但對(duì)已知威脅的檢測(cè)結(jié)果的解釋性最強(qiáng)。深度學(xué)習(xí)對(duì)未知威脅的檢測(cè)能力較強(qiáng)，但檢測(cè)結(jié)果的可解釋性最差，因此不同的場(chǎng)景、不同的業(yè)務(wù)，要用適合的檢測(cè)方法。

 

最后，要跳出深度學(xué)習(xí)的束縛，考慮人工智能領(lǐng)域其他的技術(shù)流派。深度學(xué)習(xí)適合的是解決“知其然，不知其所以然”的問(wèn)題，但現(xiàn)階段對(duì)于網(wǎng)絡(luò)攻擊，我們是可以通過(guò)了解攻擊手段，而了解如何預(yù)防的。即對(duì)于網(wǎng)絡(luò)安全分析，一旦“知其然”，就基本“知其所以然”。人工智能領(lǐng)域符號(hào)主義的技術(shù)流派，在網(wǎng)絡(luò)安全分析中的價(jià)值可能會(huì)更大。