2018年,AI將成為各大手機(jī)公司的標(biāo)配需求,手機(jī)端龐大的一手?jǐn)?shù)據(jù)將會(huì)利用起來,而只有終端AI硬件能力普及后,AI應(yīng)用才有可能百花齊放,AI生態(tài)才有可能真正成熟。周晨表示,海思的定位就是平臺(tái)算力的提供者,同時(shí)會(huì)提供SDK讓開發(fā)者來運(yùn)行自己的應(yīng)用和算法。
從算法到算力,資本圈熱點(diǎn)轉(zhuǎn)移
2017年,在資本圈和媒體大V們討論得熱火朝天,在各個(gè)AI技術(shù)論壇頻頻召開的時(shí)候,消費(fèi)者一頭霧水。
筆者百度了一下“AI”,發(fā)現(xiàn)了一部大導(dǎo)演斯皮爾伯格拍的電影,電影里的AI就是一個(gè)除了內(nèi)部構(gòu)造,跟人沒有任何區(qū)別的小男孩。
于是老百姓們恍然大悟,哦!原來AI就是機(jī)器人兒???
還有一部電影就是《黑客帝國》中的母體Matrix。這部電影里的AI是一個(gè)巨大的虛擬世界的大腦,整個(gè)物理世界都變成了數(shù)據(jù),人類自己也變成了一串串代碼。
這兩部電影其實(shí)揭示了AI的兩個(gè)表現(xiàn)形態(tài):云端和終端AI。
2016年,資本圈關(guān)注的大多還是專注于云端算法的公司,比如商湯、曠視、云從、依圖四家算法公司,李開復(fù)稱他們?yōu)槿四樧R(shí)別的“四個(gè)獨(dú)角獸”。
2016年,Intel收購了Nervana、Altea,谷歌在I/O大會(huì)發(fā)布了“TPU”,高通開始研發(fā)神經(jīng)網(wǎng)絡(luò)芯片,而Nvidia股價(jià)因?yàn)锳I概念而飆升。
2017年,資本圈開始關(guān)注地平線、深鑒科技、寒武紀(jì)、云天勵(lì)飛四家AI芯片公司。
資本的嗅覺是很靈敏的,AI作為一種技術(shù)其實(shí)已經(jīng)有了幾十年的歷史。組成AI的三大要素包括算法、算力、數(shù)據(jù)。算法和數(shù)據(jù)的積累和演進(jìn)已經(jīng)持續(xù)了很多年,而終端算力的普及則剛剛開始。從運(yùn)算發(fā)展的路徑來看,一開始都是靠算法解決問題,因?yàn)槟菚r(shí)候計(jì)算力有限。所以資本重點(diǎn)關(guān)注算法公司?,F(xiàn)在計(jì)算力上升,算法的差異被彌補(bǔ)掉了,于是資本開始關(guān)注提供算力的公司。
雖然AlphaGo算力驚人,但這是在使用了上千個(gè)CPU和數(shù)百個(gè)GPU的基礎(chǔ)下實(shí)現(xiàn)的,下一盤棋的電費(fèi)就高達(dá)3000美元,相當(dāng)耗能。
手機(jī)是目前最普及的個(gè)人移動(dòng)終端,如何讓低功耗的智能手機(jī)能夠和AlphaGo一樣“聰明”?
為何華為海思能率先推出手機(jī)AI芯片?
手機(jī)行業(yè)最先行動(dòng)的是兩個(gè)公司——蘋果和華為。iPhone X的A11中打在了神經(jīng)網(wǎng)絡(luò)模塊神經(jīng)引擎(Neural Engine),而海思的麒麟970則與寒武紀(jì)合作搭載了NPU(Neural-network Processing Unit)。憑借海思的訂單,寒武紀(jì)在2016年就已經(jīng)實(shí)現(xiàn)盈利。
“我們有幸走到了這件事(AI)的前面,我們的麒麟970跟iPhone X的A11是真正在終端側(cè)‘唯二’的推出產(chǎn)品的公司。”華為海思麒麟芯片市場(chǎng)總監(jiān)周晨對(duì)《電子工程專輯》記者表示。相比蘋果和三星的AI芯片,華為海思是用硬件的方式來加速,“我們對(duì)于開放的事情還是有差異的,蘋果把這個(gè)能力主要用在FaceID,我們是通過HiAI全面開放給開發(fā)者,開發(fā)者可以用到手機(jī)業(yè)界最強(qiáng)的AI推理能力。”周晨說。
作為手機(jī)行業(yè)的標(biāo)桿,這兩家公司之所以能夠率先推出AI手機(jī)芯片,首先當(dāng)然是因?yàn)楦髯哉莆罩酒O(shè)計(jì)能力。其次是因?yàn)樗麄兊男酒块T或公司只需要服務(wù)于一家客戶。
“實(shí)際上AI的項(xiàng)目我們2年前就啟動(dòng)了。因?yàn)槲覀兪莍n house的芯片公司,只需要服務(wù)于華為這個(gè)品牌。我們可以很清楚的知道終端的需求是什么,從而針對(duì)性的做出產(chǎn)品和規(guī)劃設(shè)計(jì)。”周晨認(rèn)為,對(duì)于公開市場(chǎng)的芯片公司,考慮的邏輯是不一樣的。因?yàn)樾酒锩婕尤魏喂δ芏际浅杀荆约冃酒疽紤]到自己的客戶對(duì)AI的需求會(huì)是怎樣,因此會(huì)偏保守。未來在新技術(shù)的采用上,類似于蘋果、海思這樣的in house會(huì)更加激進(jìn),這可能是海思能夠在業(yè)界率先推出AI手機(jī)芯片的重要原因。
此外與寒武紀(jì)的合作也是海思能夠迅速推出AI芯片的原因。“在這個(gè)時(shí)間點(diǎn)上,和寒武紀(jì)的合作是最好選擇。我們要確保我們選擇最好的方式,未來有的IP我們會(huì)自己做,有的可能尋找更好的合作伙伴,這個(gè)都是動(dòng)態(tài)變化中。”
從云到端,AI芯片迭代如何滿足算法變化?
當(dāng)然,如果你認(rèn)為蘋果和華為在手機(jī)芯片中搭載“AI”單元模塊僅僅是為了尋找新的賣點(diǎn),作為營銷噱頭多賣手機(jī),那你就圖樣了。從云端到終端確實(shí)能帶來真正的好處,比如功耗和成本的降低,效率的提升等。
2018年的CES展印證了AI向終端轉(zhuǎn)移的趨勢(shì),以前很多基于概念的應(yīng)用開始真正以產(chǎn)品和服務(wù)的形式落地了。從CES展出的各種AI產(chǎn)品來看,大致分為三種:第一類是應(yīng)用在汽車上的自動(dòng)駕駛方案,目前主要是Nvidia在該領(lǐng)域布局。第二類是圍繞語音類的助手服務(wù),包括智能音箱等。第三類則是圖像識(shí)別類的產(chǎn)品,有大量的初創(chuàng)公司都在進(jìn)入,開發(fā)類似于安防監(jiān)控、直播、視頻特效等新的應(yīng)用。
周晨認(rèn)為在云端進(jìn)行AI運(yùn)算的方式,如增加模型的大小和層數(shù)并不是真正的方向。AI開始從云端往終端遷移會(huì)把運(yùn)算量和網(wǎng)絡(luò)大小減少100倍,也會(huì)減少對(duì)網(wǎng)絡(luò)帶寬的需求。“隨著算力的提升和算法的優(yōu)化,最后會(huì)形成一個(gè)很好的甜蜜點(diǎn)。”周晨表示,在今年CES期后他去硅谷開會(huì),發(fā)現(xiàn)業(yè)內(nèi)都在討論On device。開始做AI的公司多如牛毛,光是芯片公司都很多。
“終端的性能現(xiàn)在是瓶頸,大批公司雖然水平參差不齊,但是都在往芯片端走,如何解決兼容性問題,如何讓算法更流暢,成為大家關(guān)注的焦點(diǎn)。”周晨表示,從2017年的數(shù)據(jù)來看,AI的算力云端占了95%,終端只占5%,這兩點(diǎn)的巨大差距會(huì)帶來很大的成長空間。
當(dāng)然,由于目前的AI算法更新升級(jí)速度很快,如何滿足一定的變化性呢? 周晨認(rèn)為,未來比較合適的架構(gòu)應(yīng)該是CPU+硬件加速器的做法。對(duì)于海思來說,因?yàn)槭且患矣布脚_(tái)公司,自然更偏向用硬件的方式來做,提供通用性的加速器,從而滿足大部分的算法需求。目前跑算法大概有兩種方式:一種是用CPU跑純軟件,另一種是通過硬件加速器來固定算法。此外,從AI運(yùn)算的需求本身來看,大部分是計(jì)算密度要求很高的行為,也需要用非常高效的硬件方式去做。周晨認(rèn)為,從芯片的發(fā)展歷史來看,很多算法一旦穩(wěn)定成熟下來就會(huì)固定用硬件來做。
“我們自己有GPU、DSP資源,把異構(gòu)這件事做好以后,對(duì)于第三方的未知應(yīng)用都盡可能加速到。因?yàn)槭謾C(jī)是開放型平臺(tái),所以我們必須這樣做。”周晨表示,海思的定位就是平臺(tái)算力的提供者,同時(shí)會(huì)提供SDK讓開發(fā)者來運(yùn)行自己的應(yīng)用和算法。“再往上可能華為在手機(jī)端會(huì)提供一些業(yè)務(wù)級(jí)的接口,這些接口不需要開發(fā)者自己來做算法,比如卡路里識(shí)別,APP只要直接調(diào)用接口就可以了。”
下一代AI芯片怎么做?
對(duì)于海思的下一代AI芯片,周晨沒有透露太具體的規(guī)格或參數(shù)。但他表示,后面兩代的產(chǎn)品定義經(jīng)明確,基本上有幾個(gè)方向不會(huì)變:第一是算力會(huì)持續(xù)上漲。第二是專注在通用的AI運(yùn)算平臺(tái)上,持續(xù)將AI運(yùn)算能力開放給更多開發(fā)者。第三是AI芯片的工藝會(huì)越來越先進(jìn),更新速度可能會(huì)比摩爾定律還要快。
“當(dāng)我們把算力釋放出去以后,可能會(huì)有一大票應(yīng)用能力提升。這會(huì)產(chǎn)生正向循環(huán),會(huì)有越來越多的開發(fā)者做一些新的好的體驗(yàn)。”周晨表示,AI本身是一種技術(shù),但是未來的價(jià)值會(huì)體現(xiàn)在有多少開發(fā)者來開發(fā)出相關(guān)的應(yīng)用。
目前業(yè)界有一種觀點(diǎn),認(rèn)為AI的深度學(xué)習(xí)需要數(shù)據(jù)來喂養(yǎng),因此擁有越龐大數(shù)據(jù)量的互聯(lián)網(wǎng)公司,如BAT會(huì)在未來AI領(lǐng)域占據(jù)核心優(yōu)勢(shì)。對(duì)于這個(gè)說法,周晨認(rèn)為海思目前在算力和算法上其實(shí)都具有優(yōu)勢(shì),至于數(shù)據(jù)方面也不是問題。
第一個(gè)原因是算法本身在升級(jí),機(jī)器學(xué)習(xí)本身的效率在提升。“深度學(xué)習(xí)的方式跟人腦的學(xué)習(xí)方式差別還是很大的,比如小孩看幾張貓的照片就能認(rèn)識(shí)什么是貓,不需要看十萬張照片來學(xué)習(xí)。”周晨認(rèn)為,人腦其實(shí)是在做更高一層的算法,提取更高維度的特征。因此當(dāng)算法升級(jí)后,將不再需要那么海量的數(shù)據(jù)來做深度學(xué)習(xí)。
第二個(gè)原因是終端已經(jīng)成為人的計(jì)算中心,手機(jī)上產(chǎn)生的數(shù)據(jù)才是真正一手、新鮮的數(shù)據(jù),而云端的數(shù)據(jù)可能是經(jīng)過壓縮或精簡的二手?jǐn)?shù)據(jù)。
周晨認(rèn)為,2018年后,AI將成為各大手機(jī)公司的標(biāo)配需求,手機(jī)端龐大的一手?jǐn)?shù)據(jù)將會(huì)利用起來,而只有終端AI硬件能力普及后,AI應(yīng)用才有可能百花齊放,AI生態(tài)才有可能真正成熟。
華為“Hi AI”是什么? 20180206-hisilicon-2 對(duì)于芯片公司來說,如何滿足AI不同算法應(yīng)用及生態(tài)圈的差異化需求成為難點(diǎn)和重點(diǎn)。“海思還會(huì)提供一個(gè)Hi AI架構(gòu),我們也會(huì)有一個(gè)定期舉行的Hi AI的公開課,”周晨最后表示,華為日前針對(duì)工程師舉行了“華為Hi AI能力開放公開課” ,將幫助嘗試投身人工智能領(lǐng)域的企業(yè)和開發(fā)者,提升技術(shù)人員競(jìng)爭(zhēng)力,促進(jìn)行業(yè)技術(shù)的提升,共同推動(dòng)人工智能生態(tài)的發(fā)展。 20180206-hisilicon-3 什么是華為AI呢?據(jù)了解,HiAI移動(dòng)計(jì)算平臺(tái)開放三層的能力,分別為云端能力開放(Huawei HiAI Services)、端側(cè)應(yīng)用能力開放(Huawei HiAI Engine)和端側(cè)芯片能力開放(Huawei HiAI Accelerator)。
其中,底層Huawei HiAI Accelerator是HiAI芯片能力開放的核心內(nèi)容,能夠快速轉(zhuǎn)化和遷移已有模型,借助NPU的加速獲得最佳性能,主要依靠海思麒麟芯片實(shí)現(xiàn)。華為HiAI引擎的目標(biāo),通過開放應(yīng)用層API,使能開發(fā)者在不懂AI算法的情況下也能開發(fā)高質(zhì)量AI應(yīng)用,完全聚焦在應(yīng)用的體驗(yàn)和業(yè)務(wù)實(shí)踐上,而不是聚焦在后端大量的模型訓(xùn)練和算法上。
目前在火熱的AI領(lǐng)域,更快速的推出高質(zhì)量AI應(yīng)用是搶占市場(chǎng)先機(jī)的最好手段,本次Huawei HiAI Engine就是通過開放和共享華為自有應(yīng)用層商用級(jí)的AI能力API來使能合作伙伴在未來的競(jìng)爭(zhēng)中贏得先機(jī),使能華為手機(jī)上面的應(yīng)用都能提供業(yè)界最佳的AI體驗(yàn)。因此,Huawei HiAI Engine面向移動(dòng)終端提供多種AI能力和JAVA應(yīng)用層接口。