泓觀科技首發(fā)異步AI芯片，賦能IoT終端智慧進(jìn)階
2018-01-31 09:50:51 來(lái)源：AI星球 熱度:
新晉創(chuàng)業(yè)公司泓觀科技（otureo.ai）日前發(fā)布了面向物聯(lián)網(wǎng)（IoT）端的超低功耗異步卷積神經(jīng)網(wǎng)絡(luò)芯片。
據(jù)悉，該款芯片率先采用了獨(dú)特的異步架構(gòu)，融合了定點(diǎn)化、自動(dòng)剪枝、多層優(yōu)化訪存等多項(xiàng)先進(jìn)技術(shù)，可滿足IoT場(chǎng)景下超低功耗的智能化應(yīng)用需求。
目前，首款芯片已由泓觀科技的團(tuán)隊(duì)設(shè)計(jì)完成并實(shí)現(xiàn)流片，如下圖所示，這應(yīng)是目前已知的媒體報(bào)道范圍內(nèi)，此類芯片的首次問世。
另辟蹊徑，采用異步架構(gòu)實(shí)現(xiàn)超低功耗卷積神經(jīng)網(wǎng)絡(luò)芯片
泓觀科技官方表示，本次推出的神經(jīng)網(wǎng)絡(luò)芯片在構(gòu)架設(shè)計(jì)上所采用的異步（asynchronous）電路技術(shù)，與其他廠商已推出的各類人工智能（AI）芯片有著顯著的區(qū)別。
后者普遍更偏通用型，遵循著功能與性能優(yōu)先的設(shè)計(jì)原則，然而對(duì)于海量IoT設(shè)備應(yīng)用場(chǎng)景的單一功能及超低功耗需求而言，這類架構(gòu)與特點(diǎn)并不適合。
IoT設(shè)備在大量的應(yīng)用場(chǎng)景中，只有在被喚醒時(shí)才工作，經(jīng)常處于休眠狀態(tài)，如何在設(shè)備休眠狀態(tài)下嚴(yán)格控制功耗產(chǎn)生，便是重中之重。
下圖為異步（asynchronous）電路架構(gòu)，與常規(guī)的同步（synchronous）電路架構(gòu)的對(duì)比。采用異步電路技術(shù)，能夠?qū)崿F(xiàn)芯片在設(shè)備休眠時(shí)產(chǎn)生的功耗顯著降低甚至忽略不計(jì)。
物聯(lián)網(wǎng)終端的智能化進(jìn)階，超低功耗AI芯片成為關(guān)鍵點(diǎn)
近年來(lái)，隨著各類新興應(yīng)用（可穿戴設(shè)備、智能家居、移動(dòng)醫(yī)療等）的出現(xiàn)，各種IoT設(shè)備的數(shù)量呈現(xiàn)一種爆發(fā)式的增長(zhǎng)態(tài)勢(shì)。
根據(jù)來(lái)自Cisco的預(yù)計(jì)，到2020年，全球互聯(lián)的IoT設(shè)備將達(dá)到500億以上，而且這些設(shè)備將產(chǎn)生的數(shù)據(jù)將達(dá)到數(shù)十甚至上百ZB！
同時(shí)，用戶對(duì)IoT設(shè)備的功能需求，已經(jīng)逐漸從單純的數(shù)據(jù)采集上升到一定程度的智能分析，例如人(物)體識(shí)別、場(chǎng)景判斷、異常診斷、習(xí)慣分析等。
為了實(shí)現(xiàn)這些AI功能，如果依賴將海量IoT設(shè)備采集的數(shù)據(jù)傳輸?shù)綌?shù)據(jù)中心進(jìn)行處理，既不現(xiàn)實(shí)也不合理。因此，在IoT設(shè)備端集成本地化的AI處理能力，就成為亟待解決的剛性需求。
依托IoT設(shè)備自身的硬件資源進(jìn)行智能化計(jì)算，勢(shì)必會(huì)為IoT設(shè)備帶來(lái)不可忽視的額外功耗。對(duì)于絕大多數(shù)IoT設(shè)備而言，功耗一直都是最為敏感的指標(biāo)。
因此，如何在低功耗甚至超低功耗的條件下實(shí)現(xiàn)IoT終端對(duì)深度學(xué)習(xí)的計(jì)算承載，成為撬動(dòng)AI賦能IoT的那個(gè)最關(guān)鍵的支點(diǎn)。
泓觀科技創(chuàng)始成員介紹到，“在同樣的芯片制程、達(dá)到相同性能的情況下，位于芯片active ratio（工作時(shí)間占比）較低的應(yīng)用區(qū)間，相比基于傳統(tǒng)同步電路，異步電路設(shè)計(jì)可以顯著減少功耗，而這一區(qū)間恰恰是大量的物聯(lián)網(wǎng)終端智能化應(yīng)用場(chǎng)景的分布重心。”下圖呈現(xiàn)了上述二者的功耗對(duì)比，可以看到，在物聯(lián)端應(yīng)用重點(diǎn)分布的低active ratio區(qū)間，采用異步架構(gòu)的AI芯片，可以將功耗降低近一個(gè)量級(jí)甚至更多。
IC科班出身的團(tuán)隊(duì)，對(duì)于AI芯片的思考和態(tài)度
泓觀科技創(chuàng)立于2015年，位于中國(guó)北京及美國(guó)硅谷，是最先將邊緣計(jì)算概念和全方位異構(gòu)加速技術(shù)應(yīng)用于嵌入端人工智能商業(yè)化的一撥創(chuàng)業(yè)企業(yè)之一。“AI的興起極大的推助和加速了芯片行業(yè)的衍生和變革。
對(duì)于正在興起的通用型AI系統(tǒng)芯片，我們堅(jiān)定的選擇依托以各大半導(dǎo)體公司為代表的友商，攜手構(gòu)筑產(chǎn)業(yè)生態(tài)，推動(dòng)應(yīng)用部署，尤其在嵌入端，這是我們的過去兩年多一直著重在做的事情。”泓觀科技的創(chuàng)始成員告訴記者。
“從近二十年前我們進(jìn)入清華大學(xué)微電子學(xué)專業(yè)讀書時(shí)算起，雖然后來(lái)的職業(yè)生涯不斷帶來(lái)多元化的知識(shí)背景，但畢竟都算是集成電路（IC）行業(yè)里多年的從業(yè)者了，對(duì)于芯片這個(gè)龐大產(chǎn)業(yè)的自身規(guī)律有著清醒的認(rèn)知。”
他們進(jìn)一步介紹到，“我們決定在AI芯片這里也做點(diǎn)兒事情，構(gòu)建第二產(chǎn)品大類。對(duì)于技術(shù)路線和發(fā)力點(diǎn)，做出這樣的選擇，來(lái)源于我們對(duì)這個(gè)行業(yè)的理解和積淀、對(duì)技術(shù)發(fā)展和市場(chǎng)定位的思考與判斷。也許這看起來(lái)有點(diǎn)卓爾不群甚至超前，但其所對(duì)應(yīng)著的IoT端智能化這個(gè)市場(chǎng)，體量巨大同時(shí)又有著獨(dú)特的應(yīng)用需求和差異化的生態(tài)位置。”
專注的架構(gòu)，引入與融合了多項(xiàng)先進(jìn)技術(shù)
泓觀科技本次發(fā)布的這款異步AI芯片，在架構(gòu)上專注于卷積模型所支持的特定操作（如卷積、池化等），并針對(duì)識(shí)別場(chǎng)景的特點(diǎn)，考慮芯片工藝、面積、片上存儲(chǔ)等因素，對(duì)支持的網(wǎng)絡(luò)架構(gòu)加入一定的約束。
同時(shí)，還有多項(xiàng)先進(jìn)技術(shù)被應(yīng)用融合這款芯片中：一、采用多層融合的架構(gòu)技術(shù)（如上圖）來(lái)減少 I/O 訪存——通過架構(gòu)和算法的交互優(yōu)化，保證算法層的輸出數(shù)據(jù)能夠被有效緩存；
二、通過定點(diǎn)化處理神經(jīng)網(wǎng)絡(luò)，采取自動(dòng)化搜索不同網(wǎng)絡(luò)層定點(diǎn)化配置的方法，對(duì)權(quán)值和輸入/輸出采用不同的策略，有效解決神經(jīng)網(wǎng)絡(luò)操作對(duì)數(shù)據(jù)存在的魯棒性；
三、設(shè)計(jì)了一種自動(dòng)化剪枝算法，對(duì)神經(jīng)網(wǎng)絡(luò)的每一層建立單獨(dú)的剪枝參數(shù)，從而解決了神經(jīng)網(wǎng)絡(luò)本身存在的冗余性。
這款獨(dú)特而全新的異步卷積神經(jīng)網(wǎng)絡(luò)芯片，其具體功能專注于物體識(shí)別等智能化視覺分析,面向可穿戴設(shè)備、智能家居、自供能監(jiān)控等對(duì)超低功耗有剛性需求的IoT終端領(lǐng)域。
“就目前已知的媒體報(bào)道，我們應(yīng)該是率先實(shí)現(xiàn)異步卷積神經(jīng)網(wǎng)絡(luò)電路方案并實(shí)現(xiàn)流片的創(chuàng)業(yè)公司，不論在中國(guó)還是世界范圍內(nèi)。”泓觀科技的創(chuàng)始成員告訴獵云網(wǎng)記者。
推動(dòng)AI和IoT之間的技術(shù)賦能與生態(tài)融合
物聯(lián)網(wǎng)在未來(lái)十年里將迎來(lái)一個(gè)新的高速發(fā)展期。泓觀科技的創(chuàng)始成員這樣評(píng)價(jià)，“物聯(lián)網(wǎng)是一個(gè)非常依賴于技術(shù)驅(qū)動(dòng)的產(chǎn)業(yè)，人工智能與物聯(lián)網(wǎng)這兩個(gè)領(lǐng)域之間的連接，依托于邊緣計(jì)算的興起而緊密。無(wú)數(shù)的物聯(lián)節(jié)點(diǎn)作為邊緣側(cè)的前沿，不僅承載著感知、處理、傳輸這些功能，也會(huì)逐步把智能化的思考和判斷也囊括進(jìn)來(lái)，進(jìn)而構(gòu)建出更加廣泛的、融合的多維度產(chǎn)業(yè)生態(tài)。”
物聯(lián)網(wǎng)的智能化進(jìn)階，在于如何撬動(dòng)AI以賦能IoT；其最關(guān)鍵的技術(shù)支點(diǎn)，在于如何實(shí)現(xiàn)IoT終端在低功耗甚至超低功耗的條件下對(duì)深度學(xué)習(xí)的計(jì)算承載；該支點(diǎn)的核心物理載體，就是這樣的具備超低功耗下可以實(shí)現(xiàn)深度學(xué)習(xí)在IoT終端部署的芯片。
據(jù)獵云網(wǎng)觀察，泓觀科技在這個(gè)領(lǐng)域的探索和積累，到這次首款面向IoT的超低功耗異步AI芯片的問世，正在構(gòu)成一個(gè)新的開端，推動(dòng)著物聯(lián)網(wǎng)全面邁向人工智能時(shí)代的進(jìn)階歷程。
責(zé)任編輯：靳玉鳳
華為又一款 AI 芯片曝光，內(nèi)置 NPU，可能用于華為 P20 Lite
終于出手！谷歌母公司旗下GV風(fēng)投首次投資AI芯片創(chuàng)業(yè)公司
谷歌發(fā)布AI芯片Edge TPU 可用于支持物聯(lián)網(wǎng)設(shè)備
特斯拉聲稱擁有“世界上最先進(jìn)的自動(dòng)駕駛計(jì)算機(jī)”，將于明年推出Autopilot 3.0