過去幾年里,微軟一直使用FPGA,以此提高必應(yīng)(Bing)和Azure的性能和效率。但是,微軟計(jì)劃明年將為開發(fā)人員提供這種現(xiàn)場可編程門陣列(FPGA)處理能力,他們都能利用此種能力運(yùn)行自己的任務(wù),包括像深層神經(jīng)網(wǎng)絡(luò)(DNN)這樣的密集型人工智能任務(wù)。
在春季的開發(fā)者大會上,Azure首席技術(shù)官M(fèi)ark Russinovich概述了微軟通過Azure云實(shí)現(xiàn)“硬件微服務(wù)”的宏偉計(jì)劃。Russinovich向與會者說道,一旦微軟解決了一些尚未平息的安全問題及其他問題,“我們將擁有我們認(rèn)為是一個完全可配置的云”。
“這是AI cloud的核心,”Russinovich說道,“也是利用FPGA能力實(shí)現(xiàn)AI大眾化的重要一步。”
FPGAs是生產(chǎn)后可自定義配置的芯片。微軟的研究人員在FPGA領(lǐng)域已經(jīng)做了十多年的研究工作。最近,微軟已經(jīng)將FPGAs添加到自己數(shù)據(jù)中心的所有Azure服務(wù)器中,并且在一些為必應(yīng)索引服務(wù)器供能的機(jī)器中運(yùn)用FPGA,作為Project Catapult工作的一部分。微軟Azure Accelerated Networking服務(wù),通常適用于Windows和Linux預(yù)覽版,還可以在內(nèi)部使用FPGA。
Russinovich表示,有關(guān)微軟何時準(zhǔn)備好為公司以外的客戶提供硬件微服務(wù)和FPGA云處理能力,對此,公司尚未確定具體時間。
微軟的硬件微服務(wù)基于英特爾FPGA(英特爾在2015年收購了FPGA制造商Altera)。結(jié)合Microsoft框架,這些芯片將為尤其適合大數(shù)據(jù)工作量的速度,效率和延遲方面提供進(jìn)展。
微軟還通過代號為“Brainwave”的項(xiàng)目專門研究DNN部件。微軟公司在2016 Ignite會議上公開展示了BrainWave,當(dāng)時微軟公司使用BrainWave在FPGAs上進(jìn)行大規(guī)模的語言翻譯演示。
根據(jù)微軟2016年可配置云計(jì)劃的報告,BrainWave是一個深入學(xué)習(xí)平臺,運(yùn)行在基于FPGA的硬件微服務(wù)中。該報告在數(shù)據(jù)中心或互聯(lián)網(wǎng)上提到“硬件加速即服務(wù)”。BrainWave可以根據(jù)需要通過若干FPGA分配神經(jīng)網(wǎng)絡(luò)模型。
微軟并不是唯一一家在云數(shù)據(jù)中心指望FPGA的公司。亞馬遜和谷歌都在使用定制硅片處理AI任務(wù)。亞馬遜已經(jīng)提供了用于編程Xilinx FPGA的FPGA EC2 F1實(shí)例,并為FPGA提供了硬件開發(fā)套件。谷歌一直致力于訓(xùn)練TensorFlow的深度學(xué)習(xí)模式,機(jī)器學(xué)習(xí)軟件庫,并研發(fā)了自己優(yōu)先的Tensor Processing Unit芯片。