前言：

在AI時(shí)代，深度學(xué)習(xí)框架和操作系統(tǒng)類(lèi)似，起著承上啟下的作用，連接芯片與應(yīng)用，擁有強(qiáng)大算力的AI芯片加持，AI技術(shù)將得到更廣泛普及。

NPU成移動(dòng)AI的核心載體

手機(jī)正常運(yùn)行離不開(kāi)SoC芯片，其集成的各個(gè)模塊共同支撐手機(jī)功能實(shí)現(xiàn)，如CPU負(fù)責(zé)手機(jī)應(yīng)用流暢切換、GPU支持游戲畫(huà)面快速加載，而NPU（神經(jīng)網(wǎng)絡(luò)處理器）就專(zhuān)門(mén)負(fù)責(zé)實(shí)現(xiàn)AI運(yùn)算和AI應(yīng)用的實(shí)現(xiàn)。

NPU又叫獨(dú)立網(wǎng)絡(luò)加速引擎�？梢园凑兆置嬉馑祭斫猓�它是專(zhuān)門(mén)用來(lái)處理數(shù)據(jù)包轉(zhuǎn)發(fā)的芯片。主要的工作是收到數(shù)據(jù)包，按照包的地址，快速轉(zhuǎn)發(fā)出去，就像一條快遞傳送帶。并且它只負(fù)責(zé)包的轉(zhuǎn)發(fā)，無(wú)法處理其他業(yè)務(wù)邏輯。

CPU像是人的大腦，可以計(jì)算加減乘除，也可以用來(lái)學(xué)習(xí)英語(yǔ)，還可以用來(lái)邏輯推理，NPU更像是計(jì)算器，只能計(jì)算加減乘除，但因?yàn)椤皩?zhuān)器專(zhuān)用”，NPU處理效率很高，功耗更低。

如果沒(méi)有NPU，數(shù)據(jù)包的轉(zhuǎn)發(fā)也能通過(guò)CPU來(lái)進(jìn)行處理，但當(dāng)設(shè)備多數(shù)據(jù)量大時(shí)，CPU占用就會(huì)變高，處理不過(guò)來(lái)時(shí)就會(huì)丟包，導(dǎo)致網(wǎng)絡(luò)無(wú)法使用。而這些特定的數(shù)據(jù)包轉(zhuǎn)發(fā)規(guī)則，可以交由NPU處理，CPU可以減少最多99％的工作量。

深度學(xué)習(xí)＋開(kāi)源的百度飛槳

在海量數(shù)據(jù)時(shí)代，數(shù)據(jù)的收集、組織、分析、運(yùn)用都將推動(dòng)社會(huì)的發(fā)展。隨著數(shù)據(jù)量的不斷增長(zhǎng)、算法不斷演進(jìn)和迭代，對(duì)極致算力的需求也越來(lái)越大，而軟硬件的充分結(jié)合則顯得尤為重要。

百度飛槳是國(guó)內(nèi)自主研發(fā)、開(kāi)源開(kāi)放、功能最完備的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)平臺(tái)，集深度學(xué)習(xí)核心框架、基礎(chǔ)模型庫(kù)、端到端開(kāi)發(fā)套件、工具組件和服務(wù)平臺(tái)于一體，提供深度學(xué)習(xí)和機(jī)器學(xué)習(xí)任務(wù)開(kāi)發(fā)、訓(xùn)練、部署能力，加速企業(yè)從算法研發(fā)到產(chǎn)業(yè)落地的過(guò)程。

飛槳框架是源自產(chǎn)業(yè)實(shí)踐深度學(xué)習(xí)框架，同時(shí)支持靜態(tài)圖和動(dòng)態(tài)圖搭建網(wǎng)絡(luò)，支持高效大規(guī)模分布式訓(xùn)練，同時(shí)推出了像PaddleSlim模型壓縮還有安全加密的工具，以及在服務(wù)端和移動(dòng)端進(jìn)行預(yù)測(cè)部署一些引擎。

而Paddle Lite是飛槳推出的一套功能完善、易用性強(qiáng)且性能卓越的輕量化推理引擎，支持多種硬件、多種平臺(tái)，具備輕量化部署、高性能實(shí)現(xiàn)等重要特性。

在算力層向上，向下連接芯片，向上連接了應(yīng)用場(chǎng)景的就是深度學(xué)習(xí)框架及平臺(tái)，在AI時(shí)代能夠幫助開(kāi)發(fā)者便捷、快速完成深度學(xué)習(xí)技術(shù)研發(fā)的作用。

據(jù)IDC報(bào)告顯示，百度飛槳與谷歌、Facebook名列前三，領(lǐng)銜中國(guó)深度學(xué)習(xí)平臺(tái)市場(chǎng)，也是市場(chǎng)份額前五中唯一的國(guó)貨。