IBM大膽預(yù)測(cè)，GPU在AI中的主導(dǎo)地位正在結(jié)束。GPU能夠?yàn)閳D形處理進(jìn)行大量的并行矩陣乘法運(yùn)算，這種矩陣乘法碰巧與神經(jīng)網(wǎng)絡(luò)所需的完全相同。

因?yàn)闆](méi)有那些GPU，我們永遠(yuǎn)無(wú)法達(dá)到今天在AI性能方面已經(jīng)達(dá)到的性能水平。但是，隨著更多企業(yè)已經(jīng)掌握了更關(guān)于如何實(shí)現(xiàn)人工智能的知識(shí)，他們也在尋找設(shè)計(jì)出更高效硬件的方法和途徑。

工程界已經(jīng)意識(shí)到，降低能耗的關(guān)鍵是盡量減少計(jì)算架構(gòu)中出現(xiàn)數(shù)據(jù)必須從內(nèi)存遷移到處理器用于計(jì)算的這一情況發(fā)生，因?yàn)檫@樣的遷移需要耗費(fèi)大量時(shí)間和精力。

模擬技術(shù)天然適合邊緣的人工智能。模擬計(jì)算需要低功耗，證明它具有高能效，但卻不準(zhǔn)確。模擬正在回歸，因?yàn)閮?nèi)存計(jì)算與模擬計(jì)算可以相互配合。內(nèi)存陣列負(fù)責(zé)神經(jīng)網(wǎng)絡(luò)權(quán)重，模擬元件負(fù)責(zé)求和和觸發(fā)。

而人工智能學(xué)科發(fā)展與人類智能差距之一就是對(duì)多模態(tài)信息的智能化理解。人造信息量帶來(lái)了更大多樣性，視覺(jué)、聲音、符號(hào)語(yǔ)言、嗅覺(jué)和觸覺(jué)等信息，具有無(wú)限多樣性。

①目前的深度學(xué)習(xí)僅能實(shí)現(xiàn)人類大腦極小一部分的功能，距離人類的智能還有非常遠(yuǎn)的距離，而使用神經(jīng)模態(tài)計(jì)算直接模仿神經(jīng)元系統(tǒng)在人工神經(jīng)元數(shù)量足夠多時(shí)，或?qū)⒂邢Ｍ�能�?shí)現(xiàn)比起深度學(xué)習(xí)更好的效果，更接近人類大腦。

②目前深度學(xué)習(xí)計(jì)算在部署上遇到的困難是能效比和延遲問(wèn)題，在對(duì)于功耗要求非常低的物聯(lián)網(wǎng)領(lǐng)域，以及對(duì)于延遲要求非常高的領(lǐng)域無(wú)人駕駛領(lǐng)域，部署深度學(xué)習(xí)會(huì)遇到很大的挑戰(zhàn)。

①神經(jīng)模態(tài)計(jì)算的一大優(yōu)勢(shì)就是其計(jì)算功耗與輸入有關(guān)，在輸入不會(huì)激活大量神經(jīng)元的情況下，其功耗可以做到非常低。

②對(duì)于物聯(lián)網(wǎng)應(yīng)用來(lái)說(shuō)，神經(jīng)模態(tài)計(jì)算可以利用這樣的規(guī)律，僅僅在需要的時(shí)候激活神經(jīng)元消費(fèi)能量來(lái)完成事件識(shí)別，而在其他沒(méi)有事件的時(shí)候由于神經(jīng)元未被激活因此功耗很低，從而實(shí)現(xiàn)遠(yuǎn)低于深度學(xué)習(xí)芯片的平均功耗。

③神經(jīng)模態(tài)計(jì)算并非常規(guī)的馮諾伊曼架構(gòu)，神經(jīng)模態(tài)計(jì)算芯片一般也不會(huì)搭配DRAM使用，而是直接將信息儲(chǔ)存在了神經(jīng)元里。這樣就避免了內(nèi)存墻帶來(lái)的功耗和延遲問(wèn)題，因此神經(jīng)模態(tài)計(jì)算芯片的延遲和能效比都會(huì)好于傳統(tǒng)的深度學(xué)習(xí)。

①神經(jīng)模態(tài)芯片的發(fā)展方向首先是規(guī)�；�，即擴(kuò)大神經(jīng)元的規(guī)模，這也是Intel和IBM等大廠主要押注的方向。

②利用神經(jīng)模態(tài)計(jì)算低功耗和低延遲的特點(diǎn)并進(jìn)一步優(yōu)化芯片設(shè)計(jì)來(lái)開(kāi)發(fā)出高能效比低延遲的芯片。這類芯片或許神經(jīng)元數(shù)量不多，但是可以實(shí)現(xiàn)非常低的功耗和非常好的能效比，從而可以部署在傳統(tǒng)深度學(xué)習(xí)無(wú)法部署的場(chǎng)景。

①對(duì)于Intel和IBM這類在大規(guī)模神經(jīng)元領(lǐng)域大量投資的公司，更看重在這幾年內(nèi)把神經(jīng)模態(tài)計(jì)算的研究、生態(tài)先做起來(lái)，等到神經(jīng)模態(tài)計(jì)算研究取得突破時(shí)就能獲得先機(jī)。

②在中等規(guī)模神經(jīng)元規(guī)模、主打低功耗的神經(jīng)模態(tài)芯片方向上，物聯(lián)網(wǎng)將會(huì)成為最佳的落地應(yīng)用。

①數(shù)據(jù)模態(tài)多種多樣，包括2D圖像、3D模型、結(jié)構(gòu)化信息、文本、聲音及更多無(wú)法量化的數(shù)據(jù)。

②多模態(tài)數(shù)據(jù)的不對(duì)應(yīng)，如從圖像到文字，從文字到圖像，都是“一對(duì)多”的過(guò)程，會(huì)有多種的描述和呈現(xiàn)。

③多模態(tài)數(shù)據(jù)的融合，一個(gè)軟件或算法的進(jìn)步較為容易，但多個(gè)算法一起，難度將幾何級(jí)上升，要經(jīng)過(guò)語(yǔ)言模型、三維建模、自動(dòng)尋路、圖像分析這些步驟。

④多模態(tài)監(jiān)督。

目前，物聯(lián)網(wǎng)和人工智能都是發(fā)展大勢(shì)，而AI芯片正處于從通用型向?qū)Ｓ眯桶l(fā)展和轉(zhuǎn)化的過(guò)程當(dāng)中，特別是在物聯(lián)網(wǎng)邊緣側(cè)，通用型AI芯片的計(jì)算效率較低，繼而帶來(lái)了成本和功耗的失配。

在物聯(lián)網(wǎng)應(yīng)用初期，很多AI芯片都是以單模態(tài)功能切入市場(chǎng)的，最為普遍的就是語(yǔ)音應(yīng)用。但是未來(lái)的應(yīng)用會(huì)是多模態(tài)融合的，機(jī)器人就是一個(gè)典型的多模態(tài)應(yīng)用實(shí)例，還有如車載芯片，因此多模態(tài)是市場(chǎng)發(fā)展的必然趨勢(shì)。

對(duì)于架構(gòu)，雖然每家芯片企業(yè)的架構(gòu)都有各自的特點(diǎn)和實(shí)現(xiàn)方法，支持機(jī)器學(xué)習(xí)的算法會(huì)逐漸形成統(tǒng)一的框架。未來(lái)有可能形成在不同AI芯片硬件上面，可以運(yùn)行所有神經(jīng)網(wǎng)絡(luò)的模型，這在不久的將來(lái)是完全有可能出現(xiàn)的。

隨著5G和物聯(lián)網(wǎng)的大面積鋪開(kāi)，低功耗AI芯片將是未來(lái)的主要發(fā)展方向，只要相關(guān)標(biāo)準(zhǔn)能夠確定，則商機(jī)無(wú)限。

雖然2016年時(shí)在航空、軍事與國(guó)防、汽車、消費(fèi)、醫(yī)療、金融服務(wù)、基礎(chǔ)設(shè)施和公用事業(yè)等產(chǎn)業(yè)中使用神經(jīng)形態(tài)技術(shù)的應(yīng)用并不多，但在接下來(lái)的十年，這些產(chǎn)業(yè)將開(kāi)始大量采用神經(jīng)形態(tài)技術(shù)。

像IBM、Intel、惠普等巨擘都跨足這個(gè)領(lǐng)域，為神經(jīng)形態(tài)晶片開(kāi)發(fā)硬體，同時(shí)，高通也計(jì)劃在2018年以前商用化其認(rèn)知運(yùn)算與機(jī)器學(xué)習(xí)平臺(tái)Zeroth，從而將神經(jīng)形態(tài)功能整合在嵌入式系統(tǒng)中。

整體神經(jīng)形態(tài)晶片市場(chǎng)在2016年時(shí)約有12億美元的價(jià)值，并以26．3％的復(fù)合年成長(zhǎng)率成長(zhǎng)，在2022年時(shí)達(dá)到48億美元的市場(chǎng)規(guī)模。

而這還不包括消費(fèi)終端產(chǎn)業(yè)，而是指由工業(yè)檢測(cè)、航空、軍事與國(guó)防等領(lǐng)域所帶動(dòng)的神經(jīng)形態(tài)晶片市場(chǎng)需求。到2022年，亞洲將占據(jù)一半以上的神經(jīng)形態(tài)市場(chǎng)。

國(guó)內(nèi)神經(jīng)模態(tài)芯片得到了國(guó)家和業(yè)界的重視。清華類腦計(jì)算中心做出了卓越的貢獻(xiàn)，其工作發(fā)表在全球頂級(jí)期刊和會(huì)議上。上海也于今年建立了上海腦科學(xué)與類腦研究中心，神經(jīng)模態(tài)計(jì)算是該中心的重點(diǎn)方向之一。

在商業(yè)化方面，清華類腦計(jì)算中心孵化的初創(chuàng)公司靈汐科技在今年發(fā)布了自主研發(fā)的“天機(jī)二代”芯片系統(tǒng)，使用眾核存算一體架構(gòu)，具有高速度、高性能、低功耗的特點(diǎn)。

相比國(guó)外同行，我國(guó)的神經(jīng)模態(tài)計(jì)算在最近幾年得到了來(lái)自國(guó)家非常高的重視，相信在未來(lái)幾年內(nèi)將會(huì)有全球領(lǐng)先的成果誕生。

過(guò)去幾年，尹首一副教授針對(duì)這一前沿課題，領(lǐng)銜研究和設(shè)計(jì)了可重構(gòu)多模態(tài)混合神經(jīng)計(jì)算芯片（代號(hào)Thinker）。

Thinker芯片基于該團(tuán)隊(duì)長(zhǎng)期積累的可重構(gòu)計(jì)算芯片技術(shù)，采用可重構(gòu)架構(gòu)和電路技術(shù)，突破了神經(jīng)網(wǎng)絡(luò)計(jì)算和訪存的瓶頸，實(shí)現(xiàn)了高能效多模態(tài)混合神經(jīng)網(wǎng)絡(luò)計(jì)算。

Thinker芯片具有高能效的突出優(yōu)點(diǎn)，其能量效率相比目前在深度學(xué)習(xí)中廣泛使用的GPU提升了三個(gè)數(shù)量級(jí)。

其支持電路級(jí)編程和重構(gòu)，是一個(gè)通用的神經(jīng)網(wǎng)絡(luò)計(jì)算平臺(tái)，可廣泛應(yīng)用于機(jī)器人、無(wú)人機(jī)、智能汽車、智慧家居、安防監(jiān)控和消費(fèi)電子等領(lǐng)域。

結(jié)尾：

目前Intel和IBM在內(nèi)的企業(yè)正積極探索超低功耗神經(jīng)模態(tài)芯片在不同領(lǐng)域的應(yīng)用，在未來(lái)幾年內(nèi)隨著AI＋I(xiàn)oT的發(fā)展，神經(jīng)模態(tài)計(jì)算將會(huì)迎來(lái)一波新的熱潮。

目前如何高效訓(xùn)練大規(guī)模神經(jīng)模態(tài)神經(jīng)元的算法還沒(méi)有找到，因此在現(xiàn)有訓(xùn)練框架的基礎(chǔ)下，或許優(yōu)先把能效比做到極致是比把神經(jīng)元數(shù)量做大更接地氣的方向。