制訂行業(yè)標準一直是行業(yè)老大們熱衷于做的事，而在高速發(fā)展的AI芯片領(lǐng)域，話語權(quán)一直掌握在美國手中。國內(nèi)有沒有自己的行業(yè)標準呢？有，但影響力都有限，很難成為國際通用標準。其中，由信通院主導(dǎo)，發(fā)改委、科技部、工信部、網(wǎng)信辦等多部門背書的AI芯片新標準AIIA DNN benchmark是其中最有可能跑出來的。

幾日前，WIFI聯(lián)盟等通信行業(yè)標準聯(lián)盟組織撤銷華為會員資格一事，引起業(yè)界嘩然。

盡管5月29日這些聯(lián)盟已經(jīng)迅速恢復(fù)華為資格，但這已經(jīng)足夠令人警醒：不掌握行業(yè)標準的話語權(quán)，隨時可能出局。方興未艾的AI芯片行業(yè)更是如此。

如何檢測一塊AI芯片的性能？如今最簡單直白的方式就是“不服跑個分”。

分數(shù)確實是衡量性能的直觀方式，而跑分也經(jīng)常被安卓手機作為衡量性能的重要手段之一，甚至已經(jīng)從單純的芯片跑分蔓延至相機跑分。

對AI芯片來說，確實也需要一些方式來作為衡量標準，即Benchmark，通過一些基準對芯片進行測評，并以直觀的數(shù)據(jù)等形式來衡量芯片的真實水平。

因此Benchmark的設(shè)立某種程度上代表著芯片的行業(yè)標準，成為芯片廠商們在設(shè)計芯片時瞄準的方向。

1 權(quán)威Benchmark缺位，廠商和用戶雞同鴨講

縱觀計算機體系結(jié)構(gòu)的發(fā)展史，Benchmark一直在幕后擔(dān)任著指揮棒的角色，深刻地影響、甚至左右著芯片行業(yè)的發(fā)展。

遠到超算領(lǐng)域的Linpack，CPU界的SPEC，近到GPU世界的3DMark以及智能手機的AnTuTu，不知道有多少公司多少工程師為此而“分”狂。

AI 領(lǐng)域的Benchmark卻一直缺乏一個權(quán)威有力的平臺來給出標準。

對于AI芯片的衡量標準是多維度的，影響一款芯片的性能主要有三個因素：

首先是芯片設(shè)計。在芯片設(shè)計中，主要的指標是芯片的算力，即每秒的運算次數(shù)，一般以TOPS為單位（每秒進行1012次運算），如果將算力比喻成芯片的肌肉，算力只能作為芯片的規(guī)模，而不能代表整體的能力。

越多的算力堆砌往往意味著著越高的功耗，而既降低功耗又能達到更好效果才是一塊優(yōu)質(zhì)芯片的設(shè)計方向。此外，系統(tǒng)帶寬設(shè)計、非深度學(xué)習(xí)部分的加速等等都是芯片設(shè)計的一部分。

第二點是算法優(yōu)化，例如某個硬件架構(gòu)不適合某網(wǎng)絡(luò)，在選擇算法時，可以選擇其他適合這個硬件的算法網(wǎng)絡(luò)來實現(xiàn)同樣的功能。

第三點是軟件代碼，即使是在芯片硬件、算法一致的情況下，代碼的質(zhì)量也會影響芯片的實際性能。因此要通過這三方面來評估，缺一不可。

影響因素又多又專業(yè)，但芯片好不好終究還是要看使用情況，這或許恰恰是AI芯片至今沒有一個權(quán)威Benchmark的原因所在。中國信息通信研究院云計算與大數(shù)據(jù)研究所副主任王蘊韜近日在第三界全球人工智能大會上表示，目前的Benchmark測定標準和真正的客戶使用是有距離的。

生廠商和用戶一直存在著溝通不暢通的問題。生產(chǎn)商的宣傳一般是：首款達到多少倍水平提升的芯片；超高性能，TOPS絕對領(lǐng)先；DSA硬件架構(gòu)最優(yōu)等等。但是站在用戶的角度，真正在意的是芯片是否匹配自己的業(yè)務(wù)需求；在部署、適配、擴展的時候能否靈活快速；實際的性價比等等，往往廠商宣傳的數(shù)據(jù)并不是用戶首先考慮的點。

因此，AI芯片需要一個符合用戶需求的Benchmark，作為芯片消費大國，中國也正在著手推進自己的Benchmark。