訂閱
糾錯(cuò)
加入自媒體
當(dāng)前位置： OFweek 人工智能網(wǎng)   >   操作系統(tǒng)   >  正文

給手機(jī)“減負(fù)”！Facebook發(fā)布提高設(shè)備AI工作能效的AutoScale

決定AI應(yīng)用在智能手機(jī)上終端還是在云端運(yùn)行，對(duì)于用戶和開(kāi)發(fā)AI應(yīng)用的企業(yè)都十分重要，因?yàn)檫@與運(yùn)行設(shè)備的長(zhǎng)期電池壽命息息相關(guān)。大多數(shù)智能手機(jī)都或多或少地嵌入了AI應(yīng)用，但如果所有的AI工具都在終端運(yùn)行，有可能導(dǎo)致手機(jī)性能下降；而在云端運(yùn)行，則可能導(dǎo)致較長(zhǎng)的調(diào)用時(shí)間。

為了解決這一問(wèn)題，近日Facebook和亞利桑那州立大學(xué)建立了一個(gè)支持AI減輕設(shè)備負(fù)荷的模型——AutoScale。該模型能夠自動(dòng)決策部署AI運(yùn)行的位置，節(jié)省了大量成本，將AI工具的能效提高到基線方法的10．8倍；更能準(zhǔn)確預(yù)測(cè)AI應(yīng)用的合適位置，達(dá)到高性能和低能耗兼?zhèn)涞睦硐胄Ч?/p>

高能效＋低負(fù)荷

AutoScale：挖掘強(qiáng)化學(xué)習(xí)算法的潛能

AutoScale會(huì)觀察當(dāng)前的AI工作執(zhí)行效率，包括算法的架構(gòu)特征和運(yùn)行時(shí)間差異。它在協(xié)同處理器等硬件之間選擇，找到能夠最大限度提高能源效率的硬件，以保證AI助手的服務(wù)質(zhì)量。對(duì)選定硬件定義的目標(biāo)執(zhí)行推理后，通過(guò)觀察其結(jié)果，包括演算運(yùn)行能耗、延遲度和推理精度，以表明選中的硬件是否提高了AI工作效率。

AutoScale模型

AutoScale基于強(qiáng)化學(xué)習(xí)算法，計(jì)算累計(jì)獎(jiǎng)勵(lì)（R值），來(lái)選擇AI工具的最佳運(yùn)行方式。例如：對(duì)于給定的處理器，系統(tǒng)使用基于AI能效利用率的模型計(jì)算獎(jiǎng)勵(lì)，假設(shè)處理器內(nèi)核消耗的功率是可變的，內(nèi)核在繁忙和空閑狀態(tài)下花費(fèi)的處理時(shí)間不同，其能源使用情況也各不相同。相比之下，當(dāng)推理擴(kuò)展到連接的數(shù)據(jù)中心時(shí)，AutoScale可以借助基于信號(hào)強(qiáng)度的模型來(lái)計(jì)算獎(jiǎng)勵(lì)，預(yù)測(cè)傳輸延遲度和網(wǎng)絡(luò)消耗的能量。

在適應(yīng)QoS限制條約的前提下，比起基線模型，AutoScale更能提高能效。

1  2  下一頁(yè)>  
聲明： 本文由入駐維科號(hào)的作者撰寫(xiě)，觀點(diǎn)僅代表作者本人，不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題，請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

共0條評(píng)論，0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁，請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清，點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題：
    *糾錯(cuò)內(nèi)容：
    聯(lián)系郵箱：
    *驗(yàn) 證 碼：

    粵公網(wǎng)安備 44030502002758號(hào)