曠視即將開源Brain++的深度學(xué)習(xí)框架
近日,曠視科技透漏其自主研發(fā)并全員使用的AI 生產(chǎn)力套件Brain++的核心深度學(xué)習(xí)框架--MegEngine,即將于3月25日進(jìn)行開源,發(fā)布會(huì)將于當(dāng)日14:00在線舉辦。
2017年,AlphaGo與柯潔的圍棋大戰(zhàn)讓大眾嘆為觀止,而支撐AlphaGo運(yùn)轉(zhuǎn)的底層技術(shù)框架就是谷歌的TensorFlow。
知名度或許沒有谷歌那么廣為人知,但其實(shí)曠視的國產(chǎn)深度學(xué)習(xí)框架MegEngine遠(yuǎn)早于谷歌TensorFlow的時(shí)代,曠視早在2014年就開始研發(fā)其深度學(xué)習(xí)框架MegEngine,過去5年里,這套深度學(xué)習(xí)框架被曠視全員使用,支撐著整個(gè)曠視的科研及產(chǎn)品化。
同時(shí)在框架的基礎(chǔ)之上,曠視研究院還提出了“三位一體”概念,將數(shù)據(jù)和算力平臺(tái)融合,構(gòu)建了集“算法、數(shù)據(jù)和算力”于一體的 AI 生產(chǎn)力套件 Brain++,自動(dòng)化、規(guī)模化、集約化生產(chǎn)算法,在Brain++的驅(qū)動(dòng)下成為了現(xiàn)實(shí)。
技術(shù)層面曠視的Brain++完全可以和谷歌的TensorFlow、臉譜的PyTorch相提并論。
Brain++
為了能夠快速的進(jìn)行算法相關(guān)實(shí)驗(yàn),在實(shí)際的工業(yè)場(chǎng)景中落地,就需要一個(gè)具有高性能,可復(fù)用和能靈活迭代的AI算法平臺(tái)。
而打造一個(gè)滿足當(dāng)前需求的AI算法平臺(tái),需要從計(jì)算性能,平臺(tái)易用性,滿足真實(shí)業(yè)務(wù)場(chǎng)景需求等不同的方面進(jìn)行考量。
人工智能發(fā)展初期階段,訓(xùn)練一個(gè) AI 模型,至少需要一兩個(gè)月,開發(fā)者甚至要通過手敲 C++ 來完成計(jì)算過程,而深度學(xué)習(xí)社區(qū)基本上被 TensorFlow 和 PyTorch 兩大框架壟斷。
算法生產(chǎn)就是對(duì)輸入數(shù)據(jù)進(jìn)行分析和提煉,并輸出能預(yù)測(cè)問題答案模型的過程,如何擺脫繁瑣低效的算法開發(fā)流程,獲得批量生產(chǎn)算法的能力一直是曠視所思考的問題。
曠視聯(lián)合創(chuàng)始人唐文斌這樣介紹Brain++:“為了解決這個(gè)問題, 2014年我們開始研發(fā)Brain++,它是一套端到端的AI算法平臺(tái),目標(biāo)是讓研發(fā)人員獲得從數(shù)據(jù)到算法產(chǎn)業(yè)化的綜合技術(shù)能力,不用重復(fù)造輪子也可以推進(jìn)AI快速落地。我們的Brain++還引入了AutoML技術(shù),可以讓算法來訓(xùn)練算法,讓AI來創(chuàng)造AI。”
MegEngine
曠視 Brain++的架構(gòu)分為三部分,其中即將開源的深度學(xué)習(xí)算法開發(fā)框架 MegEngine 是核心模塊,其次是提供算力調(diào)度支持的深度學(xué)習(xí)云計(jì)算平臺(tái) MegCompute,以及用于提供數(shù)據(jù)服務(wù)和管理的數(shù)據(jù)管理平臺(tái) MegData。
MegEngine可實(shí)現(xiàn)訓(xùn)練、部署一體化,能夠支撐大規(guī)模視覺方向的算法研發(fā),具體又分為四個(gè)層,包括計(jì)算引擎、運(yùn)行時(shí)管理、編譯和優(yōu)化以及編程和表示。
還引入了曠視獨(dú)家的AutoML技術(shù),只需訓(xùn)練一次就能得到整個(gè)模型空間的刻畫,可以顯著降低人力成本并大幅提高開發(fā)效率。
MegEngine基于 C++開發(fā),使用了目前流行的計(jì)算圖方式,和其他框架不同,其使用的是異構(gòu)架構(gòu),方便使用框架進(jìn)行分布式計(jì)算。
此外,MegEngine 內(nèi)部的計(jì)算以算子的形式進(jìn)行,它支持多種算子節(jié)點(diǎn)和變量算子,包括常用的卷積、全連接、ReLU 和用戶可定制的算子,甚至可以計(jì)算二階梯度,從而進(jìn)行更多底層和靈活的運(yùn)算。
相比于開源的大部分深度學(xué)習(xí)框架,MegEngine 具有下列優(yōu)勢(shì):
運(yùn)算速度快:MegEngine 動(dòng)態(tài)、靜態(tài)結(jié)合的內(nèi)存優(yōu)化機(jī)制,因此速度比 TensorFlow 更快;
內(nèi)存占用少:根據(jù)內(nèi)存使用狀況,MegEngine 充分優(yōu)化內(nèi)存,特別是亞線性內(nèi)存優(yōu)化,可以支持復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu),自動(dòng)利用部分冗余計(jì)算縮減內(nèi)存占用,可達(dá)兩個(gè)數(shù)量級(jí),從而支持更大規(guī)模的模型訓(xùn)練;
支持多種硬件平臺(tái)和異構(gòu)計(jì)算:MegEngine 支持通用 CPU、GPU、FPGA 以及其他移動(dòng)設(shè)備端硬件,可多卡多機(jī)進(jìn)行訓(xùn)練;
訓(xùn)練部署一體化:整個(gè)框架既可用于訓(xùn)練又同時(shí)支持推理,實(shí)現(xiàn)模型一次訓(xùn)練,多設(shè)備部署,避免復(fù)雜的轉(zhuǎn)換過程造成的性能下降和精度損失。
曠視在 2017 年拿下 3 項(xiàng) COCO 冠軍,2018年拿下 4 項(xiàng) COCO 冠軍,以及19年發(fā)布的全新的通用物體檢測(cè)數(shù)據(jù)集 Objects365。這些成績之下,Brain++貢獻(xiàn)了不小的功勞。

發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長度6~500個(gè)字
最新活動(dòng)更多
-
3月27日立即報(bào)名>> 【工程師系列】汽車電子技術(shù)在線大會(huì)
-
4月30日立即下載>> 【村田汽車】汽車E/E架構(gòu)革新中,新智能座艙挑戰(zhàn)的解決方案
-
5月15-17日立即預(yù)約>> 【線下巡回】2025年STM32峰會(huì)
-
即日-5.15立即報(bào)名>>> 【在線會(huì)議】安森美Hyperlux™ ID系列引領(lǐng)iToF技術(shù)革新
-
5月15日立即下載>> 【白皮書】精確和高效地表征3000V/20A功率器件應(yīng)用指南
-
5月16日立即參評(píng) >> 【評(píng)選啟動(dòng)】維科杯·OFweek 2025(第十屆)人工智能行業(yè)年度評(píng)選
推薦專題
- 1 UALink規(guī)范發(fā)布:挑戰(zhàn)英偉達(dá)AI統(tǒng)治的開始
- 2 北電數(shù)智主辦酒仙橋論壇,探索AI產(chǎn)業(yè)發(fā)展新路徑
- 3 降薪、加班、裁員三重暴擊,“AI四小龍”已折戟兩家
- 4 “AI寒武紀(jì)”爆發(fā)至今,五類新物種登上歷史舞臺(tái)
- 5 國產(chǎn)智駕迎戰(zhàn)特斯拉FSD,AI含量差幾何?
- 6 光計(jì)算迎來商業(yè)化突破,但落地仍需時(shí)間
- 7 東陽光:2024年扭虧、一季度凈利大增,液冷疊加具身智能打開成長空間
- 8 地平線自動(dòng)駕駛方案解讀
- 9 封殺AI“照騙”,“淘寶們”終于不忍了?
- 10 優(yōu)必選:營收大增主靠小件,虧損繼續(xù)又逢關(guān)稅,能否乘機(jī)器人東風(fēng)翻身?