訂閱
糾錯(cuò)
加入自媒體

大模型為什么要強(qiáng)調(diào)全棧自研?

文:詩與星空

ID:SingingUnderStars           

DeepSeek發(fā)布以來,各大廠商紛紛官宣接入DeepSeek。但是,不同的廠商,說法不同,這里面的學(xué)問很大。           

一是接入。           

只說接入的,大概率是API接入。這個(gè)很簡單,星空君第一時(shí)間就接入了,DeepSeek和硅基流動(dòng)的API非常便宜,每天高強(qiáng)度使用(一個(gè)周超過80次),10塊錢怎么都用不完。企業(yè)級應(yīng)用,每天上萬次甚至幾十萬次調(diào)用,也不算貴。          

 

          

 

二是私有化部署。              

 

其實(shí)私有化部署的門檻非常高,但很多量化版本并不是真正的DeepSeek,這些量化模型打著DeepSeek的幌子進(jìn)入政企高校。最低幾萬塊的消費(fèi)級配置就可以滿足。而真正的DeepSeek需要差不多150萬+的服務(wù)器才能部署,通常叫“滿血版”。只要不是“滿血版”的,都是這種量化版,大模型的能力比真正的DeepSeek差著很遠(yuǎn)。

           

三是全棧自研。

           

星空君注意到中國石油和中國移動(dòng)合作的官宣里提到了這個(gè)說法。          

 

什么是“全棧自研”?          

 

眾所周知,DeepSeek是在英偉達(dá)的顯卡上訓(xùn)練出來的,大部分企業(yè)即便是私有化部署,也是部署在英偉達(dá)的顯卡上,而英偉達(dá)的顯卡不能算作自研。          

 

經(jīng)過適配后的DeepSeek可以部署在華為昇騰算力卡上,這就實(shí)現(xiàn)了硬件自研;使用國產(chǎn)的操作系統(tǒng)(如麒麟Linux、華為歐拉等)、國產(chǎn)的開發(fā)工具,就實(shí)現(xiàn)了軟件自研。二者合起來,方可成為全棧自研。          

 

即便是在最極端的情況下,全棧自研依然是安全可控的。

           

在A股上市公司中,搞全棧自研的有幾家知名企業(yè)。

           

一是科大訊飛,它主攻方向是軟件自研,硬件依托華為昇騰;          

 

另一個(gè)是中科曙光,它主攻方向是硬件自研,以AI服務(wù)器為主。

  

01

中科曙光的2024年年報(bào)

                 

 2024年之前,受益于信創(chuàng)的推廣,中科曙光的成長性非?臁5搅2024年突然失速,年報(bào)顯示,公司的營收出現(xiàn)了下滑,降幅為8.4%。          

 

數(shù)據(jù)來源:iFind

           

結(jié)合公司年報(bào),主要有四個(gè)原因:

           

一是全球經(jīng)濟(jì)下行壓力增大,地緣政治風(fēng)險(xiǎn)加劇,導(dǎo)致市場需求疲軟,項(xiàng)目延期或取消。同時(shí),AI技術(shù)快速發(fā)展,行業(yè)競爭加劇,公司面臨更大的市場壓力。

           

二是客戶對設(shè)備性能和可靠性提出了更高的要求,給公司的產(chǎn)品帶來了壓力。          

 

三是云計(jì)算市場競爭激烈,價(jià)格戰(zhàn)導(dǎo)致產(chǎn)品收入下降,而固定成本(如研發(fā)、人員)相對穩(wěn)定,影響了整體盈利能力。          

 

四是客戶集中度過高,一旦大客戶訂單減少或延期,將對公司業(yè)績產(chǎn)生較大影響。              

 

其實(shí)這里頭最大的原因,是第四個(gè),公司的大客戶出現(xiàn)了訂單減少的情況。

           

2024年度的前五大客戶銷售額為116億元,占年度銷售總額的比例為87.95%。作為對比,上年同期前五大客戶銷售額為122億元。

02

AI領(lǐng)域進(jìn)展                             

 

作為全棧自研方向的六邊形選手,公司在AI領(lǐng)域分四大部分。          

 

一是AI硬件,也就是AI服務(wù)器。          

 

公司持續(xù)迭代開發(fā)浸沒式液體相變冷卻刀片系統(tǒng)、人工智能工作站等高端計(jì)算機(jī)產(chǎn)品,并加快國產(chǎn)核心零部件導(dǎo)入,形成全國產(chǎn)整機(jī)解決方案。

           

發(fā)布全棧自研的集中式存儲(chǔ)系統(tǒng)FlashNexus,達(dá)到億級IOPS,最大支持256個(gè)控制器拓展。

面向AI應(yīng)用需求,ParaStor分布式全閃存儲(chǔ)全面升級,將分布式存儲(chǔ)系統(tǒng)的帶寬單位從GB級帶到TB級時(shí)代。

           

推出業(yè)界首款液冷存儲(chǔ)產(chǎn)品,存儲(chǔ)系統(tǒng)PUE值降至1.2以下。          

 

二是軟件,主要是管理軟件。          

 

迭代研發(fā)AI技術(shù)軟件棧DAS平臺,提升AI全棧優(yōu)化能力,平臺提供從基礎(chǔ)算子、框架工具到擴(kuò)展組件的多層次計(jì)算服務(wù),助力AI應(yīng)用的遷移、開發(fā)及迭代;同時(shí),基于國產(chǎn)算力平臺上線AI模型倉庫,支持百余精調(diào)模型下載即用。             

 

DeepAI深算智能引擎, 通過打造端到端全棧AI加速套件,助力各行各業(yè)AI應(yīng)用開發(fā)與落地。

           

三是賣完整解決方案:一體機(jī)。          

 

曙光云發(fā)布了全國產(chǎn)DeepSeek大模型超融合一體機(jī),采用國產(chǎn)X86 CPU和國產(chǎn)GPGPU加速卡,支持全精度、半精度混合訓(xùn)練與推理,契合信創(chuàng)要求。          

 

政府機(jī)關(guān)、央企國企、高校等客戶群體,都有信創(chuàng)的要求,所以唯一選擇就是國產(chǎn)算力,而曙光在這方面屬于頭部供應(yīng)商。          

 

四是行業(yè)應(yīng)用          

 

政務(wù)領(lǐng)域,通過曙光人工智能基礎(chǔ)軟件系統(tǒng)DAS,實(shí)現(xiàn)自動(dòng)化監(jiān)控與數(shù)據(jù)采集、實(shí)時(shí)數(shù)據(jù)處理和智能檢測預(yù)警,從而加強(qiáng)數(shù)據(jù)保護(hù),簡化服務(wù)流程,并提高政府服務(wù)質(zhì)量和響應(yīng)速度。

           

礦山開采領(lǐng)域,DAS應(yīng)用于巖石檢測,涉及圖像識別、模式分析和數(shù)據(jù)預(yù)測,全流程賦能巖石檢測,優(yōu)化模型,提高數(shù)據(jù)處理效率和檢測準(zhǔn)確性。

03

前景

                  

對于服務(wù)器廠商來說,AI服務(wù)器即將(已經(jīng))迎來爆發(fā)式需求。          

 

星空君很喜歡陸奇在2017年提出的那句“All in AI”,對于曙光來說,x86躺著數(shù)錢太舒服了,公司應(yīng)該向AI服務(wù)器戰(zhàn)略轉(zhuǎn)移。

          

隨著政企客戶AI轉(zhuǎn)型需求增加,“東數(shù)西算”工程深入推進(jìn),公司有望在智能算力基礎(chǔ)設(shè)施建設(shè)與服務(wù)領(lǐng)域獲得更多訂單。              

 

2025年信創(chuàng)DeepSeek大模型超融合一體機(jī)會(huì)迎來一波爆發(fā),有望在政府、金融等關(guān)鍵行業(yè)實(shí)現(xiàn)快速推廣。          

 

隨著數(shù)據(jù)中心PUE值要求日益嚴(yán)格,公司的液冷技術(shù)與綠色算力解決方案將具有更強(qiáng)的市場競爭力。針對AI大模型訓(xùn)練與推理的需求,公司有望在存儲(chǔ)系統(tǒng)與數(shù)據(jù)解決方案領(lǐng)域?qū)崿F(xiàn)突破。通過曙光云擴(kuò)大政企私有云市場份額。       

   

 

-END-免責(zé)聲明:本文章是基于上市公司的公眾公司屬性、以上市公司根據(jù)其法定義務(wù)公開披露的信息(包括但不限于臨時(shí)公告、定期報(bào)告和官方互動(dòng)平臺等)為核心依據(jù)的分析研究;詩與星空力求文章所載內(nèi)容及觀點(diǎn)公正,但不保證其準(zhǔn)確性、完整性、及時(shí)性等;本文中的信息或所表述的意見不構(gòu)成任何投資建議,詩與星空不對因使用本文章所采取的任何行為承擔(dān)任何責(zé)任。

版權(quán)聲明:本文章內(nèi)容為詩與星空原創(chuàng),未經(jīng)授權(quán)不得轉(zhuǎn)載。

       原文標(biāo)題 : 大模型為什么要強(qiáng)調(diào)全棧自研?

聲明: 本文由入駐維科號的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報(bào)。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個(gè)字

您提交的評論過于頻繁,請輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評論

暫無評論

    掃碼關(guān)注公眾號
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號