訂閱
糾錯
加入自媒體

深大教授石大明:深度學習在神經網絡中的作用

11月12-13日,由OFweek中國高科技行業(yè)門戶、高科會主辦的“OFweek2018(第三屆)中國高科技產業(yè)大會”在深圳成功舉辦。在13日“OFweek2018(第三屆)人工智能產業(yè)大會AI技術專場”上,深圳大學計算機與軟件學院特聘教授石大明帶來了“從神經網絡到深度學習”的主題演講,針對深度學習在神經網絡的發(fā)展方向進行了詳細分析。

深圳大學計算機與軟件學院特聘教授石大明

神經網絡是一門重要的機器學習技術,也是目前最為火熱的研究方向,即深度學習的基礎。石大明教授首先詳細分析了人工智能兩大學派:符號主義與連接主義,緊接著又講述了機器學習的兩大方法:有監(jiān)督學習和非監(jiān)督學習,循序漸進。

神經網絡發(fā)展包含四個里程碑,分別是感知器、多層感知器、支持向量機、深度學習,并對神經網絡中的難點進行了分析。他提出,深度學習在神經網絡發(fā)展中的地位實質是靠強大的計算和存儲能力進行搜索而完成自動特征提取,同時具有理論上無突破,缺乏網絡結構和參數(shù)優(yōu)化等缺點。石大明表示,深度學習的發(fā)展方向應當是:結合領域知識的特征提取的同時,定量優(yōu)化網絡結構。

深度學習不是萬能的

大腦的工作過程,是一個對接收信號不斷迭代、不斷抽象概念化的過程。例如,從原始信號攝入開始,接著做初步處理、抽象,再進一步抽象,最后識別人臉。這個過程其實和人們的常識是相吻合的,因為復雜的圖形,往往就是由一些基本結構組合而成的。因此,石大明介紹到:大腦是一個深度架構,認知過程也是深度的。深度學習,恰恰就是通過組合低層特征形成更加抽象的高層特征。

深度學習通過學習深層非線性網絡結構,只需簡單的網絡結構即可實現(xiàn)復雜函數(shù)的逼近,并展現(xiàn)了強大的從大量無標注樣本集中學習數(shù)據(jù)集本質特征的能力。深度學習能夠獲得可更好地表示數(shù)據(jù)的特征,同時由于模型的層次深、表達能力強,因此有能力表示大規(guī)模數(shù)據(jù)。對于圖像、語音這種特征不明顯的問題,深度模型能夠在大規(guī)模訓練數(shù)據(jù)上取得更好的效果。相比于傳統(tǒng)的神經網絡,深度神經網絡作出了重大的改進,在訓練上的難度可以通過“逐層預訓練”來有效降低。

石大明認為,深度學習并不是萬能的,其需要結合特定領域的先驗知識,需要和其他模型結合才能得到最好的結果。此外,類似于神經網絡,深度學習的另一局限性是可解釋性不強,像個“黑箱子”一樣不知為什么能取得好的效果,以及不知如何有針對性地去具體改進,而這有可能成為產品升級過程中的阻礙。

深度學習應用最廣泛的三個主要研究領域

深度學習極大地促進了機器學習的發(fā)展,收到世界各國相關領域研究人員和高科技公司的重視,石大明表示語音、圖像和自然語言處理是深度學習算法應用最廣泛的三個主要研究領域:

1、深度學習在語音識別領域研究現(xiàn)狀

長期以來,語音識別系統(tǒng)大多是采用GMM來描述每個建模單元的概率模型。由于這種模型估計簡單,方便使用大規(guī)模數(shù)據(jù)對其訓練,有較好的區(qū)分度訓練算法,在很長時間內占據(jù)了語音識別應用領域主導性地位。

2、深度學習在圖像識別領域研究現(xiàn)狀

對于圖像的處理是深度學習算法最早嘗試應用的領域。起初卷積神經網絡在小規(guī)模的問題上取得了當時世界最好成果。但是在很長一段時間里一直沒有取得重大突破。主要原因是卷積神經網絡應用在大尺寸圖像上一直不能取得理想結果,而現(xiàn)在的深度學習網絡模型已經能夠理解和識別一般的自然圖像。深度學習模型不僅大幅提高了圖像識別的精度,同時也避免了需要消耗大量時間進行人工特征的提取,使得在線運行效率大大提升。

3、深度學習在自然語言處理領域研究現(xiàn)狀

自然語言處理問題是深度學習在除了語音和圖像處理之外的另一個重要的應用領域。深度學習在自然語言處理上取得的成果和在圖像語音識別方面相差甚遠,仍有待深入研究。

更多詳細內容,敬請關注OFweek人工智能網后續(xù)專題報道。

聲明: 本網站所刊載信息,不代表OFweek觀點?帽菊靖寮,務經書面授權。未經授權禁止轉載、摘編、復制、翻譯及建立鏡像,違者將依法追究法律責任。

發(fā)表評論

0條評論,0人參與

請輸入評論內容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

    掃碼關注公眾號
    OFweek人工智能網
    獲取更多精彩內容
    文章糾錯
    x
    *文字標題:
    *糾錯內容:
    聯(lián)系郵箱:
    *驗 證 碼:

    粵公網安備 44030502002758號