（六）機器學(xué)習(xí)過程舉例說明

所謂機器學(xué)習(xí)過程，是指觀察有n個樣本數(shù)據(jù)組成的集合，并根據(jù)這些數(shù)據(jù)來預(yù)測未知數(shù)據(jù)的性質(zhì)，那么在給定數(shù)據(jù)集（所謂大數(shù)據(jù)）和具體問題的前提下，一般解決問題的步驟可以概括如下：

1．?dāng)?shù)據(jù)抽象

將數(shù)據(jù)集和具體問題抽象成數(shù)學(xué)語言，以恰當(dāng)?shù)臄?shù)學(xué)符號表示。這樣做自然是為了方便表述和求解問題，而且也更加直觀。

2．設(shè)定性能度量指標(biāo)

機器學(xué)習(xí)是產(chǎn)生模型的算法，一般來說模型都有誤差。如果模型學(xué)的太好，把訓(xùn)練樣本自身的一些特點當(dāng)成所有潛在樣本具有的一般性質(zhì)，這種情況稱為過擬合，這樣的模型在面對新樣本時就會出現(xiàn)較大誤差，專業(yè)表述就是導(dǎo)致模型的泛化性能下降。與之相對的是欠擬合，模型對樣本的一般性質(zhì)都沒學(xué)好，這種情況一般比較好解決，擴充數(shù)據(jù)集或者調(diào)整模型皆可。

3．?dāng)?shù)據(jù)預(yù)處理

之所以要做數(shù)據(jù)預(yù)處理，是因為提供的數(shù)據(jù)集往往很少是可以直接拿來用的。例如：如果樣本的屬性太多，一般有兩種方法： 降維和特征選擇。特征選擇比較好理解，就是選擇有用相關(guān)的屬性，或者用另外一種表達方式：選擇樣本中有用、跟問題相關(guān)的特征。

4．選定模型

在數(shù)據(jù)集完美的情況下，接下來就是根據(jù)具體問題選定恰當(dāng)?shù)哪Ｐ土�。一種方式是根據(jù)有沒有標(biāo)記樣本考慮。如果是有標(biāo)記樣本，可以考慮有監(jiān)督學(xué)習(xí)，反之則是無監(jiān)督學(xué)習(xí)，兼而有之就看半監(jiān)督學(xué)習(xí)是否派的上用場。

5．訓(xùn)練及優(yōu)化

選定了模型，如何訓(xùn)練和優(yōu)化也是一個重要問題。如果要評估訓(xùn)練集和驗證集的劃分效果，常用的有留出法、交叉驗證法、自助法、模型調(diào)參等如果模型計算時間太長，可以考慮剪枝如果是過擬合，則可通過引入正則化項來抑制（補償原理）如果單個模型效果不佳，可以集成多個學(xué)習(xí)器通過一定策略結(jié)合，取長補短（集成學(xué)習(xí)）

6．機器學(xué)習(xí)舉例分析

在機器學(xué)習(xí)領(lǐng)域特征比模型（學(xué)習(xí)算法）更重要。舉個例子，如果我們的特征選得很好，可能我們用簡單的規(guī)則就能判斷出最終的結(jié)果，甚至不需要模型。比如，要判斷一個人是男還是女，假設(shè)由計算機來完成這個任務(wù)，首先采集到各種數(shù)據(jù)（特征：姓名、身高、頭發(fā)長度，籍貫、是否吸煙等等。因為根據(jù)統(tǒng)計我們知道男人一般比女人高，頭發(fā)比女人短，并且會吸煙；所以這些特征都有一定的區(qū)分度，但是總有反例存在。我們用最好的算法可能準(zhǔn)確率也達不到100％。然后再進行特征提取，提出對目標(biāo)有意義的特征，刪除無關(guān)的（籍貫），然后進行預(yù)處理，對特征提取結(jié)果的再加工，目的是增強特征的表示能力，防止模型（分類器）過于復(fù)雜和學(xué)習(xí)困難。接下來就是訓(xùn)練數(shù)據(jù)，這里我們通過監(jiān)督學(xué)習(xí)或無監(jiān)督的方法來擬合分類器模型。學(xué)習(xí)器通過分析數(shù)據(jù)的規(guī)律嘗試擬合出這些數(shù)據(jù)和學(xué)習(xí)目標(biāo)間的函數(shù)，使得定義在訓(xùn)練集上的總體誤差盡可能的小，從而利用學(xué)得的函數(shù)來預(yù)測未知數(shù)據(jù)的學(xué)習(xí)方法預(yù)測出結(jié)果，最后對結(jié)果進行評價和改進。

圖23 機器學(xué)習(xí)過程舉例說明