3． 基于梯度的方法3．1 顯著性圖正如我們在坦克的例子中所看到的，我們?nèi)绾尾拍苤�道我們的模型關(guān)注哪個部分來獲得預(yù)測？為此，我們可以使用顯著性圖。使用顯著性圖的概念是非常直接的——我們計算輸出類別相對于輸入圖像的梯度，這可以告訴我們輸出類別值相對于輸入圖像像素的微小變化是如何變化的。梯度中的所有正值都告訴我們，對該像素的微小更改將增加輸出值，因此，將這些與圖像形狀相同的梯度可視化，應(yīng)該能提供一些直覺。直觀地，該方法突出了對輸出貢獻最大的顯著圖像區(qū)域。class＿idx ＝ 0indices ＝ np．where（val＿y［：， class＿idx］ ＝＝ 1．）［0］

＃ 從這里選取一些隨機輸入。idx ＝ indices［0］

＃ 讓sanity檢查選中的圖像。from matplotlib import pyplot as plt％matplotlib inlineplt．rcParams［＇figure．figsize＇］ ＝ （18， 6）

plt．imshow（val＿x［idx］［．．．， 0］）

from vis．visualization import visualize＿saliencyfrom vis．utils import utilsfrom keras import activations

＃ 按名稱搜索圖層索引＃ 或者，我們可以將其指定為－1，因為它對應(yīng)于最后一層。layer＿idx ＝ utils．find＿layer＿idx（model， ＇preds＇）

＃ 用線性層替換softmaxmodel．layers［layer＿idx］．a(chǎn)ctivation ＝ activations．linearmodel ＝ utils．a(chǎn)pply＿modifications（model）

grads ＝ visualize＿saliency（model， layer＿idx， filter＿indices＝class＿idx， seed＿input＝val＿x［idx］）＃ 可視化為熱圖。plt．imshow（grads， cmap＝＇jet＇）

＃ 線性層。for class＿idx in np．a(chǎn)range（10）：     indices ＝ np．where（val＿y［：， class＿idx］ ＝＝ 1．）［0］    idx ＝ indices［0］

   f， ax ＝ plt．subplots（1， 4）    ax［0］．imshow（val＿x［idx］［．．．， 0］）

   for i， modifier in enumerate（［None， ＇guided＇， ＇relu＇］）：        grads ＝ visualize＿saliency（model， layer＿idx， filter＿indices＝class＿idx，         seed＿input＝val＿x［idx］， backprop＿modifier＝modifier）        if modifier is None：            modifier ＝ ＇vanilla＇        ax［i＋1］．set＿title（modifier）         ax［i＋1］．imshow（grads， cmap＝＇jet＇）

3．2 基于梯度的類激活圖類激活圖是另一種在進行預(yù)測時可視化模型所看到內(nèi)容的方法，使用倒數(shù)第二卷積層輸出，而不是使用相對于輸出的梯度，這樣做是為了利用存儲在倒數(shù)第二層的空間信息。from vis．visualization import visualize＿cam

＃ 線性層。for class＿idx in np．a(chǎn)range（10）：  indices ＝ np．where（val＿y［：， class＿idx］ ＝＝ 1．）［0］ idx ＝ indices［0］

f， ax ＝ plt．subplots（1， 4） ax［0］．imshow（val＿x［idx］［．．．， 0］）

for i， modifier in enumerate（［None， ＇guided＇， ＇relu＇］）：    grads ＝ visualize＿cam（model， layer＿idx， filter＿indices＝class＿idx，     seed＿input＝val＿x［idx］， backprop＿modifier＝modifier）     if modifier is None：        modifier ＝ ＇vanilla＇    ax［i＋1］．set＿title（modifier）     ax［i＋1］．imshow（grads， cmap＝＇jet＇）

結(jié)尾在本文中，我們介紹了如何可視化CNN模型，以及為什么要可視化，我們結(jié)合一個例子來實現(xiàn)它。參考鏈接：https：／／www．a(chǎn)nalyticsvidhya．com／blog／2018／03／essentials－of－deep－learning－visualizing－convolutional－neural－networks／

☆ END ☆