詳解卷積神經網絡(編輯修改稿)
2024-09-12 00:28 本頁面
【文章內容簡介】 16 輸出下采樣圖數量： 16 輸出下采樣圖大小： (5*5)*16 神經元數量： 400 (5*5)*16 連接數： 2022 (4+1)*(5*5)*16 可訓練參數： 32 (16*2) C5層： 輸入圖片大?。? (5*5)*16 卷積窗大小： 5*5 卷積窗種類： 120 輸出特征圖數量： 120 輸出特征圖大?。? 1*1 (55+1) 神經元數量： 120 (1*120) 連接數： 48120 [16*25+1]*1*120(全連接） 可訓練參數： 48120 [16*25+1]*1*120 F6層： 輸入圖片大?。? (1*1)*120 卷積窗大?。? 1*1 卷積窗種類： 84 輸出特征圖數量： 84 輸出特征圖大小： 1 神經元數量： 84 連接數： 10164 120*84（全連接） 可訓練參數： 10164 120*84 OUTPUT層： 輸入圖片大?。? 1*84 輸出特征圖數量： 1*10 ? 最后，輸出層由 歐式徑向基函數 （ Euclidean Radial Basis Function）單元組成，每類一個單元，每個有 84個輸入 。換句話說，每個輸出 RBF單元計算輸入向量和參數向量之間的歐式距離。輸入離參數向量越遠， RBF輸出的越大。一個 RBF輸出可以被理解為衡量輸入模式和與 RBF相關聯(lián)類的一個模型的匹配程度的懲罰項。用概率術語來說， RBF輸出可以被理解為 F6層配置空間的高斯分布的負 loglikelihood。給定一個輸入模式，損失函數應能使得 F6的配置與 RBF參數向量（即模式的期望分類）足夠接近。這些單元的參數是人工選取并保持固定的（至少初始時候如此）。這些參數向量的成分被設為 1或 1。雖然這些參數可以以 1和 1等概率的方式任選，或者構成一個糾錯碼，但是被設計成一個相應字符類的 7*12大小（即 84）的格式化圖片。這種表示對識別單獨的數字不是很有用，但是對識別可打印 ASCII集中的字符串很有用。 ? 使用這種分布編碼而非更常用的“ 1 of N”編碼用于產生輸出的另一個原因是，當類別比較大的時候，非分布編碼的效果比較差。原因是大多數時間非分布編碼的輸出必須為 0。這使得用 sigmoid單元很難實現。另一個原因是分類器不僅用于識別字母，也用于拒絕非字母。使用分布編碼的 RBF更適合該目標。因為與 sigmoid不同，他們在輸入空間的較好限制的區(qū)域內興奮，而非典型模式更容易落到外邊。 ? RBF參數向量起著 F6層目標向量的角色。需要指出這些向量的成分是+1或 1，這正好在 F6 sigmoid的范圍內，因此可以防止 sigmoid函數飽和。實際上， +1和 1是 sigmoid函數的最大彎曲的點處。這使得 F6單元運行在最大非線性范圍內。必須避免 sigmoid函數的飽和，因為這將會導致?lián)p失函數較慢的收斂和病態(tài)問題。 Matlab代碼 ? Output層與 F6層合并實現： – layer 7 [out], type:F – number of feature maps: 10 – number of neurons: 10 – number of connections: 1210 – number of parameters: 1210 – number of trainable parameters: 1210 ? 1210 = (120+
環(huán)評公示相關推薦
鄂ICP備17016276號-1