哈工大模式識別課件—第6章多層神經網絡-展示頁
2025-06-04 05:41本頁面
【正文】 – 多層神經網絡 第六章 多層神經網絡 模式識別 – 多層神經網絡 （ MLP， Multilayer Perceptron） ?神經元模型 yx1x2xd...w1w2wdf? ?1,dtiiiy f f w x??????????wxf稱為激活函數 模式識別 – 多層神經網絡 解決異或問題的多層感知器 x1x2y11110 . 5 1 . 5 10 . 7 0 . 41 輸入層 隱含層 輸出層 模式識別 – 多層神經網絡 多層感知器的分類原理 ? 隱含層實現對輸入空間的非線性映射，輸出層實現線性分類； ? 非線性映射方式和線性判別函數可以同時學習。 模式識別 – 多層神經網絡 激活函數 —閾值函數 ? ? 1 , 01 , 0xfx x ??? ? ???xf ( x )模式識別 – 多層神經網絡 激活函數 —線性函數 xf ( x )? ?f x x?模式識別 – 多層神經網絡 激活函數 —對數 Sigmoid函數 xf ( x )? ? 11 xfx e ?? ?模式識別 – 多層神經網絡 激活函數 —雙曲正切 Sigmoid函數 xf ( x )? ? ta n h ( )xxxxeef x xee??????模式識別 – 多層神經網絡 標準的三層感知器網絡 模式識別 – 多層神經網絡 多層感知器網絡的設計 ? 選定層數 ：通常采用三層網絡，增加網絡層數并不能提高網絡的分類能力； ? 輸入層 ：輸入層節(jié)點數為輸入特征的維數 d，映射函數采用線性函數； ? 隱含層 ：隱含層節(jié)點數需要設定，一般來說，隱層節(jié)點數越多，網絡的分類能力越強，映射函數一般采用 Sigmoid函數； ? 輸出層 ：輸出層節(jié)點數可以等于類別數 c，也可以采用編碼輸出的方式，少于類別數 c，輸出函數可以采用線性函數或Sigmoid函數。 模式識別 – 多層神經網絡 MLP的訓練 誤差反向傳播算法 （ BP， Backpropagation algorithm） ? BP算法的實質是一個均方誤差最小算法 (LMS) ? 符號定義：訓練樣本 x，期望輸出 t=(t1,…, t c)，網絡實際輸出 z=(z1,…, z c)，隱層輸出 y=(y1,…, y nH)，第 k個神經元的凈輸出 k。Δ wji?0。Δ wkj?Δ wkj+ηδ kyj 7. until m = n 8. wji? wji+Δ wji。 11d w d? ? ?? ? ? ? ? ? ? ? ? ?1 1 1bpm m m m??? ? ? ? ? ? ? ?w w w w模式識別 – 多層神經網絡 多層感知器網絡存在的問題 1. BP算法的 收斂速度 一般來說比較慢； 模式識別 – 多層神經網絡 多層感知器網絡存在的問題 2. BP算法只能收斂于 局部最優(yōu)解 ，不能保證收斂于全局最優(yōu)解； 模式識別 – 多層神經網絡 多層感知器網絡存在的問題 3. 當隱層元的數量足夠多時，網絡對訓練樣本的識別率很高，但對測試樣本的識別率有可能
醫(yī)療健康相關推薦
鄂ICP備17016276號-1