反向傳播網絡ppt課件-wenkub
2023-05-21 18:03:30 本頁面
【正文】 傳播網絡 鄒江 反向傳播網絡 (Back— Propagation Network， 簡稱BP網絡 )是將 W— H學習規(guī)則一般化，對非線性可微分函數進行權值訓練的多層網絡。 6． 1 BP網絡模型與結構 一個具有 r個輸入和一個隱含層的神經網絡模型結構 感知器和自適應線性元件的主要差別在激活函數上：前者是二值型的，后者是線性的。 只有當希望對網絡的輸出進行限制，如限制在 0和 1之間，那么在輸出層應當包含 S型激活函數，在一般情況下，均是在隱含層采用 S型激活函數，而輸出層采用線性激活函數。 BP算法是由兩部分組成：信息的正向傳遞與誤差的反向傳播。 6． 2． 1信息的正向傳遞 1)隱含層中第 i個神經元的輸出為： 2)輸出層第 k個神經元的輸出為： 3)定義誤差函數為： () （ ） （ ） 6． 2． 2利用梯度下降法求權值變化及誤差的反向傳播 (1)輸出層的權值變化 對從第 i個輸入到第 k個輸出的權值有： 其中： 同理可得： （ ） （ ）（ ） （ ） (2)隱含層權值變化 對從第 j個輸入到第 i個輸出的權值，有： 其中： 同理可得： （ ） （ ） （ ） 通過 MATLAB的實現過程： 1)對于 (6． 1)式所表示的隱含層輸出 ， 若采用對數 S型激活函數 ， 則用函數 ； 若采用雙曲正切 S型激活函數 ， 則用函數 ； 2)對于 (6． 2)式所表示的輸出層輸出 ， 若采用線性激活函數有 ； 3)對于 (6． 3)式所表示的誤差函數 ， 可用函數 之； 4)有 (6． 4)、 (6． 7)、 (6． 8)和 (6． 10)式所表示的輸出層以及隱含層中權值與偏差的變化量； 5)由 ()和 ()式所表示的誤差的變化有函數 、 。 然后計算 并同樣通過將 ei與該層激活函數的一階導數 f1’相乘，而求得 δij， 以此求出前層權值的變化量 Δw1ij。 當網絡完成訓練后，對網絡輸入一個不是訓練集合中的矢量，網絡將以泛化方式給出輸出結果。它的使用同樣只需要定義有關參數：顯示間隔次數，最大循環(huán)次數，目標誤差，以及學習速率，而調用后返回訓練后權值，循環(huán)總數和最終誤差： TP＝ [disp_freq max_epoch err_goal 1r]； [W， B， epochs， errors]＝ trainbp(W， B， ’F’， P，T， TP)； [例 6． 1]用于函數逼近的 BP網絡的設計。 要注意的是，泛化性能只對被訓練的輸入／輸出對最大值范圍內的數據有效，即網絡具有內插值特性，不具有外插值性。 一般情況下，應優(yōu)先考慮增加隱含層中的神經元數。 在具體設計時，比較實際的做法是通過對不同神經元數進行訓練對比，
教學課件相關推薦
鄂ICP備17016276號-1