我的人工神經網絡6bp網絡(編輯修改稿)
2025-06-24 01:43 本頁面
【文章內容簡介】 應的實際輸出 Op： Op=Fl(… (F2(F1(XpW(1))W(2))… )W(L)) 武漢工程大學計算機科學與工程學院 29 網絡訓練 向后傳播階段 —— 誤差傳播階段： （ 1） 計算實際輸出 Op與相應的理想輸出 Yp的差； （ 2） 按極小化誤差的方式調整權矩陣 。 （ 3） 網絡關于第 p個樣本的誤差測度： ? ?????mjpjpjp oyE1221（ 4） 網絡關于整個樣本集的誤差測度： ??ppEE武漢工程大學計算機科學與工程學院 30 網絡訓練 ? 訓練 BP網絡，需要計算網絡加權輸入矢量以及網絡輸出和誤差矢量，然后求誤差平方和 ? 當所訓練矢量的誤差平方和小于誤差目標，訓練停止；否則在輸出層計算誤差變化，且采用反向傳播學習規(guī)則來調整權值，然后重復此過程 ? 網絡完成訓練后，對網絡輸入一個不是訓練集合中的矢量，網絡將以泛化方式給出輸出結果 武漢工程大學計算機科學與工程學院 31 網絡訓練 ? 為了能夠較好地掌握 BP網絡的訓練過程，我們用兩層網絡為例來敘述 BP網絡的訓練步驟 ? 初始化：用小的隨機數(shù)初始化每一層的權值 W和偏差 B，保證網絡不被大的加權輸入飽和 – 期望誤差最小值 error_goal – 最大循環(huán)次數(shù) max_epoch – 修正權值的學習速率 1r，一般情況下 k＝ , 武漢工程大學計算機科學與工程學院 32 網絡訓練 ? 變量表達：計算網絡各層輸出矢量 A1和 A2以及網絡誤差 E – A1＝ tansig(W1*P， B1)； – A2＝ purelin(W2*A1， B2)； – E＝ TA； ? 權值修正：計算各層反傳的誤差變化 D2和 D1并計算各層權值的修正值以及新權值： – D2＝ deltalin(A2， E)； – D1＝ deltatan(A1， D2， W2)； – [dlWl， dBl]＝ learnbp(P， D1， lr)； – [dW2， dB2]＝ 1earnbp(A1， D2， 1r)； – W1＝ W1十 dW1； B1＝ B1十 dBl； – W2＝ W2十 dW2； B2＝ B2十 dB2 武漢工程大學計算機科學與工程學院 33 網絡訓練 ? 計算權值修正后誤差平方和 SSE＝ sumsqr(Tpurelin(W2*tansig(W1*P， B1)，B2)) ? 檢查： SSE是否小于 err_goal。若是，訓練結束；否則繼續(xù) ? 以上所有的學習規(guī)則與訓練的全過程，可以用函數(shù) – 它的使用只需定義有關參數(shù)：顯示間隔次數(shù)，最大循環(huán)次數(shù)，目標誤差，以及學習速率。調用后返回訓練后權值，循環(huán)總數(shù)和最終誤差 – TP＝ [disp_freq max_epoch err_goal 1r] – [W， B， epochs， errors]＝ trainbp(W，B，’ F’ ， P， T， TP) 武漢工程大學計算機科學與工程學院 34 三、網絡設計 網絡的層數(shù) 隱含層神經元數(shù) 初始權值的選取 學習速率 期望誤差的選取 應用舉例 局限性 武漢工程大學計算機科學與工程學院 35 網絡的層數(shù) ? 理論上已經證明：具有偏差和至少一個 S型隱含層加上一個線性輸出層的網絡，能夠逼近任何有理函數(shù) ? 增加層數(shù)主要可以進一步的降低誤差，提高精度，但同時也使網絡復雜化，從而增加了網絡權值的訓練時間。 ? 一般情況下應優(yōu)先考慮增加隱含層中神經元數(shù) ? 僅用具有非線性激活函數(shù)的單層網絡來解決問題沒有必要或效果不好 武漢工程大學計算機科學與工程學院 36 隱含層神經元數(shù) ? 網絡訓練精度的提高，可以通過采用一個隱含層，而增加其神經元數(shù)的方法來獲得。這在結構實現(xiàn)上，要比增加更多的隱含層簡單得多 ? 定理： – 實現(xiàn)任意 N個輸入向量構成的任何布爾函數(shù)的前向網絡所需權系數(shù)數(shù)目為 ? 在具體設計時，比較實際的做法是通過對不同神經元數(shù)進行訓練對比，然后適當?shù)丶由弦稽c余量 武漢工程大學計算機科學與工程學院 37 初始權值的選取 ? 一般取初始權值在 (1， 1)之間的隨機數(shù) ? 威得羅等人在分析了兩層網絡是如何對一個函數(shù)進行訓練后，提出一種選定初始權值的策略 – 選擇權值的量級為 ? 在 MATLAB工具箱中可采用函數(shù) W1和 B1。 ? 其方法僅使用在第一隱含層的初始值的選取上，后面層的初始值仍然采用隨機取數(shù) 武漢工程大學計算
環(huán)評公示相關推薦
鄂ICP備17016276號-1