反向傳播網(wǎng)絡(luò)ppt課件-文庫吧資料
2025-05-12 18:03本頁面
【正文】 其方法僅需要使用在第一隱含層的初始值的選取上，后面層的初始值仍然采用隨機取數(shù)。 威得羅等人在分析了兩層網(wǎng)絡(luò)是如何對一個函數(shù)進(jìn)行訓(xùn)練后，提出一種選定初始權(quán)值的策略。 在具體設(shè)計時，比較實際的做法是通過對不同神經(jīng)元數(shù)進(jìn)行訓(xùn)練對比，然后適當(dāng)?shù)丶由弦稽c余量。 6． 4． 2 隱含層的神經(jīng)元數(shù) 網(wǎng)絡(luò)訓(xùn)練精度的提高，可以通過采用一個隱含層，而增加其神經(jīng)元數(shù)的方法來獲得。 一般情況下，應(yīng)優(yōu)先考慮增加隱含層中的神經(jīng)元數(shù)。 6． 4 BP網(wǎng)絡(luò)的設(shè)計 6． 4． 1網(wǎng)絡(luò)的層數(shù) 理論上已經(jīng)證明：具有偏差和至少一個 S型隱含層加上一個線性輸出層的網(wǎng)絡(luò)，能夠逼近任何有理函數(shù)。 要注意的是，泛化性能只對被訓(xùn)練的輸入／輸出對最大值范圍內(nèi)的數(shù)據(jù)有效，即網(wǎng)絡(luò)具有內(nèi)插值特性，不具有外插值性。 比較 trainbpx和 trainbp的速度差別。它的使用同樣只需要定義有關(guān)參數(shù)：顯示間隔次數(shù)，最大循環(huán)次數(shù)，目標(biāo)誤差，以及學(xué)習(xí)速率，而調(diào)用后返回訓(xùn)練后權(quán)值，循環(huán)總數(shù)和最終誤差： TP＝ [disp_freq max_epoch err_goal 1r]； [W， B， epochs， errors]＝ trainbp(W， B， ’F’， P，T， TP)； [例 6． 1]用于函數(shù)逼近的 BP網(wǎng)絡(luò)的設(shè)計。 1)用小的隨機數(shù)對每一層的權(quán)值 W和偏差 B初始化 ， 以保證網(wǎng)絡(luò)不被大的加權(quán)輸入飽和；并進(jìn)行以下參數(shù)的設(shè)定或初始化： a)期望誤差最小值 error_goal； b)最大循環(huán)次數(shù) max_epoch； c)修正權(quán)值的學(xué)習(xí)速率 1r， 一般情況下 k＝0． 0l~0． 7； d)從 1開始的循環(huán)訓(xùn)練： for epoch＝ 1：max_epoch； 2)計算網(wǎng)絡(luò)各層輸出矢量 A1和 A2以及網(wǎng)絡(luò)誤差 E： A1＝ tansig(W1*P， B1)； A2＝ purelin(W2*A1， B2)； E＝ TA； 3)計算各層反傳的誤差變化 D2和 D1并計算各層權(quán)值的修正值以及新權(quán)值： D2＝ deltalin(A2， E)； D1＝ deltatan(A1， D2， W2)； [dlWl， dBl]＝ learnbp(P， D1， lr)； [dW2， dB2]＝ 1earnbp(A1， D2， 1r)； W1＝ W1十 dW1； B1＝ B1十 dBl； W2＝ W2十 dW2； B2＝ B2十 dB2； 4)再次計算權(quán)值修正后誤差平方和： SSE＝ sumsqr(Tpurelin(W2*tansig(W1*P， B1)，B2))； 5)檢查 SSE是否小于 err_goal， 若是 ， 訓(xùn)練結(jié)束；否則繼續(xù) 。 當(dāng)網(wǎng)絡(luò)完成訓(xùn)練后，對網(wǎng)絡(luò)輸入一個不是訓(xùn)練集合中的矢量，網(wǎng)絡(luò)將以泛化方式給出輸出結(jié)果。
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1