我的人工神經(jīng)網(wǎng)絡(luò)6bp網(wǎng)絡(luò)-在線瀏覽
2025-07-15 01:43本頁面
【正文】 量將它與輸入矢量聯(lián)系起來；把輸入矢量以所定義的合適方式進行分類； ? 數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲 ? 具有強泛化性能：使網(wǎng)絡(luò)平滑地學習函數(shù)，使網(wǎng)絡(luò)能夠合理地響應(yīng)被訓練以外的輸入 ? 泛化性能只對被訓練的輸入／輸出對最大值范圍內(nèi)的數(shù)據(jù)有效，即網(wǎng)絡(luò)具有內(nèi)插值特性，不具有外插值性。 ? BP網(wǎng)絡(luò)的激活函數(shù)必須是處處可微的，因此它不能采用二值型的閥值函數(shù) {0， 1}或符號函數(shù) {－ 1，1} ? BP網(wǎng)絡(luò)經(jīng)常使用的是 S型的對數(shù)或正切激活函數(shù)和線性函數(shù) 武漢工程大學計算機科學與工程學院 14 網(wǎng)絡(luò)模型 ? BP網(wǎng)絡(luò)特點 – 輸入和輸出是并行的模擬量 – 網(wǎng)絡(luò)的輸入輸出關(guān)系是各層連接的權(quán)因子決定，沒有固定的算法 – 權(quán)因子通過學習信號調(diào)節(jié)。 4. BP網(wǎng)一般都選用二級網(wǎng)絡(luò) 。然后計算 ? 同樣通過將 ei與該層激活函數(shù)的一階導數(shù) f1’ 相乘，而求得 δ ij，以此求出前層權(quán)值的變化量 Δw1 ij ? 如果前面還有隱含層，沿用上述同樣方法依此類推，一直將輸出誤差 ek逐層的反推算到第一層為止 武漢工程大學計算機科學與工程學院 27 誤差反向傳播圖形解釋 武漢工程大學計算機科學與工程學院 28 網(wǎng)絡(luò)訓練 樣本： (輸入向量，理想輸出向量 ) 權(quán)初始化： “ 小隨機數(shù) ” 與飽和狀態(tài)； “ 不同 ” 保證網(wǎng)絡(luò)可以學。 （ 3） 網(wǎng)絡(luò)關(guān)于第 p個樣本的誤差測度： ? ?????mjpjpjp oyE1221（ 4） 網(wǎng)絡(luò)關(guān)于整個樣本集的誤差測度： ??ppEE武漢工程大學計算機科學與工程學院 30 網(wǎng)絡(luò)訓練 ? 訓練 BP網(wǎng)絡(luò)，需要計算網(wǎng)絡(luò)加權(quán)輸入矢量以及網(wǎng)絡(luò)輸出和誤差矢量，然后求誤差平方和 ? 當所訓練矢量的誤差平方和小于誤差目標，訓練停止；否則在輸出層計算誤差變化，且采用反向傳播學習規(guī)則來調(diào)整權(quán)值，然后重復此過程 ? 網(wǎng)絡(luò)完成訓練后，對網(wǎng)絡(luò)輸入一個不是訓練集合中的矢量，網(wǎng)絡(luò)將以泛化方式給出輸出結(jié)果 武漢工程大學計算機科學與工程學院 31 網(wǎng)絡(luò)訓練 ? 為了能夠較好地掌握 BP網(wǎng)絡(luò)的訓練過程，我們用兩層網(wǎng)絡(luò)為例來敘述 BP網(wǎng)絡(luò)的訓練步驟 ? 初始化：用小的隨機數(shù)初始化每一層的權(quán)值 W和偏差 B，保證網(wǎng)絡(luò)不被大的加權(quán)輸入飽和 – 期望誤差最小值 error_goal – 最大循環(huán)次數(shù) max_epoch – 修正權(quán)值的學習速率 1r，一般情況下 k＝ , 武漢工程大學計算機科學與工程學院 32 網(wǎng)絡(luò)訓練 ? 變量表達：計算網(wǎng)絡(luò)各層輸出矢量 A1和 A2以及網(wǎng)絡(luò)誤差 E – A1＝ tansig(W1*P， B1)； – A2＝ purelin(W2*A1， B2)； – E＝ TA； ? 權(quán)值修正：計算各層反傳的誤差變化 D2和 D1并計算各層權(quán)值的修正值以及新權(quán)值： – D2＝ deltalin(A2， E)； – D1＝ deltatan(A1， D2， W2)； – [dlWl， dBl]＝ learnbp(P， D1， lr)； – [dW2， dB2]＝ 1earnbp(A1， D2， 1r)； – W1＝ W1十 dW1； B1＝ B1十 dBl； – W2＝ W2十 dW2； B2＝ B2十 dB2 武漢工程大學計算機科學與工程學院 33 網(wǎng)絡(luò)訓練 ? 計算權(quán)值修正后誤差平方和 SSE＝ sumsqr(Tpurelin(W2*tansig(W1*P， B1)，B2)) ? 檢查： SSE是否小于 err_goal。調(diào)用后返回訓練后權(quán)值，循環(huán)總數(shù)和最終誤差 – TP＝ [disp_freq max_epoch err_goal 1r] – [W， B， epochs， errors]＝ trainbp(W，B，’ F’ ， P， T， TP) 武漢工程大學計算機科學與工程學院 34 三、網(wǎng)絡(luò)設(shè)計 網(wǎng)絡(luò)的層數(shù) 隱含層神經(jīng)元數(shù) 初始權(quán)值的選取 學習速率 期望誤差的選取 應(yīng)用舉例 局限性 武漢工程大學計算機科學與工程學院 35 網(wǎng)絡(luò)的層數(shù) ? 理論上已經(jīng)證明：具有偏差和至少一個 S型隱含層加上一個線性輸出層的網(wǎng)絡(luò)，能夠逼近任何有理函數(shù) ? 增加層數(shù)主要可以進一步的降低誤差，提高精度，但同時也使網(wǎng)絡(luò)復雜化，從而增加了網(wǎng)絡(luò)權(quán)值的訓練時間。這在結(jié)構(gòu)實現(xiàn)上，要比增加更多的隱含層簡單得多 ? 定理： – 實現(xiàn)任意 N個輸入向量構(gòu)成的任何布爾
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1