反向傳播網(wǎng)絡(luò)ppt課件-wenkub.com
2025-05-03 18:03 本頁面
【正文】 4． 8作業(yè) 用 BP神經(jīng)網(wǎng)絡(luò)對一個簡單的非線性神經(jīng)元進行訓(xùn)練 。 lr]]＝ trainbpx(W， B， F， P，T， TP) 4． 7 本章小結(jié) 1)反向傳播法可以用來訓(xùn)練具有可微激活函數(shù)的多層前向網(wǎng)絡(luò)以進行函數(shù)逼近 ， 模式分類等工作； 2)反向傳播網(wǎng)絡(luò)的結(jié)構(gòu)不完全受所要解決的問題所限制 。 它可以訓(xùn)練直至三層網(wǎng)絡(luò)。 子的反向傳播網(wǎng)絡(luò)。 帶有附加動量因子的權(quán)值調(diào)節(jié)公式為： 其中 k為訓(xùn)練次數(shù)， mc為動量因子，一般取 0． 95左右。 6． 6 反向傳播法的改進方法 主要目標(biāo)是為了加快訓(xùn)練速度，避免陷入局部極小值。 這個所謂的“合適”，是相對于所需要的隱含層的節(jié)點數(shù)來確定，因為較小的期望誤差值是要靠增加隱含層的節(jié)點，以及訓(xùn)練時間來獲得的。 小的學(xué)習(xí)速率導(dǎo)致較長的訓(xùn)練時間，可能收斂很慢，不過能保證網(wǎng)絡(luò)的誤差值不跳出誤差表面的低谷而最終趨于最小誤差值。 在 MATLAB工具箱中可采用函數(shù) W1和 B1。這在結(jié)構(gòu)實現(xiàn)上，要比增加更多的隱含層要簡單得多。 增加層數(shù)主要可以更進一步的降低誤差，提高精度，但同時也使網(wǎng)絡(luò)復(fù)雜化，從而增加了網(wǎng)絡(luò)權(quán)值的訓(xùn)練時間。 泛化性能：使網(wǎng)絡(luò)平滑地學(xué)習(xí)函數(shù)，使網(wǎng)絡(luò)能夠合理地響應(yīng)被訓(xùn)練以外的輸入。 以上所有的學(xué)習(xí)規(guī)則與訓(xùn)練的全過程，仍然可以用函數(shù) 。 當(dāng)所訓(xùn)練矢量的誤差平方和小于誤差目標(biāo)，訓(xùn)練則停止，否則在輸出層計算誤差變化，且采用反向傳播學(xué)習(xí)規(guī)則來調(diào)整權(quán)值，并重復(fù)此過程。 由于隱含層中沒有直接給出目標(biāo)矢量，所以利用輸出層的 δki反向傳遞來求出隱含層權(quán)值的變化量 Δw2ki。 圖 6． 3 具有一個隱含層的簡化網(wǎng)絡(luò)圖 設(shè)輸入為 P， 輸入神經(jīng)元有 r個，隱含層內(nèi)有 s1個神經(jīng)元，激活函數(shù)為 F1， 輸出層內(nèi)有 s2個神經(jīng)元，對應(yīng)的激活函數(shù)為 F2， 輸出為 A， 目標(biāo)矢量為 T。 學(xué)習(xí)的目的是用網(wǎng)絡(luò)的實際輸出 A1， A2， ……A q，與目標(biāo)矢量 T1， T2， ……T q， 之間的誤差來修改其權(quán)值，使 Al， (l＝ l， 2… ， q)與期望的 Tl盡可能地接近；即：使網(wǎng)絡(luò)輸出層的誤差平方和達到最小。 圖 6. 2 BP網(wǎng)絡(luò) S型激活函數(shù) 因為 S型函數(shù)具有非線性放大系數(shù)功能，它可以把輸入從負無窮大到正無窮大的信號，變換成 1到 l之間輸出，對較大的輸入信號，放大系數(shù)較??；而對較小的輸入信號，放大系數(shù)則較大，所以采用 S型激活函數(shù)可以去處理和逼近非線性的輸入 /輸出關(guān)系。 BP網(wǎng)絡(luò)主要用于： 1)函數(shù)逼近：用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個網(wǎng)絡(luò)逼近 — 個函數(shù)； 2)模式識別：用一個特定的輸出矢量將它與輸入矢量聯(lián)系起來； 3)分類：把輸入矢量以所定義的合適方式進行分類； 4)數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲。第 06講 反向
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1