反向傳播網(wǎng)絡(luò)ppt課件-wenkub.com
2025-05-03 18:03 本頁(yè)面
【正文】 4． 8作業(yè) 用 BP神經(jīng)網(wǎng)絡(luò)對(duì)一個(gè)簡(jiǎn)單的非線性神經(jīng)元進(jìn)行訓(xùn)練 。 lr]]＝ trainbpx(W， B， F， P，T， TP) 4． 7 本章小結(jié) 1)反向傳播法可以用來訓(xùn)練具有可微激活函數(shù)的多層前向網(wǎng)絡(luò)以進(jìn)行函數(shù)逼近 ， 模式分類等工作； 2)反向傳播網(wǎng)絡(luò)的結(jié)構(gòu)不完全受所要解決的問題所限制 。 它可以訓(xùn)練直至三層網(wǎng)絡(luò)。 子的反向傳播網(wǎng)絡(luò)。 帶有附加動(dòng)量因子的權(quán)值調(diào)節(jié)公式為： 其中 k為訓(xùn)練次數(shù)， mc為動(dòng)量因子，一般取 0． 95左右。 6． 6 反向傳播法的改進(jìn)方法 主要目標(biāo)是為了加快訓(xùn)練速度，避免陷入局部極小值。 這個(gè)所謂的“合適”，是相對(duì)于所需要的隱含層的節(jié)點(diǎn)數(shù)來確定，因?yàn)檩^小的期望誤差值是要靠增加隱含層的節(jié)點(diǎn)，以及訓(xùn)練時(shí)間來獲得的。 小的學(xué)習(xí)速率導(dǎo)致較長(zhǎng)的訓(xùn)練時(shí)間，可能收斂很慢，不過能保證網(wǎng)絡(luò)的誤差值不跳出誤差表面的低谷而最終趨于最小誤差值。 在 MATLAB工具箱中可采用函數(shù) W1和 B1。這在結(jié)構(gòu)實(shí)現(xiàn)上，要比增加更多的隱含層要簡(jiǎn)單得多。 增加層數(shù)主要可以更進(jìn)一步的降低誤差，提高精度，但同時(shí)也使網(wǎng)絡(luò)復(fù)雜化，從而增加了網(wǎng)絡(luò)權(quán)值的訓(xùn)練時(shí)間。 泛化性能：使網(wǎng)絡(luò)平滑地學(xué)習(xí)函數(shù)，使網(wǎng)絡(luò)能夠合理地響應(yīng)被訓(xùn)練以外的輸入。 以上所有的學(xué)習(xí)規(guī)則與訓(xùn)練的全過程，仍然可以用函數(shù) 。 當(dāng)所訓(xùn)練矢量的誤差平方和小于誤差目標(biāo)，訓(xùn)練則停止，否則在輸出層計(jì)算誤差變化，且采用反向傳播學(xué)習(xí)規(guī)則來調(diào)整權(quán)值，并重復(fù)此過程。 由于隱含層中沒有直接給出目標(biāo)矢量，所以利用輸出層的 δki反向傳遞來求出隱含層權(quán)值的變化量 Δw2ki。 圖 6． 3 具有一個(gè)隱含層的簡(jiǎn)化網(wǎng)絡(luò)圖 設(shè)輸入為 P， 輸入神經(jīng)元有 r個(gè)，隱含層內(nèi)有 s1個(gè)神經(jīng)元，激活函數(shù)為 F1， 輸出層內(nèi)有 s2個(gè)神經(jīng)元，對(duì)應(yīng)的激活函數(shù)為 F2， 輸出為 A， 目標(biāo)矢量為 T。 學(xué)習(xí)的目的是用網(wǎng)絡(luò)的實(shí)際輸出 A1， A2， ……A q，與目標(biāo)矢量 T1， T2， ……T q， 之間的誤差來修改其權(quán)值，使 Al， (l＝ l， 2… ， q)與期望的 Tl盡可能地接近；即：使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小。 圖 6. 2 BP網(wǎng)絡(luò) S型激活函數(shù) 因?yàn)?S型函數(shù)具有非線性放大系數(shù)功能，它可以把輸入從負(fù)無(wú)窮大到正無(wú)窮大的信號(hào)，變換成 1到 l之間輸出，對(duì)較大的輸入信號(hào)，放大系數(shù)較??；而對(duì)較小的輸入信號(hào)，放大系數(shù)則較大，所以采用 S型激活函數(shù)可以去處理和逼近非線性的輸入 /輸出關(guān)系。 BP網(wǎng)絡(luò)主要用于： 1)函數(shù)逼近：用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個(gè)網(wǎng)絡(luò)逼近 — 個(gè)函數(shù)； 2)模式識(shí)別：用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來； 3)分類：把輸入矢量以所定義的合適方式進(jìn)行分類； 4)數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲(chǔ)。第 06講 反向
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1