反向傳播網(wǎng)絡(luò)ppt課件(存儲(chǔ)版)
【正文】 [error。 輸入矢量 p=[3 2] 目標(biāo)矢量 t=[ ] 。使用方法為： [W， B， epochs， TE]＝ trainbpa(W， B， ’F’， P， T，TP) 可以將動(dòng)量法和自適應(yīng)學(xué)習(xí)速率結(jié)合起來以利用兩方面的優(yōu)點(diǎn)。 附加動(dòng)量法的實(shí)質(zhì)是將最后一次權(quán)值變化的影響，通過一個(gè)動(dòng)量因子來傳遞。 一般情況下，作為對(duì)比，可以同時(shí)對(duì)兩個(gè)不同期望誤差值的網(wǎng)絡(luò)進(jìn)行訓(xùn)練，最后通過綜合因素的考慮來確定采用其中一個(gè)網(wǎng)絡(luò)。 其方法僅需要使用在第一隱含層的初始值的選取上，后面層的初始值仍然采用隨機(jī)取數(shù)。 一般情況下，應(yīng)優(yōu)先考慮增加隱含層中的神經(jīng)元數(shù)。它的使用同樣只需要定義有關(guān)參數(shù)：顯示間隔次數(shù)，最大循環(huán)次數(shù)，目標(biāo)誤差，以及學(xué)習(xí)速率，而調(diào)用后返回訓(xùn)練后權(quán)值，循環(huán)總數(shù)和最終誤差： TP＝ [disp_freq max_epoch err_goal 1r]； [W， B， epochs， errors]＝ trainbp(W， B， ’F’， P，T， TP)； [例 6． 1]用于函數(shù)逼近的 BP網(wǎng)絡(luò)的設(shè)計(jì)。 然后計(jì)算 并同樣通過將 ei與該層激活函數(shù)的一階導(dǎo)數(shù) f1’相乘，而求得 δij， 以此求出前層權(quán)值的變化量 Δw1ij。 BP算法是由兩部分組成：信息的正向傳遞與誤差的反向傳播。 6． 1 BP網(wǎng)絡(luò)模型與結(jié)構(gòu) 一個(gè)具有 r個(gè)輸入和一個(gè)隱含層的神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu) 感知器和自適應(yīng)線性元件的主要差別在激活函數(shù)上：前者是二值型的，后者是線性的。 BP網(wǎng)絡(luò)主要用于： 1)函數(shù)逼近：用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個(gè)網(wǎng)絡(luò)逼近 — 個(gè)函數(shù)； 2)模式識(shí)別：用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來； 3)分類：把輸入矢量以所定義的合適方式進(jìn)行分類； 4)數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲(chǔ)。 學(xué)習(xí)的目的是用網(wǎng)絡(luò)的實(shí)際輸出 A1， A2， ……A q，與目標(biāo)矢量 T1， T2， ……T q， 之間的誤差來修改其權(quán)值，使 Al， (l＝ l， 2… ， q)與期望的 Tl盡可能地接近；即：使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小。 由于隱含層中沒有直接給出目標(biāo)矢量，所以利用輸出層的 δki反向傳遞來求出隱含層權(quán)值的變化量 Δw2ki。 以上所有的學(xué)習(xí)規(guī)則與訓(xùn)練的全過程，仍然可以用函數(shù) 。 增加層數(shù)主要可以更進(jìn)一步的降低誤差，提高精度，但同時(shí)也使網(wǎng)絡(luò)復(fù)雜化，從而增加了網(wǎng)絡(luò)權(quán)值的訓(xùn)練時(shí)間。 在 MATLAB工具箱中可采用函數(shù) W1和 B1。 這個(gè)所謂的“合適”，是相對(duì)于所需要的隱含層的節(jié)點(diǎn)數(shù)來確定，因?yàn)檩^小的期望誤差值是要靠增加隱含層的節(jié)點(diǎn)，以及訓(xùn)練時(shí)間來獲得的。 帶有附加動(dòng)量因子的權(quán)值調(diào)節(jié)公式為： 其中 k為訓(xùn)練次數(shù)， mc為動(dòng)量因子，一般取 0． 95左右。 它可以訓(xùn)練直至三層網(wǎng)絡(luò)。
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1