bp神經(jīng)網(wǎng)絡(luò)詳解與實例講-預(yù)覽頁
【正文】 ????????PppjpipjPppipiij iiotw11)( ??? （ 4） ijijij ??? （ 3） ijw?表示遞推一次的修改量，則有 稱為 學(xué)習(xí)的速率 ?ipm= 1 , wim= (第 i個神經(jīng)元的閾值 ) （ 5） 注： 由 （ 1） 式 ， 第 i個神經(jīng)元的輸出可表示為 ???mjpjijpi iwfo1)(特別當(dāng) f是線性函數(shù)時 biwaomjpjijpi ?? ?? 1)(（ 6） 圖 7 多層前饋網(wǎng)絡(luò) 2．多層前饋網(wǎng)絡(luò) （ l）輸入層不計在層數(shù)之內(nèi)，它有 N0個神經(jīng)元．設(shè)網(wǎng)絡(luò) 共有 L層；輸出層為第 L層；第 k層有 Nk個神經(jīng)元． 假設(shè)： (2) 設(shè) )(iu k 表示第 k層第 i神經(jīng)元所接收的信息 wk(i,j) 表示從第 k1層第 j個元到第 k層第 i個元的權(quán)重， )(iak 表第 k層第 i個元的輸出 （ 3） 設(shè)層與層間的神經(jīng)元都有信息交換 （ 否則 ， 可設(shè)它們之間的權(quán)重為零 ） ；但同一層的神經(jīng)元之間無信息傳輸 ． (4) 設(shè)信息傳輸?shù)姆较蚴菑妮斎雽拥捷敵鰧臃较?；因此稱為前向網(wǎng)絡(luò) ． 沒有反向傳播信息 ． （ 5） 表示輸入的第 j個分量 ． )(0 ja假設(shè)： 在上述假定下網(wǎng)絡(luò)的輸入輸出關(guān)系可以表示為： ???????????????????????????????????????,1) ) ,(()(),()(),()(. . . . . . . . .. . . . . . . . . .. . . . . . . . . .. . . . . . . . . .,1) ) ,(()(),()(),()(,1) ) ,(()(),()(),()(1101112221212211111011LLLNjLLLLNjNjNiiufiaijajiwiuNiiufiaijajiwiuNiiufiaijajiwiuL???（ 7） ? 其中表示第 k層第 i個元的閾值 . 定理 2 對于具有多個隱層的前饋神經(jīng)網(wǎng)絡(luò)；設(shè)激發(fā)函數(shù)為 S 函數(shù)；且指標(biāo)函數(shù)取 ???PppEE1（ 8） ????LNipLpp iaitE12)()( ))()((21 （ 9） 則每個訓(xùn)練循環(huán)中按梯度下降時；其權(quán)重迭代公式為 ),(),(),( )( 1)()1()( jajiwjiw plplplpl ?? ?? ??,...,1 Ll ?（ 10 ） 表示第 1層第個元對第層第個元輸入的第次迭代時的權(quán)重 ),()( jiw pl其中 ))(())()(()( )(39。 對應(yīng) 15個輸出 。 )0(2W=rand(1,3)。 ? 最后結(jié)果是 ： ?????? ?????1W? ?9 8 2 8 3 0 7 ??W?即網(wǎng)絡(luò)模型的解為： 2 7 6 )2(2 8 7 )1(5 7 8 )2(5 7 6 )2(5 9 7 )1(5 9 2 )1(001001????????aauaau))(()( 11 iufia ?))(ex p (111 iu??2,1?i= ))1(ex p (11)1(9 8 2 )2(4 8 3 )1(4 0 7 )1(22112uaaau???????BP網(wǎng)絡(luò)建模特點： ?非線性映照能力 ：神經(jīng)網(wǎng)絡(luò)能以任意精度逼近任何非線性連續(xù)函數(shù)。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)也可以在線進行。在實際應(yīng)用中， 80%～90%的人工神經(jīng)網(wǎng)絡(luò)模型是采用誤差反傳算法或其變化形式的網(wǎng)絡(luò)模型（簡稱 BP網(wǎng)絡(luò)），目前主要應(yīng)用于函數(shù)逼近、模式識別、分類和數(shù)據(jù)壓縮或數(shù)據(jù)挖掘。 隱層數(shù) 一般認(rèn)為，增加隱層數(shù)可以降低網(wǎng)絡(luò)誤差 Hornik等早已證明：若輸入層和輸出層采用線性轉(zhuǎn)換函數(shù)，隱層采用 Sigmoid轉(zhuǎn)換函數(shù)，則含一個隱層的 MLP網(wǎng)絡(luò)能夠以任意精度逼近任何有理函數(shù)。 在確定隱層節(jié)點數(shù)時 必須滿足下列條件 ： (1)隱層節(jié)點數(shù)必須小于 N1輸入層的節(jié)點數(shù)（變量數(shù)）必須小于 N1。 增加沖量項的目的是為了避免網(wǎng)絡(luò)訓(xùn)練陷于較淺的局部極小點。 MATLAB神經(jīng)網(wǎng)絡(luò)工具箱的應(yīng)用 在網(wǎng)絡(luò)訓(xùn)練過程中使用的是 Matlab for Windows軟件，對于 BP神經(jīng)元網(wǎng)絡(luò)的訓(xùn)練可以使用 Neural Networks Toolbox for Matlab。它是可導(dǎo)函數(shù)，適用于 BP訓(xùn)練的神經(jīng)元。 月份 1 2 3 4 5 6 銷量 2056 2395 2600 2298 1634 1600 月份 7 8 9 10 11 12 銷量 1873 1478 1900 1500 2046 1556 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的 MATLAB實現(xiàn) ? %以每三個月的銷售量經(jīng)歸一化處理后作為輸入 ? P =[ ? ? ? 0]’%以第四個月的銷售量歸一化處理后作為目標(biāo)向量 ? T=[ ]。tansig39。traingd39。 ? %設(shè)置學(xué)習(xí)速率為 ? =。,i,ans,39。 ?泛化能力 ? 當(dāng)向網(wǎng)絡(luò)輸入訓(xùn)練時未曾見過的非樣本數(shù)據(jù)時，網(wǎng)絡(luò)也能完成由輸入空間向輸出空間的正確映射
語文相關(guān)推薦
鄂ICP備17016276號-1