【正文】
2][21 (4) 神經(jīng)網(wǎng)絡(luò) BP算法的關(guān)鍵是得到評(píng)價(jià)函數(shù) E的最優(yōu)值 ,采用一階梯度法調(diào)整權(quán)系數(shù)使評(píng)價(jià)函數(shù)為最小 ,即計(jì)算評(píng)價(jià)函數(shù)的 E 對(duì)尋優(yōu)參數(shù) W 的一階倒數(shù) . 由公式 (3)得 ?? ????? Pp k jipk ji wEwE 1 , 所以一階梯度法尋優(yōu)的關(guān) 鍵是計(jì)算 kjipwE,?? )1,1,( ??? k ? k jikpikpipk jip wssEwE, ???????? (5) 又1 1, 10,kpjn kkk ijpi kipjkki j i jwxsxww? ?????????? (6) 設(shè) kpikpipsE ????? (7) ? 1,?????? kpjkpikjip xwE ? (8) 1, ??? kpjkpik ji xw ?? , ? 為神經(jīng)網(wǎng) 絡(luò)的學(xué)習(xí)率 (9) ? )(39。 kpikpipkpikpikpipkpipkpi sfxEsxxEsE ????????????????? (10) 對(duì) 于上式第一項(xiàng)的計(jì)算需要考慮以下兩種情況: 1. 輸出層神經(jīng)元的輸出對(duì) E 的影響 : ? ?? ??QnjQpipip xdE12][21 ? )( QpipiQpip xdxE ????? (11) ? )()( 39。 QpiQpipiQpi sfxd ??? (12) 2. 中間層神經(jīng)元的輸出對(duì) E 的影響 ? ? ??? ? ??? ????????? ????????????????? 1 111 11,111,1111 )())(()(k kkk nlnlk ilkpinmkpmk mlkpikplpnl kpikplkpl pkpip wxwxsExssExE ?(13) ? ????? ?? 111,139。 )()( knlk ilkpikpikpi wsf ?? ),2,1( kni ?? (14) 即 對(duì)于第 P 組輸入樣本,第 Q 層有 ,p p pi pjQ Q Q Qi j pi pj i jE E x sw x s w? ? ? ???? ? ? ? 1( ) ( )Q Q Qpi pi pi pjd x f s x ??? ? ? 1pi pjx? ??? , (15) ( ) ( )k Q Qp i p i p i p id x f s? ?? ? ?其中 . (16) 對(duì)于第 P 組輸入樣本,第 Q1 層有 1 1 11 1 1 1 1 11, , ,() Q Q Qnp p p i p p k p i p iQ Q Q Q Q Q Qki j p i i j p k p i p i i jE E x E s x sw x w s x s w? ? ?? ? ? ? ? ??? ? ? ? ? ? ???? ? ? ? ? ? ??1 2 1 21( ) ( )Qn Q Q Q Q Q Qp k k i p i p j p i p jk w f s x x??? ? ? ?? ?? ? ? ? ??, (17) 1111( ) ( )QnpQ Q Q Qp i p k k i p iQ kpiE w f ss????? ?