【正文】 出函數(shù)(h225。nli224。,11/1/2024,14,4.2.4 基本(jīběn)的BP算法,樣本集：S={(X1,Y1),(X2,Y2),…,(Xs,Ys)} 基本思想 ： 逐一地根據(jù)樣本集中的樣本(Xk,Yk)計算出實際輸出Ok和誤差測度E1，對W(1) ，W(2) ，…，W(L)各做一次調(diào)整，重復(fù)這個循環(huán)，直到∑Epε。它更“偏愛”較后出現(xiàn)的樣本 給集中的樣本安排一個適當?shù)捻樞颍欠浅＠щy的。,11/1/2024,21,算法42 分析(fēnxī)——沖量設(shè)置,Rumelhart等人1986年 ?wij=αδjoi+β?wij′ ?wij′為上一次的修改量，β為沖量系數(shù)，一般(yībān)可取到0.9 Sejnowski與Rosenberg ，1987年 ?wij=α((1β)δjoi+β?wij′) ?wij′也是上一次的修改量，β在0和1之間取值,第二十一頁，共四十四頁。ngběn)(X，Y)，執(zhí)行的操作,4.2.4 計算隱藏層的權(quán)修改(xiūgǎi)量：for i=1 to H 4.2.4.1 Z=0； 4.2.4.2 for j=1 to m do Z=Z+W[i,j]* ?o[j]； 4.2.4.3 Δh[i]=Z* O1 [i](1 O1 [i]) ； 4.2.5 修改輸出層權(quán)矩陣：for k=1 to H amp。i)相應(yīng)的誤差測度,第二十九頁，共四十四頁。nx237。 逃離——統(tǒng)計方法；[Wasserman，1986]將Cauchy訓(xùn)練與BP算法結(jié)合起來，可以在保證訓(xùn)練速度不被降低的情況下，找到全局極小點。vhp=vhp+?vhp。0，此時Δwij0。ir243。,11/1/2024,41,4.6 幾個問題(w232。ng 233。chā)測度,第二十八頁，共四十四頁。ng)的操作,4.2.1 計算(j236。,11/1/2024,20,算法(su224。,11/1/2024,17,4.3 算法(su224。i)δpk1 通過權(quán)wp1對δ1k做出貢獻， 通過權(quán)wp2對δ2k做出貢獻， …… 通過權(quán)wpm對δmk做出貢獻。ch233。ng)慢、局部極小點的逃離問題、算法不一定收斂 優(yōu)點：廣泛的適應(yīng)性和有效性。,第二頁，共四十四頁。ng)概述,樣本：(輸入向量，理想(lǐxiǎng)輸出向量) 權(quán)初始化：“小隨機數(shù)”與飽和狀態(tài)；“不同”保證網(wǎng)絡(luò)可以學(xué)。 δpk1= fk1′(netp) (wp1δ1k+ wp2δ2k+…+ wpmδm k),第十二頁，共四十四頁。n fǎ)的改進,BP網(wǎng)絡(luò)接受樣本的順序?qū)τ?xùn)練(x249。n fǎ)42 分析,較好地解決了因樣本的順序引起的精度問題和訓(xùn)練的抖動問題 收斂速度：比較慢 偏移量：給每一個神經(jīng)元增加一個偏移量來加快收斂速度 沖量：聯(lián)接權(quán)的本次修改要考慮上次(sh224。 su224。,11/1/2024,29,誤差(w249。r),第三十三頁，共四十四頁。nt237。ng)總結(jié),第4章 BP網(wǎng)絡(luò)。43,第四十四頁，共四十四頁。ngběn)：(輸入向量，理想輸出向量)。 xiǎo)