bp算法介紹ppt課件-文庫(kù)吧資料
2025-05-07 18:14本頁(yè)面
【正文】 1iiikjk woowon e th????????????? ?oj … o2 o1 oHh k是 oj下一級(jí)的神經(jīng)元的網(wǎng)絡(luò)輸入 2022/5/29 68 ????????????????????????????????hhH1kjkkH1kjkkjwn e tEon e tn e tEoE? ??????hH1kjkkjwoEkk E?????2022/5/29 69 )n e t(fw)n e t(foEjH1kjkkjjjh????????? ????????????)n e t(fw jH1kjkkjh????????? ????2022/5/29 70 ijH1kjkkij o)n e t(fwwh???????? ? ?????ijH1kjkkijij o)n e t(fh???????? ? ?????收斂速度問(wèn)題 局部極小點(diǎn)問(wèn)題 逃離 /避開(kāi)局部極小點(diǎn) ： 修改 W、 V的初值并不是總有效 。 E=E/ 2022/5/29 51 較好地解決了因樣本的順序引起的精度問(wèn)題和訓(xùn)練的抖動(dòng)問(wèn)題 收斂速度：比較慢 偏移量：給每一個(gè)神經(jīng)元增加一個(gè)偏移量來(lái)加快收斂速度 沖量 ： 聯(lián)接權(quán)的本次修改要考慮上次修改的影響，以減少抖動(dòng)問(wèn)題 2022/5/29 52 主要數(shù)據(jù)結(jié)構(gòu) W[H， m] 輸出層的權(quán)矩陣； V[n， H] 輸入 （ 隱藏 ） 層的權(quán)矩陣； [m]輸出層各聯(lián)接權(quán)的修改量組成的向量； [H]隱藏層各聯(lián)接權(quán)的修改量組成的向量； O1隱藏層的輸出向量； O2輸出層的輸出向量； (X， Y)一個(gè)樣本。 4 while Eε do E=0。 樣本順序影響結(jié)果的原因： 分別依次 用 (X1,Y1)， （ X2,Y2） ， ， （ Xs,Ys） 的 總效果 修改W(1) ， W(2) ， ， W(L)。 2022/5/29 47 對(duì) S中的每一個(gè)樣本 （ Xp,Yp） ： 計(jì)算出 Xp對(duì)應(yīng)的實(shí)際輸出 Op； 計(jì)算出 Ep； E=E+Ep； 根據(jù)相應(yīng)式子調(diào)整 W(L)； k=L1； while k≠0 do 根據(jù)相應(yīng)式子調(diào)整 W(k)； k=k1 E=E/ 2022/5/29 48 BP網(wǎng)絡(luò)接受樣本的順序?qū)τ?xùn)練結(jié)果有較大影響 。形成將輸出端表現(xiàn)出的誤差沿著與輸入信號(hào)相反的方向逐級(jí)向輸入端傳遞的過(guò)程 2022/5/29 46 1 for k=1 to L do 初始化 W(k)； 2 初始化精度控制參數(shù) ε； 3 E=ε+1。 用輸出層的誤差調(diào)整輸出層權(quán)矩陣，并用此誤差估計(jì)輸出層的直接前導(dǎo)層的誤差，再用輸出層前導(dǎo)層誤差估計(jì)更前一層的誤差。 （ 3） 網(wǎng)絡(luò)關(guān)于第 p個(gè)樣本的誤差測(cè)度： 2022/5/29 37 ? ?????mjpjpjp oyE1221（ 4） 網(wǎng)絡(luò)關(guān)于整個(gè)樣本集的誤差測(cè)度： ??ppEE2022/5/29 38 輸出層權(quán)的調(diào)整 wpq= wpq+?wpq ?wpq=αδqop =αfn′ (q)(yqoq)op =αoq(1oq) (yqoq)op wpq ANp ANq 第 L1層 第 L層 wpq 2022/5/29 39 ANp ANq ANh vhp δpk1 δ1k wp1 wpq δqk wpm δmk 第 k2層 第 k層 第 k1層 … … 2022/5/29 40 δpk1的值和 δ1k， δ2k， ， δmk 有關(guān) 不妨認(rèn)為 δpk1 通過(guò)權(quán) wp1對(duì) δ1k做出貢獻(xiàn) ， 通過(guò)權(quán) wp2對(duì) δ2k做出貢獻(xiàn) ， 通過(guò)權(quán) wpm對(duì) δmk做出貢獻(xiàn) 。 2022/5/29 34 2022/5/29 35 x1 o1 輸出層 隱藏層 輸入層 x2 o2 om xn … … … … W V 樣本： (輸入向量，理想輸出向量 ) 權(quán)初始化： 小隨機(jī)數(shù)與飽和狀態(tài)；不同保證網(wǎng)絡(luò)可以學(xué)。 2022/5/29 30 1 網(wǎng)絡(luò)的構(gòu)成 神經(jīng)元的網(wǎng)絡(luò)輸入：
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1