freepeople性欧美熟妇, 色戒完整版无删减158分钟hd, 无码精品国产vα在线观看DVD, 丰满少妇伦精品无码专区在线观看,艾栗栗与纹身男宾馆3p50分钟,国产AV片在线观看,黑人与美女高潮,18岁女RAPPERDISSSUBS,国产手机在机看影片

正文內(nèi)容

bp神經(jīng)網(wǎng)絡(luò)ppt課件(2)-資料下載頁

2025-01-08 03:59本頁面
  

【正文】 : O1=F1(XV); O2=F2(O1W); 2 計算輸出層的權(quán)修改量 for i=1 to m [i]= O2 [i]*(1 O2 [i])*(Y[i]O2 [i]); 計算輸出誤差: for i=1 to m E=E+(Y[i]O2 [i])2; 2022/2/2 84 建議 隱藏層的神經(jīng)元的個數(shù) H作為一個輸入?yún)?shù) 同時將 ε 、循環(huán)最大次數(shù) M等,作為算法的輸入?yún)?shù) 在調(diào)試階段,最外層循環(huán)內(nèi),加一層控制,以探測網(wǎng)絡(luò)是否陷入了局部極小點 2022/2/2 85 算法的理論基礎(chǔ) 基本假設(shè) 網(wǎng)絡(luò)含有 L層 聯(lián)接矩陣: W(1) , W(2) , … , W(L) 第 k層的神經(jīng)元: Hk個 自變量數(shù): n*H1+H1*H2+H2*H3+…+H L*m 樣本集: S={ (X1,Y1),(X2,Y2),… ,(Xs,Ys)} 誤差測度 : ???sppEE12022/2/2 86 用 E代表 EP, 用 ( X, Y) 代表 ( XP, YP) X=(x1, x2, , xn) Y=(y1, y2, , ym) 該樣本對應的實際輸出為 O=( o1, o2, , om) ???sppEE1誤差測度 2022/2/2 87 誤差測度 用理想輸出與實際輸出的方差作為相應的誤差測度 ? ???m1k2kk )oy(21E???sppEE12022/2/2 88 最速下降法,要求 E的極小點 ijij wEw?????wij ijwE??E 0,此時 Δwij0 取 ijwE??E 0, 此時 Δwij0 wij 2022/2/2 89 ijjjij wne tne tEwE??????????而其中的 ??k kkjjown e t所以, iijkkkjijjowowwn e t?????????????最速下降法,要求 E的極小點 2022/2/2 90 ijijkkkjjijjjijon e tEwown e tEwn e tn e tEwE?????????????????????????????令 jj ne tE?????所以 Δ wij=αδjoi α為學習率 最速下降法,要求 E的極小點 2022/2/2 91 ANj為輸出層神經(jīng)元 oj=f(j) 容易得到 )ne t(fne tojjj ???? )n e t(foEn e tooEn e tEjjjjjjj??????????????????從而 2022/2/2 92 ? ?? ?)())(22()21(21212jjjjjjjjmkkkjoyoyooyooyoE???????????????????????????ANj為輸出層神經(jīng)元 2022/2/2 93 所以, )n e t(f)oy( jjjj ????故,當 ANj為輸出層的神經(jīng)元時,它對應的聯(lián)接權(quán) wij應該按照下列公式進行調(diào)整: ijjjijijijijo)oy)(ne t(fwoww?????????ANj為輸出層神經(jīng)元 2022/2/2 94 ANj為隱藏層神經(jīng)元 jjjjjn e tooEn e tE????????????)ne t(fne tojjj ????)ne t(foEjjj ???????? ???m1k2kk )oy(21E函數(shù) 2022/2/2 95 ANj為隱藏層神經(jīng)元 k= ??hH1iiik ow??????????hH1k jkkj)one tne tE(oEjkjH1iiikjk woowon e th????????????? ?oj … o2 o1 oHh k是 oj下一級的神經(jīng)元的網(wǎng)絡(luò)輸入 2022/2/2 96 ANj為隱藏層神經(jīng)元 ????????????????????????????????hhH1kjkkH1kjkkjwn e tEon e tn e tEoE? ??????hH1kjkkjwoEkk ne tE?????2022/2/2 97 ANj為隱藏層神經(jīng)元 )n e t(fw)n e t(foEjH1kjkkjjjh????????? ????????????)ne t(fw jH1kjkkjh????????? ????2022/2/2 98 ANj為隱藏層神經(jīng)元 ijH1kjkkij o)ne t(fwwh???????? ? ?????ijH1kjkkijij o)ne t(fh???????? ? ?????2022/2/2 99 幾個問題的討論 收斂速度問題 局部極小點問題 逃離 /避開局部極小點 : 修改 W、 V的初值并不是總有效 。 逃離 統(tǒng)計方法; [Wasserman, 1986]將 Cauchy訓練與 BP算法結(jié)合起來,可以在保證訓練速度不被降低的情況下,找到全局極小點。 2022/2/2 100 幾個問題的討論 網(wǎng)絡(luò)癱瘓問題 在訓練中,權(quán)可能變得很大,這會使神經(jīng)元的網(wǎng)絡(luò)輸入變得很大,從而又使得其激活函數(shù)的導函數(shù)在此點上的取值很小。根據(jù)相應式子,此時的訓練步長會變得非常小,進而將導致訓練速度降得非常低,最終導致網(wǎng)絡(luò)停止收斂 穩(wěn)定性問題 用修改量的綜合實施權(quán)的修改 連續(xù)變化的環(huán)境,它將變成無效的 2022/2/2 101 幾個問題的討論 步長問題 BP網(wǎng)絡(luò)的收斂是基于無窮小的權(quán)修改量 步長太小,收斂就非常慢 步長太大,可能會導致網(wǎng)絡(luò)的癱瘓和不穩(wěn)定 自適應步長,使得權(quán)修改量能隨著網(wǎng)絡(luò)的訓練而不斷變化。 [1988年, Wasserman]
點擊復制文檔內(nèi)容
教學課件相關(guān)推薦
文庫吧 www.dybbs8.com
備案圖鄂ICP備17016276號-1