20xx年醫(yī)學(xué)專題—人工神經(jīng)網(wǎng)絡(luò)講稿ch4-資料下載頁
2024-11-01 12:02本頁面
【正文】 ,11/1/2024,33,ANj為輸出(shūchū)層神經(jīng)元,oj=f(netj) 容易(r243。ngy236。)得到,從而(c243。ng 233。r),第三十三頁，共四十四頁。,11/1/2024,34,ANj為輸出(shūchū)層神經(jīng)元,第三十四頁，共四十四頁。,11/1/2024,35,所以(suǒyǐ)，,故，當(dāng)ANj為輸出層的神經(jīng)元時(shí)，它對(duì)應(yīng)的聯(lián)接權(quán)wij應(yīng)該按照下列公式進(jìn)行(j236。nx237。ng)調(diào)整：,ANj為輸出(shūchū)層神經(jīng)元,第三十五頁，共四十四頁。,11/1/2024,36,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第三十六頁，共四十四頁。,11/1/2024,37,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,netk=,oj,第三十七頁，共四十四頁。,11/1/2024,38,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第三十八頁，共四十四頁。,11/1/2024,39,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第三十九頁，共四十四頁。,11/1/2024,40,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第四十頁，共四十四頁。,11/1/2024,41,4.6 幾個(gè)問題(w232。nt237。)的討論,收斂速度問題 局部極小(j237。 xiǎo)點(diǎn)問題 逃離/避開局部極小點(diǎn)：修改W、V的初值——并不是總有效。 逃離——統(tǒng)計(jì)方法；[Wasserman，1986]將Cauchy訓(xùn)練與BP算法結(jié)合起來，可以在保證訓(xùn)練速度不被降低的情況下，找到全局極小點(diǎn)。,第四十一頁，共四十四頁。,11/1/2024,42,4.6 幾個(gè)問題(w232。nt237。)的討論,網(wǎng)絡(luò)癱瘓問題 在訓(xùn)練中，權(quán)可能變得很大，這會(huì)使神經(jīng)元的網(wǎng)絡(luò)輸入變得很大，從而又使得其激活函數(shù)的導(dǎo)函數(shù)在此點(diǎn)上的取值很小。根據(jù)相應(yīng)式子，此時(shí)的訓(xùn)練步長會(huì)變得非常小，進(jìn)而將導(dǎo)致訓(xùn)練速度降得非常低，最終導(dǎo)致網(wǎng)絡(luò)停止收斂 穩(wěn)定性問題 用修改量的綜合實(shí)施(sh237。shī)權(quán)的修改 連續(xù)變化的環(huán)境，它將變成無效的,第四十二頁，共四十四頁。,11/1/2024,43,4.6 幾個(gè)問題(w232。nt237。)的討論,步長問題 BP網(wǎng)絡(luò)的收斂是基于無窮小的權(quán)修改(xiūgǎi)量 步長太小，收斂就非常慢 步長太大，可能會(huì)導(dǎo)致網(wǎng)絡(luò)的癱瘓和不穩(wěn)定 自適應(yīng)步長，使得權(quán)修改量能隨著網(wǎng)絡(luò)的訓(xùn)練而不斷變化。[1988年，Wasserman],第四十三頁，共四十四頁。,內(nèi)容(n232。ir243。ng)總結(jié),第4章 BP網(wǎng)絡(luò)。樣本(y224。ngběn)：(輸入向量，理想輸出向量)。vhp=vhp+?vhp。算法41 基本BP算法。算法42 消除樣本(y224。ngběn)順序影響的BP算法。偏移量：給每一個(gè)神經(jīng)元增加一個(gè)偏移量來加快收斂速度。算法42 分析——沖量設(shè)置。W[H，m]——輸出層的權(quán)矩陣。V[n，H]——輸入（隱藏）層的權(quán)矩陣。O1——隱藏層的輸出向量。(X，Y)——一個(gè)樣本(y224。ngběn)。4.1 N=N+1。0，此時(shí)Δwij0。43,第四十四頁，共四十四頁。,
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1