20xx年醫(yī)學專題—人工神經(jīng)網(wǎng)絡講稿ch4-資料下載頁
2024-11-01 12:02本頁面
【正文】 ,11/1/2024,33,ANj為輸出(shūchū)層神經(jīng)元,oj=f(netj) 容易(r243。ngy236。)得到,從而(c243。ng 233。r),第三十三頁，共四十四頁。,11/1/2024,34,ANj為輸出(shūchū)層神經(jīng)元,第三十四頁，共四十四頁。,11/1/2024,35,所以(suǒyǐ)，,故，當ANj為輸出層的神經(jīng)元時，它對應的聯(lián)接權wij應該按照下列公式進行(j236。nx237。ng)調整：,ANj為輸出(shūchū)層神經(jīng)元,第三十五頁，共四十四頁。,11/1/2024,36,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第三十六頁，共四十四頁。,11/1/2024,37,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,netk=,oj,第三十七頁，共四十四頁。,11/1/2024,38,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第三十八頁，共四十四頁。,11/1/2024,39,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第三十九頁，共四十四頁。,11/1/2024,40,ANj為隱藏(yǐnc225。ng)層神經(jīng)元,第四十頁，共四十四頁。,11/1/2024,41,4.6 幾個問題(w232。nt237。)的討論,收斂速度問題 局部極小(j237。 xiǎo)點問題 逃離/避開局部極小點：修改W、V的初值——并不是總有效。 逃離——統(tǒng)計方法；[Wasserman，1986]將Cauchy訓練與BP算法結合起來，可以在保證訓練速度不被降低的情況下，找到全局極小點。,第四十一頁，共四十四頁。,11/1/2024,42,4.6 幾個問題(w232。nt237。)的討論,網(wǎng)絡癱瘓問題 在訓練中，權可能變得很大，這會使神經(jīng)元的網(wǎng)絡輸入變得很大，從而又使得其激活函數(shù)的導函數(shù)在此點上的取值很小。根據(jù)相應式子，此時的訓練步長會變得非常小，進而將導致訓練速度降得非常低，最終導致網(wǎng)絡停止收斂 穩(wěn)定性問題 用修改量的綜合實施(sh237。shī)權的修改 連續(xù)變化的環(huán)境，它將變成無效的,第四十二頁，共四十四頁。,11/1/2024,43,4.6 幾個問題(w232。nt237。)的討論,步長問題 BP網(wǎng)絡的收斂是基于無窮小的權修改(xiūgǎi)量 步長太小，收斂就非常慢 步長太大，可能會導致網(wǎng)絡的癱瘓和不穩(wěn)定 自適應步長，使得權修改量能隨著網(wǎng)絡的訓練而不斷變化。[1988年，Wasserman],第四十三頁，共四十四頁。,內容(n232。ir243。ng)總結,第4章 BP網(wǎng)絡。樣本(y224。ngběn)：(輸入向量，理想輸出向量)。vhp=vhp+?vhp。算法41 基本BP算法。算法42 消除樣本(y224。ngběn)順序影響的BP算法。偏移量：給每一個神經(jīng)元增加一個偏移量來加快收斂速度。算法42 分析——沖量設置。W[H，m]——輸出層的權矩陣。V[n，H]——輸入（隱藏）層的權矩陣。O1——隱藏層的輸出向量。(X，Y)——一個樣本(y224。ngběn)。4.1 N=N+1。0，此時Δwij0。43,第四十四頁，共四十四頁。,
環(huán)評公示相關推薦
鄂ICP備17016276號-1