ch7典型神經(jīng)網(wǎng)絡ok-免費閱讀
【正文】 通過調(diào)整權值使訓練集圖像的重建誤差達到最小。 改進技術可以用來使反向傳播法更加容易實現(xiàn)并需要更少的訓練時間 。下式給出了一種自適應學習速率的調(diào)整公式： MATLAB工具箱中帶有自適應學習速率進行反向傳播訓練的函數(shù)為： 。 利用附加動量的作用則有可能滑過局部極小值。 5 期望誤差的選取 在設計網(wǎng)絡的訓練過程中，期望誤差值也應當通過對比訓練后確定一個合適的值。 3）初始權值的選取 一般取初始權值在 (1， 1)之間的隨機數(shù)。 以上所有的學習規(guī)則與訓練的全過程，仍然可以用函數(shù) 。 BP算法是由兩部分組成：信息的正向傳遞與誤差的反向傳播。 輸入和輸出是并行的模擬量； 網(wǎng)絡的輸入輸出關系是各層連接的權因子決定 ， 沒有固定的算法； 權因子是通過學習信號調(diào)節(jié)的 ， 這樣學習越多 ， 網(wǎng)絡越聰明； 隱含層越多 ， 網(wǎng)絡輸出精度越高 ， 且個別權因子的損壞不會對網(wǎng)絡輸出產(chǎn)生大的影響 BP網(wǎng)絡模式識別 ? 一、 ? 由于神經(jīng)網(wǎng)絡具有自學習、自組織和并行處理等特征，并具有很強的容錯能力和聯(lián)想能力，因此，神經(jīng)網(wǎng)絡具有模式識別能力。39。 BP網(wǎng)絡特點 ?是多層網(wǎng)絡，包括輸入層、隱層和輸出層 ?層與層之間采用全互連方式，同一層神經(jīng)元之間不連接 ?權值通過學習算法進行調(diào)節(jié) ?神經(jīng)元激發(fā)函數(shù)為 S函數(shù) ?層與層的連接是單向的，信息傳播是雙向的 BP網(wǎng)絡結構 BP神經(jīng)網(wǎng)絡模型結構 輸入層 隱層 輸出層 輸 入 輸 出 BP網(wǎng)絡是一種多層前向神經(jīng)網(wǎng)絡 ?一般分三層：輸入層，隱層，輸出層，也可以有 2層或更多個隱層。 ?層與層之間采用全互聯(lián)方式，同一層單元之間不存在相互連接。2 ijjjijnijijxxxkeykeE????????????????????????? ? ? ? 222 1 jjj kk ??? ????? ? ? ? ijijij kk ??? ???? 1? ? ? ? ? ?kykyke n?? ? ?221 keE ? ? ? ??jjjn xky 39。 ? 在神經(jīng)網(wǎng)絡識別中，根據(jù)標準的輸入輸出模式對，采用神經(jīng)網(wǎng)絡學習算法，以標準的模式作為學習樣本進行訓練，通過學習調(diào)整神經(jīng)網(wǎng)絡的連接權值。 在正向傳播過程中，輸入信息從輸入經(jīng)隱含層逐層計算傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。它的使用同樣只需要定義有關參數(shù)：顯示間隔次數(shù)，最大循環(huán)次數(shù)，目標誤差，以及學習速率，而調(diào)用后返回訓練后權值，循環(huán)總數(shù)和最終誤差： TP＝ [disp_freq max_epoch err_goal 1r]； [W， B， epochs， errors]＝ trainbp(W， B， ’F’，P， T， TP)； BP網(wǎng)絡的設計 1 網(wǎng)絡的層數(shù)： 理論上已經(jīng)證明：具有偏差和至少一個 S型隱含層加上一個線性輸出層的網(wǎng)絡，能夠逼近任何有理函數(shù)。 在 MATLAB工具箱中可采用函數(shù) 化權值閾值。 這個所謂的“合適”，是相對于所需要的隱含層的節(jié)點數(shù)來確定，因為較小的期望誤差值是要靠增加隱含層的節(jié)點，以及訓練時間來獲得的。 該方法是在反向傳播法的基礎上在每一個權值的變化上加上一項正比于前次權值變化量的值，并根據(jù)反向傳播法來產(chǎn)生新的權值變化。 它可以訓練直至三層網(wǎng)絡。 BP網(wǎng)絡主要用于： 1)函數(shù)逼近：用輸入矢量和相應的輸出矢量訓練一個網(wǎng)絡逼近 — 個函數(shù)； 2)模式識別：用一個特定的輸出矢量將它與輸入矢量聯(lián)系起來； 3)分類：把輸入矢量以所定義的合適方式進行分類； 4)數(shù)據(jù)壓縮：減少輸出矢量維數(shù)以便于傳輸或存儲。訓練后的網(wǎng)絡就可以用來執(zhí)行圖像的數(shù)據(jù)壓縮任務了，此時隱層輸出向量便是數(shù)據(jù)壓縮結果，而輸出層的輸出向量便是圖像重
教學課件相關推薦
鄂ICP備17016276號-1