bp神經網絡理論基礎介紹(已修改)
2025-06-06 22:34 本頁面
【正文】 2022/6/22 1 人工神經元模擬生物神經元的 一階特性 。 輸入： X=（ x1， x2， … ， xn） 聯(lián)接權： W=（ w1， w2， … ， wn） T 網絡輸入： =∑xiwi 向量形式： =XW 2022/6/22 2 xn wn ∑ x1 w1 x2 w2 =XW … 激活函數(shù)執(zhí)行對該神經元所獲得的網絡輸入的變換 ，也可以稱為激勵函數(shù) 、 活化函數(shù)： o=f（ ） 線性函數(shù)（ Liner Function） f（ ） =k*+c 2022/6/22 3 o o c γ if ≥θ f（ ） = k* if ||θ γ if ≤θ γ0為一常數(shù)，被稱為飽和值，為該神經元的最大輸出。 2022/6/22 4 2022/6/22 5 γ γ θ θ o β if θ f（ ） = γ if ≤ θ β、 γ、 θ均為非負實數(shù) ， θ為閾值 二值形式： 1 if θ f（ ） = 0 if ≤ θ 雙極形式： 1 if θ f（ ） = 1 if ≤ θ 2022/6/22 6 β 2022/6/22 7 γ θ o 0 壓縮函數(shù) （ Squashing Function） 和邏輯斯特函數(shù)（ Logistic Function） 。 f（ ） =a+b/(1+exp(d*)) a， b， d為常數(shù) 。 它的飽和值為 a和 a+b。 最簡單形式為： f（ ） = 1/(1+exp(d*)) 函數(shù)的飽和值為 0和 1。 ? S形函數(shù)有較好的增益控制 2022/6/22 8 2022/6/22 9 a+b o (0,c) a c=a+b/2 生物神經網 六個基本特征 神經元及其聯(lián)接 、 信號傳遞 、 訓練 、 刺激 與 抑制 、 累積效果 、 閾值 。 人工神經元的基本構成 2022/6/22 10 xn wn ∑ x1 w1 x2 w2 =XW … 激活函數(shù)與 MP模型 線性函數(shù)、非線性斜面函數(shù)、 閾值函數(shù) S形函數(shù) MP模型 2022/6/22 11 x2 w2 ∑ f o=f（ ） xn wn … =XW x1 w1 2022/6/22 12 … … x1 x2 … xn o1 o2 om wnm w11 w1m w2m wn1 輸出層 輸入層 W=（ wij） 輸出層的第 j個神經元的網絡輸入記為 j： j=x1w1j+x2w2j+… +xnwnj 其中 , 1≤ j ≤ m。 取 NET=（ 1， 2， … ， m） NET=XW O=F（ NET） 2022/6/22 13 2022/6/22 14 輸出層 x1 o1 w11 w1m x2 o2 w2m … … … xn om wn1 輸入層 V V=（ vij） NET=XW+OV O=F（ NET） 時間參數(shù) 神經元的狀態(tài)在主時鐘的控制下同步變化 考慮 X總加在網上的情況 NET（ t+1） =X（ t） W+O（ t） V O(t+1)=F(NET(t+1)) O（ 0） =0 考慮僅在 t=0時加 X的情況 。 穩(wěn)定性判定 2022/6/22 15 2022/6/22 16 輸出層 隱藏層 輸入層 o1 o2 om … x1 x2 xn … … … … … … 層次劃分 信號只被允許從較低層流向較高層 。 層號確定層的高低：層號較小者 ， 層次較低 ， 層號較大者 ， 層次較高 。 輸入層 ：被記作第 0層 。 該層負責接收來自網絡外部的信息 2022/6/22 17 輸出層 隱藏層 輸入層 o1 o2 om … x1 x2 xn … … … … … … 第 j層 ：第 j1層的直接后繼層 （ j0） ， 它直接接受第 j1層的輸出 。 輸出層 ：它是網絡的最后一層 ， 具有該網絡的最大層號 ， 負責輸出網絡的計算結果 。 隱藏層 ：除輸入層和輸出層以外的其它各層叫隱藏層。隱藏層不直接接受外界的信號，也不直接向外界發(fā)送信號 2022/6/22 18 輸出層 隱藏層 輸入層 o1 o2 om … x1 x2 xn … … … … … … 約定 : 輸出層的層號為該網絡的層數(shù)： n層網絡 ， 或 n級網絡 。 第 j1層到第 j層的聯(lián)接矩陣為第 j層聯(lián)接矩陣 ， 輸出層對應的矩陣
環(huán)評公示相關推薦
鄂ICP備17016276號-1