生物神經(jīng)元ppt課件(參考版)
2025-01-11 05:11本頁面
【正文】 BP網(wǎng)絡(luò)訓(xùn)練過程 樣本集 （輸入向量，理想輸出向量） 實際系統(tǒng)采集 向前傳播階段 (1) 從樣本集中取一個樣本 (Xp， Yp)，將 Xp輸入網(wǎng)絡(luò)； (2) 計算相應(yīng)的實際輸出 Op； 向后傳播階段 (1) 計算實際輸出 Op與理想輸出 Yp的差； (2) 根據(jù)這個誤差，按極小化誤差方式調(diào)整權(quán)矩陣； 精度要求控制 網(wǎng)絡(luò)關(guān)于第 p個樣本的誤差測度為： Ep= ?(ypjopj)2/2 網(wǎng)絡(luò)整個樣本集的誤差測度為： E= ?Ep 誤差傳播分析 輸出層權(quán)的調(diào)整 ANp是輸出層第 q個神經(jīng)元， wpq是其前導(dǎo)層第 p神經(jīng)元到 ANp的聯(lián)結(jié)權(quán)。 BP網(wǎng)絡(luò)的構(gòu)成 —神經(jīng)元 X=(x1 , x2 , … , x n) W=(w1, w2, …, w n) =?xiwi =XW 神經(jīng)元網(wǎng)絡(luò)輸入： x1 x2 xn =XW w1 w2 wn ? BP網(wǎng)絡(luò)的構(gòu)成 —神經(jīng)元的激勵函數(shù) 按照算法要求，神經(jīng)元的激勵函數(shù)必須是處處可導(dǎo)的 通常取 S型函數(shù)： x1 x2 xn =XW w1 w2 wn ? o=f() 1 o=f()= 1+e f’()=o(1o) o (0,) (0,0) BP網(wǎng)絡(luò)的構(gòu)成 —網(wǎng)絡(luò)的拓撲結(jié)構(gòu) BP算法適用于非循環(huán)多級網(wǎng)絡(luò)的訓(xùn)練 x1 x2 xn o1 o2 om . . . 但在說明 BP算法的具體原理時，只需一個二級網(wǎng)絡(luò) x1 x2 xn o1 o2 om BP網(wǎng)絡(luò)拓撲結(jié)構(gòu)的幾點注意事項 設(shè)網(wǎng)絡(luò)有 n層，第 h(1=h=n)層神經(jīng)元的個數(shù)為 Lh, 該層神經(jīng)元的激活函數(shù)用 Fn表示 聯(lián)結(jié)矩陣用 W(h)表示 輸入向量和輸出向量的維數(shù)由問題直接決定， 而層數(shù)和各層神經(jīng)元的個數(shù)則與問題相關(guān) 目前還很難確定它們與問題類型和規(guī)模的關(guān)系， 隱藏層數(shù)及其神經(jīng)元個數(shù)的增加不一定能夠提高網(wǎng)絡(luò) 精度和表達能力。 BP算法的出現(xiàn)結(jié)束了多級神經(jīng)網(wǎng)絡(luò)沒有訓(xùn)練算法的歷史，對 神經(jīng)網(wǎng)絡(luò)的第二次高潮的到來起到很大的作用。 BP算法的基本特征和意義 BP算法是非循環(huán)多級網(wǎng)絡(luò)的訓(xùn)練算法。（ 1986提出） BP(Back Propagation)算法又稱為向后傳播算法。因為在實際應(yīng)用中，無法知道隱藏層任 何神經(jīng)元的理想輸出值。 、 d=0； 、 for 每個樣本 (X,Y) do； 、輸入 X 設(shè)置精度控制參數(shù) ,學(xué)習(xí)率 、精度控制變量 d=1+ while d= do 、求 O=F(XW) 、修改權(quán)矩陣 W for i=1 to n, j=1 to m do wij= wij + (yjoj)xi 、累積誤差 for j=1 to m do d=d+(yjoj)2 “異或”運算真值表 “異或”
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1