人工神經(jīng)網(wǎng)絡(luò)ppt-資料下載頁
2025-09-24 10:50本頁面
【正文】 簡單單級網(wǎng) … … x1 x2 … xn o1 o2 om wnm w11 w1m w2m wn1 Ok oj Input layer Hidden layer Output layer 第五十九頁，共七十九頁。 BP學(xué)習(xí)算法 ? 1 權(quán)值初始化； ? 2 依次輸入 p個學(xué)習(xí)樣本； ? 3 依次計算各個層的輸出； ? 4 求各個層的反傳誤差； ? 5 記錄已經(jīng)學(xué)習(xí)過的樣本數(shù) p，假設(shè) pP,那么轉(zhuǎn)到步驟2，假設(shè) p=P那么轉(zhuǎn)到步驟 6； ? 6 按照權(quán)值修整公式修整各個層的權(quán)值或閾值； ? 7 按照新的權(quán)值再計算，當(dāng)?shù)竭_(dá)誤差要求或最大學(xué)習(xí)次數(shù)，那么終止學(xué)習(xí)，負(fù)責(zé)轉(zhuǎn)到步驟 2. 第六十頁，共七十九頁。 網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu) 1. BP網(wǎng)的結(jié)構(gòu) 2. 輸入向量 、 輸出向量的維數(shù) 、 網(wǎng)絡(luò)隱藏層的層數(shù)和各個隱藏層神經(jīng)元的個數(shù)的決定 3. 實驗：增加隱藏層的層數(shù)和隱藏層神經(jīng)元個數(shù)不一定總能夠提高網(wǎng)絡(luò)精度和表達(dá)能力 。 4. BP網(wǎng)一般都選用二級網(wǎng)絡(luò) 。 第六十一頁，共七十九頁。 訓(xùn)練過程概述 樣本： (輸入向量，理想輸出向量 ) 權(quán)初始化：“小隨機數(shù)〞與飽和狀態(tài)；“不同〞保證網(wǎng)絡(luò)可以學(xué)。 向前傳播階段： 〔 1〕從樣本集中取一個樣本 (Xp， Yp)，將Xp輸入網(wǎng)絡(luò)； 〔 2〕計算相應(yīng)的實際輸出 Op： Op=Fl(…(F2(F1(XpW(1))W(2))…)W(L)) 第六十二頁，共七十九頁。 訓(xùn)練過程概述 向后傳播階段 —— 誤差傳播階段： 〔 1〕 計算實際輸出 Op與相應(yīng)的理想輸出 Yp的差； 〔 2〕 按極小化誤差的方式調(diào)整權(quán)矩陣 。 〔 3〕 網(wǎng)絡(luò)關(guān)于第 p個樣本的誤差測度： ? ?????mjpjpjp oyE1221〔 4〕 網(wǎng)絡(luò)關(guān)于整個樣本集的誤差測度： ??ppEE第六十三頁，共七十九頁。 誤差傳播分析 輸出層權(quán)的調(diào)整 wpq= wpq+?wpq ?wpq=αδqop =αfn′ (q)(yqoq)op =αoq(1oq) (yqoq)op wpq ANp ANq 第 L1層 第 L層 ?wpq 第六十四頁，共七十九頁。 隱藏層權(quán)的調(diào)整 ANp ANq ANh vhp δpk1 δ1k wp1 wpq δqk wpm δmk 第 k2層 第 k層 第 k1層 … … 第六十五頁，共七十九頁。 隱藏層權(quán)的調(diào)整 δpk1的值和 δ1k， δ2k， … ， δmk 有關(guān) 不妨認(rèn)為 δpk1 通過權(quán) wp1對 δ1k做出奉獻(xiàn) ， 通過權(quán) wp2對 δ2k做出奉獻(xiàn) ， …… 通過權(quán) wpm對 δmk做出奉獻(xiàn) 。 δpk1= fk1′(p) (wp1δ1k+ wp2δ2k+… + wpmδm k) 第六十六頁，共七十九頁。 隱藏層權(quán)的調(diào)整 vhp=vhp+?vhp ?vhp=αδpk1ohk2 =αfk1 ′(p)( wp1δ1k+ wp2δ2k+… + wpmδmk)ohk2 =αopk1(1opk1)( wp1δ1k+ wp2δ2k+… + wpmδmk)ohk2 ANp ANq ANh vhp δpk1 δ1k wp1 wpm δqk wpq δmk 第 k2層 第 k層 第 k1層 … … 第六十七頁，共七十九頁。 BP算法根本思想 ?樣本集： S={(X1,Y1),(X2,Y2),…,(Xs,Ys)} ?根本思想 ： ?逐一地根據(jù)樣本集中的樣本 (Xk,Yk)計算出實際輸出 Ok和誤差測度 E1，對 W(1) ，W(2) ， … ， W(L)各做一次調(diào)整，重復(fù)這個循環(huán)，直到 ∑Epε。 ?用輸出層的誤差調(diào)整輸出層權(quán)矩陣，并用此誤差估計輸出層的直接前導(dǎo)層的誤差，再用輸出層前導(dǎo)層誤差估計更前一層的誤差。如此獲得所有其它各層的誤差估計，并用這些估計實現(xiàn)對權(quán)矩陣的修改。形成將輸出端表現(xiàn)出的誤差沿著與輸入信號相反的方向逐級向輸入端傳遞的過程 第六十八頁，共七十九頁。 第六十九頁，共七十九頁。 第七十頁，共七十九頁。 第七十一頁，共七十九頁。 第七十二頁，共七十九頁。 第七十三頁，共七十九頁。 第七十四頁，共七十九頁。 第七十五頁，共七十九頁。 第七十六頁，共七十九頁。 第七十七頁，共七十九頁。 第七十八頁，共七十九頁。 內(nèi)容總結(jié) 人工神經(jīng)網(wǎng)絡(luò) Artificial Neural Networks。正常操作〔回憶操作〕。一、符號主義〔或邏輯主義〕學(xué)派。二、連接主義 (或并行分布處理主義〕學(xué)派。在人工神經(jīng)網(wǎng)絡(luò)中，那么是用內(nèi)容尋址存儲器和聯(lián)想存儲器來存儲圖形信息。樣本： (輸入向量，理想輸出向量 )。 向后傳播階段 ——誤差傳播階段：。 vhp=vhp+?vhp。根本思想 ： 第七十九頁，共七十九頁。
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1