人工神經(jīng)網(wǎng)絡(luò)ppt-資料下載頁(yè)
2025-09-24 10:50本頁(yè)面
【正文】 簡(jiǎn)單單級(jí)網(wǎng) … … x1 x2 … xn o1 o2 om wnm w11 w1m w2m wn1 Ok oj Input layer Hidden layer Output layer 第五十九頁(yè)，共七十九頁(yè)。 BP學(xué)習(xí)算法 ? 1 權(quán)值初始化； ? 2 依次輸入 p個(gè)學(xué)習(xí)樣本； ? 3 依次計(jì)算各個(gè)層的輸出； ? 4 求各個(gè)層的反傳誤差； ? 5 記錄已經(jīng)學(xué)習(xí)過(guò)的樣本數(shù) p，假設(shè) pP,那么轉(zhuǎn)到步驟2，假設(shè) p=P那么轉(zhuǎn)到步驟 6； ? 6 按照權(quán)值修整公式修整各個(gè)層的權(quán)值或閾值； ? 7 按照新的權(quán)值再計(jì)算，當(dāng)?shù)竭_(dá)誤差要求或最大學(xué)習(xí)次數(shù)，那么終止學(xué)習(xí)，負(fù)責(zé)轉(zhuǎn)到步驟 2. 第六十頁(yè)，共七十九頁(yè)。 網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu) 1. BP網(wǎng)的結(jié)構(gòu) 2. 輸入向量 、 輸出向量的維數(shù) 、 網(wǎng)絡(luò)隱藏層的層數(shù)和各個(gè)隱藏層神經(jīng)元的個(gè)數(shù)的決定 3. 實(shí)驗(yàn)：增加隱藏層的層數(shù)和隱藏層神經(jīng)元個(gè)數(shù)不一定總能夠提高網(wǎng)絡(luò)精度和表達(dá)能力 。 4. BP網(wǎng)一般都選用二級(jí)網(wǎng)絡(luò) 。 第六十一頁(yè)，共七十九頁(yè)。 訓(xùn)練過(guò)程概述 樣本： (輸入向量，理想輸出向量 ) 權(quán)初始化：“小隨機(jī)數(shù)〞與飽和狀態(tài)；“不同〞保證網(wǎng)絡(luò)可以學(xué)。 向前傳播階段： 〔 1〕從樣本集中取一個(gè)樣本 (Xp， Yp)，將Xp輸入網(wǎng)絡(luò)； 〔 2〕計(jì)算相應(yīng)的實(shí)際輸出 Op： Op=Fl(…(F2(F1(XpW(1))W(2))…)W(L)) 第六十二頁(yè)，共七十九頁(yè)。 訓(xùn)練過(guò)程概述 向后傳播階段 —— 誤差傳播階段： 〔 1〕 計(jì)算實(shí)際輸出 Op與相應(yīng)的理想輸出 Yp的差； 〔 2〕 按極小化誤差的方式調(diào)整權(quán)矩陣 。 〔 3〕 網(wǎng)絡(luò)關(guān)于第 p個(gè)樣本的誤差測(cè)度： ? ?????mjpjpjp oyE1221〔 4〕 網(wǎng)絡(luò)關(guān)于整個(gè)樣本集的誤差測(cè)度： ??ppEE第六十三頁(yè)，共七十九頁(yè)。 誤差傳播分析 輸出層權(quán)的調(diào)整 wpq= wpq+?wpq ?wpq=αδqop =αfn′ (q)(yqoq)op =αoq(1oq) (yqoq)op wpq ANp ANq 第 L1層 第 L層 ?wpq 第六十四頁(yè)，共七十九頁(yè)。 隱藏層權(quán)的調(diào)整 ANp ANq ANh vhp δpk1 δ1k wp1 wpq δqk wpm δmk 第 k2層 第 k層 第 k1層 … … 第六十五頁(yè)，共七十九頁(yè)。 隱藏層權(quán)的調(diào)整 δpk1的值和 δ1k， δ2k， … ， δmk 有關(guān) 不妨認(rèn)為 δpk1 通過(guò)權(quán) wp1對(duì) δ1k做出奉獻(xiàn) ， 通過(guò)權(quán) wp2對(duì) δ2k做出奉獻(xiàn) ， …… 通過(guò)權(quán) wpm對(duì) δmk做出奉獻(xiàn) 。 δpk1= fk1′(p) (wp1δ1k+ wp2δ2k+… + wpmδm k) 第六十六頁(yè)，共七十九頁(yè)。 隱藏層權(quán)的調(diào)整 vhp=vhp+?vhp ?vhp=αδpk1ohk2 =αfk1 ′(p)( wp1δ1k+ wp2δ2k+… + wpmδmk)ohk2 =αopk1(1opk1)( wp1δ1k+ wp2δ2k+… + wpmδmk)ohk2 ANp ANq ANh vhp δpk1 δ1k wp1 wpm δqk wpq δmk 第 k2層 第 k層 第 k1層 … … 第六十七頁(yè)，共七十九頁(yè)。 BP算法根本思想 ?樣本集： S={(X1,Y1),(X2,Y2),…,(Xs,Ys)} ?根本思想 ： ?逐一地根據(jù)樣本集中的樣本 (Xk,Yk)計(jì)算出實(shí)際輸出 Ok和誤差測(cè)度 E1，對(duì) W(1) ，W(2) ， … ， W(L)各做一次調(diào)整，重復(fù)這個(gè)循環(huán)，直到 ∑Epε。 ?用輸出層的誤差調(diào)整輸出層權(quán)矩陣，并用此誤差估計(jì)輸出層的直接前導(dǎo)層的誤差，再用輸出層前導(dǎo)層誤差估計(jì)更前一層的誤差。如此獲得所有其它各層的誤差估計(jì)，并用這些估計(jì)實(shí)現(xiàn)對(duì)權(quán)矩陣的修改。形成將輸出端表現(xiàn)出的誤差沿著與輸入信號(hào)相反的方向逐級(jí)向輸入端傳遞的過(guò)程 第六十八頁(yè)，共七十九頁(yè)。 第六十九頁(yè)，共七十九頁(yè)。 第七十頁(yè)，共七十九頁(yè)。 第七十一頁(yè)，共七十九頁(yè)。 第七十二頁(yè)，共七十九頁(yè)。 第七十三頁(yè)，共七十九頁(yè)。 第七十四頁(yè)，共七十九頁(yè)。 第七十五頁(yè)，共七十九頁(yè)。 第七十六頁(yè)，共七十九頁(yè)。 第七十七頁(yè)，共七十九頁(yè)。 第七十八頁(yè)，共七十九頁(yè)。 內(nèi)容總結(jié) 人工神經(jīng)網(wǎng)絡(luò) Artificial Neural Networks。正常操作〔回憶操作〕。一、符號(hào)主義〔或邏輯主義〕學(xué)派。二、連接主義 (或并行分布處理主義〕學(xué)派。在人工神經(jīng)網(wǎng)絡(luò)中，那么是用內(nèi)容尋址存儲(chǔ)器和聯(lián)想存儲(chǔ)器來(lái)存儲(chǔ)圖形信息。樣本： (輸入向量，理想輸出向量 )。 向后傳播階段 ——誤差傳播階段：。 vhp=vhp+?vhp。根本思想 ： 第七十九頁(yè)，共七十九頁(yè)。
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1