前向網(wǎng)絡ppt課件(編輯修改稿)
2025-06-02 12:04 本頁面
【文章內容簡介】 ? ? ??????? 從上面公式也可以知道 ,如果網(wǎng)絡的層數(shù)較多時 ,所用的計算量就相當可觀 ,故而收斂速度不快 . BP算法的執(zhí)行步驟 1. BP算法的執(zhí)行步驟 ? 在 BP算法應用于前饋多層網(wǎng)絡時 ,采用 S激發(fā)函數(shù)時 ,可用下列步驟對網(wǎng)絡的權系數(shù) 進行遞歸求取 ,其中 k=m1,…,2,1。j=1, 2,…,n k+1。i=1,2,…,n k. ki,jw? 類似于前面的討論 ,對神經(jīng)元 xik的閾值 ?ik,可用增加一個狀態(tài)恒為 1(即 =1)的隱神經(jīng)元及相應的權重 k 1nkx ?kik 1ni, θw1k ???的方法來處理 . ? 綜合上述 BP算法的思想和計算公式 ,有如下計算步驟 . BP算法的執(zhí)行步驟 算法的執(zhí)行的步驟如下 : 步 1. 對權系數(shù) 置初值 . kjr,w? 對各層的權系數(shù) 置一個較小的非零隨機數(shù) ,但其中 ki,jwkik 1ni, θw1k ???步 2. 輸入第 i個輸入樣本 以及對應期望輸出 oi. }1,( i)x( i) , . . . ,x( i) ,{x1n12111k1n1k k k k 1 k 1j j j r ,j rr1k k 1x ( i) f [ u ( i) ] , u ( i) w ( s) x ( i) ,k 2, 3, ...,m 。j 1, 2, ...,n 。 r 1, 2, ...,n? ?????? ? ??步 3. 計算各層的輸出 ? 對于第 k層第 j個神經(jīng)元的輸出 xjk(i),有 : BP算法的執(zhí)行步驟 步 4. 求各層的學習誤差 djk(i) 步 5. 修正權系數(shù) 和閾值 ?ik kjr,wn1,2,...,i。n1,2,...,r1,...,2。mk( i ) ]x( i ) [ 1x( i ) wd( i )d)x(1)xo(x( i )dkkrkr1krs,1kskrmimiimim11?????????????????kns1n1,2,...,j。n1,2,...,r1,...,1。mk( i )( i ) xdη( s )w1)(swk1k( s )wwn1ikj1krkjr,kjr,kjr,kjr,????????????? BP算法的執(zhí)行步驟 或 1n1,2,...,j。n1,2,...,r1,...,1。mk1)(swα( i )( i ) xdη( s )w1)(swk1kkjr,( s )wwn1ikj1krkjr,kjr,kjr,kjr,??????????????步 6. 當求出了各層各個權系數(shù)之后 ,可按給定品質指標判別是否滿足要求 . ? 如果滿足要求 ,則算法結束 。 ? 如果未滿足要求 ,則返回步 3執(zhí)行 . BP算法的執(zhí)行步驟 BP網(wǎng)絡訓練的幾種模式 ? 批處理模式 (batch mode) 訓練過程以所有樣本為一個 epoch。 訓練時計算出所有樣本的整體誤差后，加權系數(shù)才調整。 ? 模式學習模式 (pattern mode) 訓練過程輸入一個樣本，計算學習誤差，調整加權系數(shù)。 BP算法的執(zhí)行步驟 ? 上述過程是針對同時學習多個樣本的情況 ,若每次學習時 ,只學習當前樣本 ,則 BP算法的 學習過程 步驟 為 : 步 1. 對權系數(shù) 置初值 . kjr,w? 對各層的權系數(shù) 置一個較小的非零隨機數(shù) . kjr,w步 2. 輸入第 i個輸入樣本 以及對應期望輸出o. }1,x,...,x,{x1n12111。n1 , 2 , . . . ,jm。2 , 3 , . . . ,k,( s ) xwu ),f ( ux k1n1r1kr1krj,kjkjkj1k???? ?????步 3. 計算各層的輸出 ? 對于第 k層第 j個神經(jīng)元的輸出 xjk,有 : BP算法的執(zhí)行步驟 步 4. 求各層的學習誤差 djk 步 5. 修正權系數(shù) 和閾值 ?ik kjr,w。n1, 2, .. .,r1, .. . ,2 。mk)x(1x)s(wdd)x(1o) x(xdkkrkr1krs,1kskrm1m1m1m11????????????????kns1n1,2,...,j。n1,2,...,r1,...,1。mkxdη( s )w1)(swk1k( s )wwn1ikj1krkjr,kjr,kjr,kjr,????????????? BP算法的執(zhí)行步驟 或 1n1,2,...,j。n1,2,...,r1,...,1。mk1)(swαxdη( s )w1)(swk1kkjr,( s )wwn1ikj1krkjr,kjr,kjr,kjr,??????????????步 6. 當求出了各層各個權系數(shù)之后 ,可按給定品質指標判別是否滿足要求 . ? 如果未滿足要求 ,則返回步 3執(zhí)行 。 ? 如果滿足要求 ,則執(zhí)行下一步 . 步 7. 對下一樣本 ,返回步 2學習新樣本 . BP算法的逼近學習算例 1. BP算法的逼近學習算例 ? 多層感知器
教學課件相關推薦
鄂ICP備17016276號-1