線性判別函數(shù)人工神經(jīng)元網(wǎng)絡(luò)模型-文庫(kù)吧
2025-05-11 18:07 本頁(yè)面
【正文】 ?根據(jù) S型激活函數(shù)的圖形可知 ,對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，應(yīng)該將 的值盡量控制在收斂比較快的范圍內(nèi) 2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?（ 1）學(xué)習(xí)的過(guò)程： ?神經(jīng)網(wǎng)絡(luò)在外界輸入樣本的刺激下不斷改變網(wǎng)絡(luò)的連接權(quán)值 ,以使網(wǎng)絡(luò)的輸出不斷地接近期望的輸出。 ?（ 2）學(xué)習(xí)的本質(zhì)： ?對(duì)各連接權(quán)值的動(dòng)態(tài)調(diào)整 ?（ 3）學(xué)習(xí)規(guī)則： ?權(quán)值調(diào)整規(guī)則，即在學(xué)習(xí)過(guò)程中網(wǎng)絡(luò)中各神經(jīng)元的連接權(quán)變化所依據(jù)的一定的調(diào)整規(guī)則。 2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 算法思想 ?（ 4）學(xué)習(xí)的類型：有導(dǎo)師學(xué)習(xí) ?（ 5）核心思想： ? 將輸出誤差 以某種形式 通過(guò)隱層向輸入層逐層反傳 ?（ 6）學(xué)習(xí)的過(guò)程： ?信號(hào)的正向傳播 誤差的反向傳播 將誤差分?jǐn)偨o各層的所有單元－－－各層單元的誤差信號(hào) 修正各單元權(quán)值 2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 學(xué)習(xí)過(guò)程 ?正向傳播： ? 輸入樣本－－－輸入層－－－各隱層－－－輸出層 ?判斷是否轉(zhuǎn)入反向傳播階段： ? 若輸出層的實(shí)際輸出與期望的輸出（教師信號(hào)）不符 ?誤差反傳 ? 誤差以某種形式在各層表示－－－－修正各層單元的權(quán)值 ?網(wǎng)絡(luò)輸出的誤差減少到可接受的程度 進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止 2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?(7)網(wǎng)絡(luò)結(jié)構(gòu) ?輸入層有 n個(gè)神經(jīng)元，隱含層有 p個(gè)神經(jīng)元 , 輸出層有 q個(gè)神經(jīng)元 ?(8)變量定義 ?輸入向量 。 ?隱含層輸入向量； ?隱含層輸出向量 。 ?輸出層輸入向量 。 ?輸出層輸出向量 。 ?期望輸出向量 。 ? ?12, , , nx x x?x? ?12, , , ph i h i h i?hi? ?12, , , pho ho ho?ho? ?12, , , qy i y i y i?yi? ?12, , , qyo yo yo?yo? ?12, , , qd d d?od2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?輸入層與中間層的連接權(quán)值 : ?隱含層與輸出層的連接權(quán)值 : ?隱含層各神經(jīng)元的閾值 : ?輸出層各神經(jīng)元的閾值 : ?樣本數(shù)據(jù)個(gè)數(shù) : ?激活函數(shù) : ?誤差函數(shù)： ihwf()?howhb1 , 2 ,km?ob211 ( ( ) ( ) )2qoooe d k y o k????2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?(10)標(biāo)準(zhǔn)學(xué)習(xí)算法的主要步驟 ?第一步，網(wǎng)絡(luò)初始化 ?給各連接權(quán)值分別賦一個(gè)區(qū)間（ 1， 1）內(nèi)的隨機(jī)數(shù)，設(shè)定誤差函數(shù) e，給定計(jì)算精度值 和最大學(xué)習(xí)次數(shù) M。 ?第二步 ,隨機(jī)選取第 個(gè)輸入樣本及對(duì)應(yīng)期望輸出 ?k? ?12( ) ( ) , ( ) , , ( )nk x k x k x k?x? ?12( ) ( ) , ( ) , , ( )qk d k d k d k?od2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?第三步，計(jì)算各層各神經(jīng)元的輸入和輸出 1( ) ( ) 1 , 2 , ,nh i h i hih i k w x k b h p?? ? ??( ) f( ( )) 1 , 2 , ,hhh o k h i k h p??1( ) ( ) 1 , 2 ,po h o h ohy i k w h o k b o q?? ? ??( ) f( ( )) 1 , 2 ,ooy o k y i k o q??2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?第四步，利用網(wǎng)絡(luò)期望輸出和實(shí)際輸出，計(jì)算誤差函數(shù)對(duì)輸出層的各神經(jīng)元的偏導(dǎo)數(shù) 。 oho o hoe e y iw y i w? ? ??? ? ?( ( ) )()()ph o h oo hhh o h ow h o k by i kh o kww???????
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1