神經(jīng)網(wǎng)絡基礎知識(1)-文庫吧資料
2025-06-01 18:04本頁面
【正文】 0 , 0 . 5 ) ( 1 , 2 , 1 . 5 , 0 ) 3TTn e t W X? ? ? ? ?11( 1 ) (0 ) s g n ( ) ( 2 , 3 , 1 . 5 , 0 . 5 ) TW W n e t X?? ? ? ?(2) 22 ( 1 ) ( 2 , 3 , 1 . 5 , 0 . 5 ) ( 1 , 0 . 5 , 2 , 1 . 5 ) 0 . 2 5TTn e t W X? ? ? ? ? ? ? ?22( 2 ) ( 1 ) s g n ( ) ( 1 , 2 . 5 , 3 . 5 , 2 ) TW W n e t X?? ? ? ?(3) 33 ( 2 ) ( 1 , 2 . 5 , 3 . 5 , 2 ) (0 , 1 , 1 , 1 . 5 ) 3TTn e t W X? ? ? ? ? ?33( 3 ) ( 2 ) s g n ( ) ( 1 , 3 . 5 , 4 . 5 , 0 . 5 ) TW W n e t X?? ? ? ? Perceptron學習規(guī)則 jjr d o??學習信號： [ s g n ( ) ]Tj j jW d W X X?? ? ?權調(diào)整公式： [ s g n ( ) ]Ti j j j iw d W X x?? ? ?權分量調(diào)整公式： 由于采用符號函數(shù)，符合期望時不調(diào)整，否則，權值特征公式為： 要求：只適應二進制神經(jīng)元 特點：有導師學習 2jWX?? ? ? δ學習規(guī)則 [ ( ) ] ( ) [ ] ( )TTj j j j j j jr d f W X f W X o d o f n e t??? ? ? ?學習信號： ( ) ( )j j j jW d o f ne t X? ?? ? ?權調(diào)整公式： ( ) ( )ij j j j iw d o f ne t x? ?? ? ?權分量調(diào)整公式： 要求：轉換函數(shù)連續(xù)可導 特點：多層前饋，有導師學習 例 設有 4個輸入 1個輸出的神經(jīng)網(wǎng)絡，閾值內(nèi)含，學習率 η=，三個樣本為： X1=(1,1,2,0)T， X2=(1,0,)T,X3=(1,1,1,)T,初始權： W(0)=(,1,1,0)T，期望輸出： d1=1， d2=1， d3=1。 神經(jīng)網(wǎng)絡的學習類型： ?有導師學習 (有監(jiān)督學習 ) ?無導師學習 (無監(jiān)督、自組織 ) ?死記式學習 (灌輸式 ) 日本學者 Amari在 1990年提出了一種神經(jīng)網(wǎng)絡權值調(diào)整的通用學習規(guī)則，如下圖： [ ( ) , ( ) , ( ) ] ( )j j jW r W t X t d t X t??? 通用學習規(guī)則：權向量 Wj在 t時刻的調(diào)整量 ΔWj(t)與 t時刻的輸入 X(t)和學習信號 r的乘積成正比，即： ( 1 ) ( ) [ ( ) , ( ) , ( ) ] ( )j j j jW t W t r W t X t d t X t?? ? ? Hebb學習規(guī)則 ()Tjr f W X?學習信號： ()TjjW f W X X???權調(diào)整公式： () Ti j j i j iw f W X x o x??? ? ?權分量調(diào)整公式： 要求：使用小的隨機數(shù)初始化權值 特點：前饋、無導師學習 例 設有 4個輸入和 1個輸出的神經(jīng)網(wǎng)絡，閾值 T=0，學
環(huán)評公示相關推薦
鄂ICP備17016276號-1