人工神經網絡講ppt課件(編輯修改稿)
2025-02-01 05:06 本頁面
【文章內容簡介】 成網絡中的各個神經元都可能相互雙相聯接，所有的神經元即作輸入，同時也用輸出。這種網絡如果在某一時刻從外部加一個輸入信號，各個神經元一邊相互作用，一邊進行信息處理，直到收斂于某個穩(wěn)定值為止。 第四種：混合型網絡 前面所講的前饋網絡和上述的相互結合型網絡分別是典型的層狀解構網絡和網狀結構網絡，介于兩種網絡中間的一種連接方式，如圖所示：它是在前饋網絡的同一層間各神經元又有互聯的結構，所以稱為混合型網絡。這種在同一層內互聯的目的是為了限制同層內神經元同時興奮或抑制的數目，已完成特定功能。例如：視網膜的神經元網絡就有許多這種連接形式。 學習是神經系統的本能，人的神經系統是最發(fā)達的，所以人的學習能力也最強。模仿人的學習過程人們提出多種神經網絡的學習方法。 ?有教師學習 ?無教師學習 神經網絡的學習過程 ： 211()QMkj k jkjyyEMQ??????關于綜合誤差有各種不同的定義，但本質上都是一致的。這里介紹兩種： 第一種：均方根標準誤差（ Rootmeansquare normalized error, RMS誤差 ） 式中： —— 模式 k第 j個輸出單元的期望值； —— 模式 k第 j個輸出單元的實際值； M—— 樣本模式對個數； Q—— 輸出單元個數。 kjykjy第二種：誤差平方和 式中： M—— 樣本模式對個數； Q—— 輸出單元個數。 2111()2Qkk j k jjMkkE y yEE???????神經元網絡的學習規(guī)則 ? 神經元網絡的最大特點就是它具有 學習的能力 ，在學習過程中，主要是網絡的連接權的值產生了相應的變化，學習到的內容也是記憶在連接權之中。 ( , , )iir r W X d??令為 Wij第 i個神經元的第 j個輸入連接權，這個輸入可以是外來的輸入信號，也可以試來自其他神經元的輸出。學習信號 r是 Wi和 X的函數，有時也包括教師信號 di，所以有 ?權矢量的變化是由學習步驟按時間 t， t+1， …，一步一步進行計算的。在時刻 t連接權的變化量為： ( ) [ ( ) , ( ) , ( ) ] ( )i i i iW t c r W t X t d t X t??其中 c是一個正數，稱為學習常數，決定學習的速率。 神經元網絡的學習規(guī)則 離散學習步驟可寫成： 1 [ , , ]k k k k k ki i i iW W c r W X d X? ??( 1 ) ( ) [ ( ) , ( ) , ( ) ] ( )i i i i iW t W t c r W t X t d t X t? ? ?從時刻 t到下一個時刻（ t+1），連接權按下式計算 : 其中 c是一個正的常數，稱為學習常數，決定學習的速率。 Hebb學習規(guī)則 權分量用下式調整： 或 abW ab??()()TiTiir f W XW cf W X X??()Tij i jW c f W X X??( 1 , 2 , , )ij i jW c O X j n? ? ?當兩個神經元同時興奮時，突觸的傳遞效率加強，那么在人工神經網絡中就表現為連接權的增加。以 a表示神經元 A的激活值（輸出）， b表示神經元 B的激活值， Wab表示兩個神經元的連接權，則 Hebb學習規(guī)則的數學表達式為： 根據 Hebb學習規(guī)則，學習信號 r等于神經元的輸出： 感知機（ Perceptron）學習規(guī)則 這一規(guī)則是有監(jiān)督學習，學習信號是期望值與神經元實際響應之差學習規(guī)則如下圖所示。 sgn ( )[ sgn ( ) ][ sgn ( ) ] ( 1 , 2 , , )iiTiiTi i ijTi i i jr d OO W XW c d W X XW c d W X X j n??? ? ?? ? ? ?注意：這個規(guī)則僅能用于雙極二進制神經響應。 感知機（ Perceptron）學習規(guī)則 在這一規(guī)則下， Oi僅當不正確的情況下才進行權調整，誤差是學習的必要條件。由于期望值（ di）與響應值（ Oi ）均為 +1或者 1，所以權調整量為： 2iW cX? ? ?1 sgn( ) 1Tiid W X? ? ?，1 sg n ( ) 1Tiid W X? ? ? ?，s gn ( )Tiid W X?這里“＋”號， “－”號， 當 權值無變化。初始權可為任意值。 Delta學習規(guī)則 僅對連續(xù)激活函數，并只對有監(jiān)督學習模型有效。 學習信號為： [ ( ) ] 39。( )TTi i ir d f W X f W X?39。( ) ( )TTiif W X f ne t ne t W X?是 激 活 函 數 對 的 導 數221 ()21 [ ( ) ]2iiTiiE d OE d f W X??21 ( ) 39。(
教學課件相關推薦
鄂ICP備17016276號-1