【正文】 t yw f N e t x x????? ? ?? ? ???? ? ? ? ? ??? ?????????????? ? ? ???????11 iiJ ??? ???版權所有 復制必究 2022 26 選定初始加權矩陣 。 )1()( ???????? kwwJkw ijijij ??權值調節(jié)公式： 動量因子，一般取 附加動量法 版權所有 復制必究 2022 34 網絡的層數(shù) 隱含層的神經元數(shù) 初始權值的選取 學習速率的選取 期望誤差的選取 BP網絡的設計 版權所有 復制必究 2022 35 理論上已經證明 ：至少一個 S型隱含層加上一個線性輸出層的網絡，能夠逼近任何有理函數(shù)。 BP網絡期望誤差的選取 版權所有 復制必究 2022 39 例 P128 BP網絡訓練 多層感知器應用實例 版權所有 復制必究 2022 40 Matlab 命令窗口輸入 “ Help 函數(shù)名” 可得到相關函數(shù)的詳細介紹； 補充：感知器神經網絡工具箱函數(shù) 輸入 Demop1 利用具有 2個神經元 的感知器實現(xiàn)對 5個 輸入數(shù)據(jù)的兩分類 0 . 8 0 . 6 0 . 4 0 . 2 0 0 . 2 0 . 4 0 . 61 0 . 500 . 511 . 5V e c t o r s t o b e C l a s s i f i e dP ( 1 )P(2)版權所有 復制必究 2022 41 補充：感知器神經網絡工具箱函數(shù) 常用指令： P175 表 P180 例 % 感知器網絡實驗 X=[ 。學習速率的選取范圍在 。 BP學習算法的改進 版權所有 復制必究 2022 32 準則： 檢查權值的修正值是否真正降低了誤差函數(shù)，如果確實如此，則說明所選取的學習速率值小了，可以對其增加一個量； 若不是這樣，而產生了過調，那么就應該減小學習速率的值。 學習算法 多層感知器模型和學習算法 版權所有 復制必究 2022 18 神經網絡W期望輸出dYpY網絡輸出pX輸入信號權值調整+前向計算反向計算學習算法結構圖 多層感知器模型和學習算法 版權所有 復制必究 2022 19 ? ?????onipidip yyE1221誤差的平方和 梯度下降法 ：權值的變化與誤差梯度的下降成正比，使誤差指標不斷減小。 nR mR說明： (1) 激勵函數(shù)只要求連續(xù)、光滑、單增、上下有界的非線性函數(shù)即可 (2) 為簡化計算，輸出層常采用線性神經元 版權所有 復制必究 2022 17 前向傳播網絡實質上表示的是一種從輸入空間到輸出空間的映射 。 影響 BP學習算法的因素 版權所有 復制必究 2022 30 非線性優(yōu)化的局部極小，或振蕩不收斂； 收斂速度很慢； 新樣本的加入會影響已學習過的老樣本。 大的學習速率可能導致系統(tǒng)的不穩(wěn)定。 newff 設置相關參數(shù)；見 P189P190； P191 訓練網絡； trainbpx。 能不能僅用具有非線性激活函數(shù)的單層網絡來解決問題呢？結論是 ：沒有必要或效果不好。Ne t Y Ne t Z Ne t O D O?正向過程計算 。版權所有 復制必究 2022 1 第五章 典型人工神經網絡 感知器 1 徑向基函數(shù)神經網絡 2 Hopfield神經網絡 3 版權所有 復制必究 2022 2 第 感知器 感知器模型和用途 多層感知器模型和學習算法 多層感知器應用實例 版權所有 復制必究 2022 3 第 感知器 感知器模型和用途 多層感知器模型和學習算法 多層感知器應用實例 版權所有 復制必究 2022 4 感知器模型和用途 ...1x y1wnw2nx2x ?1. 結構和數(shù)學模型 1niiiN e t w x ?????神經元輸入： 神經元輸出： 1000N e tyN e t??? ???向量形式： 0w? ?? 0 1x ?? ?T01, , , nx x x x? ? ?T01, , , nw w w w?1000TNe t w xNe tyNe t???