【正文】 ??? mlqkpi ???閾值向量 ? ? kk zN e tf ?2? ? ii yN e tf ?1? ? ll oN e tf ?3非線性作用函數（激活函數） 期望輸出 ? ? .,21 mT dddD ??版權所有 復制必究 2022 22 。 學習方式 : 增量型 學習方法效果好； 累積型 學習方法速度快。 調整公式： ???????????其它)()()1()()()1()()1(kkJkJkkJkJkk????自適應變學習率方法 版權所有 復制必究 2022 33 在修正其權值時，不僅考慮誤差在梯度上的作用，而且考慮在誤差曲面上變化趨勢的影響。這在結構實現上，要比增加更多的隱含層要簡單得多。 BP網絡學習速率的選取 版權所有 復制必究 2022 38 在設計網絡的訓練過程中，期望誤差值也應當通過對比訓練后確定一個合適的值。sim 輸入測試數據； 查看仿真結果； simuff。 一般情況下，作為對比，可以同時對兩個不同期望誤差值的網絡進行訓練，最后通過綜合因素的考慮來確定采用其中一個網絡。 BP網絡隱含層的神經元數 初始權值的選取 一般取初始權值在 (1， 1)之間的隨機數。 該方法是在反向傳播法的基礎上，在每一個權值的變化上加上一項正比于前次權值變化量的值，并根據反向傳播法來產生新的權值變化。可通過調節(jié) Sigmoid函數的斜率或采用其它激勵函數來改善網絡的學習性能。,2,1 pinj ?? ??第一隱層輸出： ? ????????? ???? ??1111injjijii xwfNe tfy ?學習算法（續(xù)） ? ? ???????? ???? ??2122kpiikikk ywfNe tfz ?第二隱層輸出： 1 , 2 , ,kq?1 , 2 , ,lm?? ? ???????? ???? ??3133lqkklkll zwfNe tfo ?輸出層輸出： 版權所有 復制必究 2022 23 ? ? 2112mlllJ d o????第一步：計算梯度 :,33 JJW ???klkllllklllllklllkzzN e tfodwN e tN e tooJwN e tN e tJwJ3339。 隱含單元既可以與輸入輸出單元相連，也可以與其它隱含單元相連。 ?單層感知機找不到相應的權重來實現 XOR邏輯 ?單層感知機不具備非線性分類能力！ 版權所有 復制必究 2022 11 第 感知器 感知器模型和用途 多層感知器模型和學習算法 多層感知器應用實例 版權所有 復制必究 2022 12 結構特征： 在輸入層和輸出層之間嵌入一層或多層隱含層。,2,1。 激勵函數： 非減可微函數。利用附加動量的作用則有可能滑過局部極小值。 在具體設計時，比較實際的做法是通過對不同神經元數進行訓練對比，然后適當地加上一點余量。 這個所謂的“合適”，是相對于所需要的隱含層的節(jié)點數來確定，因為較小的期望誤差值是要靠增加隱含層的節(jié)點，以及訓練時間來獲得的。sim 版權所有 復制必究 2022 44 狀態(tài)轉換器?)()(1kekx ?)()(2kekx ??)()(23kekx ??)(1kw)(2kw)(3kw)( ku?Plan t)1( ?ku++Super v ise d Hebb Le a rning Rule)( ku1?Z)( kr )( ke )( ky－K????????????????????????????????)()()()()1()()()()()1()()()()()1(|)(|)()()()1()(3332221113131kxkukzkwkwkxkukzkwkwkxkukzkwkwkwkwwkxkwKkukuDPIiiiiiii??? )()()(1 kzkekx ??)1()()()(2 ????? kekekekx)2()1(2)()()( 23 ??????? kekekekekx單神經元 PID控制