典型人工神經網絡b(文件)
【正文】 連續(xù)映射。 ? 通過學習（權重），它能夠正確地分類樣本（二分類），但只能線性分類。 ifif00??uuy單一人工神經元 —— 單層感知機 版權所有 復制必究 2022 8 ∧ 0 0 0 0 1 0 1 0 0 1 1 1 ∨ 0 0 0 0 1 1 1 0 1 1 1 1 1x 2x 02211 ??? ?xwxw000 21 ??? ?ww010 21 ??? ?ww001 21 ??? ?ww011 21 ??? ?ww1x 2x121????ww02211 ??? ?xwxw000 21 ??? ?ww010 21 ??? ?ww001 21 ??? ?ww011 21 ??? ?ww1x 2x2x1x與 邏 輯 或 邏 輯 分類能力分析 121????ww版權所有 復制必究 2022 9 1x ⊕ 0 0 0 0 1 1 1 0 1 1 1 0 1x2x02211 ??? ?xwxw000 21 ??? ?ww010 21 ??? ?ww001 21 ??? ?ww011 21 ??? ?ww2x1x2x1x?????????21120wwww異 或 邏 輯 2x 2x1xand or xor 02211 ??? ?xwxw版權所有 復制必究 2022 10 單層感知機 通過適當?shù)倪x擇權重，單層感知機能夠實現(xiàn)and, or, not布爾邏輯。 nR mR說明： (1) 激勵函數(shù)只要求連續(xù)、光滑、單增、上下有界的非線性函數(shù)即可 (2) 為簡化計算，輸出層常采用線性神經元 版權所有 復制必究 2022 17 前向傳播網絡實質上表示的是一種從輸入空間到輸出空間的映射 。 WJW????? ?? ?? ??? ?????NpnipidiNppoyyEJ1 11?正定的、可微的凸函數(shù) N個樣本 性能指標 版權所有 復制必究 2022 20 … … … x1 x2 xn o1 o2 om 3lkwp q1ijw3l?1i?n m2k?2kiwiy kzj i k l… … 學習算法 版權所有 復制必究 2022 21 學習算法（續(xù)） ? ?nT xxxX , 21 ??? ?mT oooO , 21 ??神經網絡輸入 神經網絡輸出 ? ?pT yyyY , 21 ?? ? ?qT zzzZ , 21 ??隱層輸出 ? ? ? ? ? ? qmlkpqkinpij ??? 321 ,加權矩陣 ? ? ? ? ? ? 131211 , ??? mlqkpi ???閾值向量 ? ? kk zN e tf ?2? ? ii yN e tf ?1? ? ll oN e tf ?3非線性作用函數(shù)（激活函數(shù)） 期望輸出 ? ? .,21 mT dddD ??版權所有 復制必究 2022 22 。, 321 WWW 一般給一組較小的隨機數(shù)。 學習方式 : 增量型 學習方法效果好； 累積型 學習方法速度快。 影響 BP學習算法的因素 版權所有 復制必究 2022 30 非線性優(yōu)化的局部極小，或振蕩不收斂； 收斂速度很慢； 新樣本的加入會影響已學習過的老樣本。 調整公式： ???????????其它)()()1()()()1()()1(kkJkJkkJkJkk????自適應變學習率方法 版權所有 復制必究 2022 33 在修正其權值時，不僅考慮誤差在梯度上的作用，而且考慮在誤差曲面上變化趨勢的影響。 增加層數(shù)主要可以更進一步的降低誤差，提高精度，但同時也使網絡復雜化，從而增加了網絡權值的訓練時間。這在結構實現(xiàn)上，要比增加更多的隱含層要簡單得多。 大的學習速率可能導致系統(tǒng)的不穩(wěn)定。 BP網絡學習速率的選取 版權所有 復制必究 2022 38 在設計網絡的訓練過程中，期望誤差值也應當通過對比訓練后確定一個合適的值。 1 ] T=[1 1 0 1 1 0 1 0] [w,b]=initp(X,T) [w,b,epochs,erros]=trainp(w,b,X,T)
教學課件相關推薦
鄂ICP備17016276號-1