典型人工神經(jīng)網(wǎng)絡(luò)b(更新版)
【正文】 ??? mlqkpi ???閾值向量 ? ? kk zN e tf ?2? ? ii yN e tf ?1? ? ll oN e tf ?3非線性作用函數(shù)（激活函數(shù)） 期望輸出 ? ? .,21 mT dddD ??版權(quán)所有 復(fù)制必究 2022 22 。 學(xué)習(xí)方式 : 增量型 學(xué)習(xí)方法效果好； 累積型 學(xué)習(xí)方法速度快。 調(diào)整公式： ???????????其它)()()1()()()1()()1(kkJkJkkJkJkk????自適應(yīng)變學(xué)習(xí)率方法 版權(quán)所有 復(fù)制必究 2022 33 在修正其權(quán)值時(shí)，不僅考慮誤差在梯度上的作用，而且考慮在誤差曲面上變化趨勢(shì)的影響。這在結(jié)構(gòu)實(shí)現(xiàn)上，要比增加更多的隱含層要簡(jiǎn)單得多。 BP網(wǎng)絡(luò)學(xué)習(xí)速率的選取 版權(quán)所有 復(fù)制必究 2022 38 在設(shè)計(jì)網(wǎng)絡(luò)的訓(xùn)練過(guò)程中，期望誤差值也應(yīng)當(dāng)通過(guò)對(duì)比訓(xùn)練后確定一個(gè)合適的值。sim 輸入測(cè)試數(shù)據(jù)； 查看仿真結(jié)果； simuff。 一般情況下，作為對(duì)比，可以同時(shí)對(duì)兩個(gè)不同期望誤差值的網(wǎng)絡(luò)進(jìn)行訓(xùn)練，最后通過(guò)綜合因素的考慮來(lái)確定采用其中一個(gè)網(wǎng)絡(luò)。 BP網(wǎng)絡(luò)隱含層的神經(jīng)元數(shù) 初始權(quán)值的選取 一般取初始權(quán)值在 (1， 1)之間的隨機(jī)數(shù)。 該方法是在反向傳播法的基礎(chǔ)上，在每一個(gè)權(quán)值的變化上加上一項(xiàng)正比于前次權(quán)值變化量的值，并根據(jù)反向傳播法來(lái)產(chǎn)生新的權(quán)值變化?？赏ㄟ^(guò)調(diào)節(jié) Sigmoid函數(shù)的斜率或采用其它激勵(lì)函數(shù)來(lái)改善網(wǎng)絡(luò)的學(xué)習(xí)性能。,2,1 pinj ?? ??第一隱層輸出： ? ????????? ???? ??1111injjijii xwfNe tfy ?學(xué)習(xí)算法（續(xù)） ? ? ???????? ???? ??2122kpiikikk ywfNe tfz ?第二隱層輸出： 1 , 2 , ,kq?1 , 2 , ,lm?? ? ???????? ???? ??3133lqkklkll zwfNe tfo ?輸出層輸出： 版權(quán)所有 復(fù)制必究 2022 23 ? ? 2112mlllJ d o????第一步：計(jì)算梯度 :,33 JJW ???klkllllklllllklllkzzN e tfodwN e tN e tooJwN e tN e tJwJ3339。 隱含單元既可以與輸入輸出單元相連，也可以與其它隱含單元相連。 ?單層感知機(jī)找不到相應(yīng)的權(quán)重來(lái)實(shí)現(xiàn) XOR邏輯 ?單層感知機(jī)不具備非線性分類(lèi)能力！ 版權(quán)所有 復(fù)制必究 2022 11 第 感知器 感知器模型和用途 多層感知器模型和學(xué)習(xí)算法 多層感知器應(yīng)用實(shí)例 版權(quán)所有 復(fù)制必究 2022 12 結(jié)構(gòu)特征： 在輸入層和輸出層之間嵌入一層或多層隱含層。,2,1。 激勵(lì)函數(shù)： 非減可微函數(shù)。利用附加動(dòng)量的作用則有可能滑過(guò)局部極小值。 在具體設(shè)計(jì)時(shí)，比較實(shí)際的做法是通過(guò)對(duì)不同神經(jīng)元數(shù)進(jìn)行訓(xùn)練對(duì)比，然后適當(dāng)?shù)丶由弦稽c(diǎn)余量。 這個(gè)所謂的“合適”，是相對(duì)于所需要的隱含層的節(jié)點(diǎn)數(shù)來(lái)確定，因?yàn)檩^小的期望誤差值是要靠增加隱含層的節(jié)點(diǎn)，以及訓(xùn)練時(shí)間來(lái)獲得的。sim 版權(quán)所有 復(fù)制必究 2022 44 狀態(tài)轉(zhuǎn)換器?)()(1kekx ?)()(2kekx ??)()(23kekx ??)(1kw)(2kw)(3kw)( ku?Plan t)1( ?ku++Super v ise d Hebb Le a rning Rule)( ku1?Z)( kr )( ke )( ky－K????????????????????????????????)()()()()1()()()()()1()()()()()1(|)(|)()()()1()(3332221113131kxkukzkwkwkxkukzkwkwkxkukzkwkwkwkwwkxkwKkukuDPIiiiiiii??? )()()(1 kzkekx ??)1()()()(2 ????? kekekekx)2()1(2)()()( 23 ??????? kekekekekx單神經(jīng)元 PID控制
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1