【正文】 t yw f N e t x x????? ? ?? ? ???? ? ? ? ? ??? ?????????????? ? ? ???????11 iiJ ??? ???版權(quán)所有 復(fù)制必究 2022 26 選定初始加權(quán)矩陣 。 )1()( ???????? kwwJkw ijijij ??權(quán)值調(diào)節(jié)公式： 動(dòng)量因子，一般取 附加動(dòng)量法 版權(quán)所有 復(fù)制必究 2022 34 網(wǎng)絡(luò)的層數(shù) 隱含層的神經(jīng)元數(shù) 初始權(quán)值的選取 學(xué)習(xí)速率的選取 期望誤差的選取 BP網(wǎng)絡(luò)的設(shè)計(jì) 版權(quán)所有 復(fù)制必究 2022 35 理論上已經(jīng)證明 ：至少一個(gè) S型隱含層加上一個(gè)線性輸出層的網(wǎng)絡(luò)，能夠逼近任何有理函數(shù)。 BP網(wǎng)絡(luò)期望誤差的選取 版權(quán)所有 復(fù)制必究 2022 39 例 P128 BP網(wǎng)絡(luò)訓(xùn)練 多層感知器應(yīng)用實(shí)例 版權(quán)所有 復(fù)制必究 2022 40 Matlab 命令窗口輸入 “ Help 函數(shù)名” 可得到相關(guān)函數(shù)的詳細(xì)介紹； 補(bǔ)充：感知器神經(jīng)網(wǎng)絡(luò)工具箱函數(shù) 輸入 Demop1 利用具有 2個(gè)神經(jīng)元 的感知器實(shí)現(xiàn)對(duì) 5個(gè) 輸入數(shù)據(jù)的兩分類 0 . 8 0 . 6 0 . 4 0 . 2 0 0 . 2 0 . 4 0 . 61 0 . 500 . 511 . 5V e c t o r s t o b e C l a s s i f i e dP ( 1 )P(2)版權(quán)所有 復(fù)制必究 2022 41 補(bǔ)充：感知器神經(jīng)網(wǎng)絡(luò)工具箱函數(shù) 常用指令： P175 表 P180 例 % 感知器網(wǎng)絡(luò)實(shí)驗(yàn) X=[ 。學(xué)習(xí)速率的選取范圍在 。 BP學(xué)習(xí)算法的改進(jìn) 版權(quán)所有 復(fù)制必究 2022 32 準(zhǔn)則： 檢查權(quán)值的修正值是否真正降低了誤差函數(shù)，如果確實(shí)如此，則說(shuō)明所選取的學(xué)習(xí)速率值小了，可以對(duì)其增加一個(gè)量； 若不是這樣，而產(chǎn)生了過(guò)調(diào)，那么就應(yīng)該減小學(xué)習(xí)速率的值。 學(xué)習(xí)算法 多層感知器模型和學(xué)習(xí)算法 版權(quán)所有 復(fù)制必究 2022 18 神經(jīng)網(wǎng)絡(luò)W期望輸出dYpY網(wǎng)絡(luò)輸出pX輸入信號(hào)權(quán)值調(diào)整+前向計(jì)算反向計(jì)算學(xué)習(xí)算法結(jié)構(gòu)圖 多層感知器模型和學(xué)習(xí)算法 版權(quán)所有 復(fù)制必究 2022 19 ? ?????onipidip yyE1221誤差的平方和 梯度下降法 ：權(quán)值的變化與誤差梯度的下降成正比，使誤差指標(biāo)不斷減小。 nR mR說(shuō)明： (1) 激勵(lì)函數(shù)只要求連續(xù)、光滑、單增、上下有界的非線性函數(shù)即可 (2) 為簡(jiǎn)化計(jì)算，輸出層常采用線性神經(jīng)元 版權(quán)所有 復(fù)制必究 2022 17 前向傳播網(wǎng)絡(luò)實(shí)質(zhì)上表示的是一種從輸入空間到輸出空間的映射 。 影響 BP學(xué)習(xí)算法的因素 版權(quán)所有 復(fù)制必究 2022 30 非線性優(yōu)化的局部極小，或振蕩不收斂； 收斂速度很慢； 新樣本的加入會(huì)影響已學(xué)習(xí)過(guò)的老樣本。 大的學(xué)習(xí)速率可能導(dǎo)致系統(tǒng)的不穩(wěn)定。 newff 設(shè)置相關(guān)參數(shù)；見(jiàn) P189P190； P191 訓(xùn)練網(wǎng)絡(luò)； trainbpx。 能不能僅用具有非線性激活函數(shù)的單層網(wǎng)絡(luò)來(lái)解決問(wèn)題呢？結(jié)論是 ：沒(méi)有必要或效果不好。Ne t Y Ne t Z Ne t O D O?正向過(guò)程計(jì)算 。版權(quán)所有 復(fù)制必究 2022 1 第五章 典型人工神經(jīng)網(wǎng)絡(luò) 感知器 1 徑向基函數(shù)神經(jīng)網(wǎng)絡(luò) 2 Hopfield神經(jīng)網(wǎng)絡(luò) 3 版權(quán)所有 復(fù)制必究 2022 2 第 感知器 感知器模型和用途 多層感知器模型和學(xué)習(xí)算法 多層感知器應(yīng)用實(shí)例 版權(quán)所有 復(fù)制必究 2022 3 第 感知器 感知器模型和用途 多層感知器模型和學(xué)習(xí)算法 多層感知器應(yīng)用實(shí)例 版權(quán)所有 復(fù)制必究 2022 4 感知器模型和用途 ...1x y1wnw2nx2x ?1. 結(jié)構(gòu)和數(shù)學(xué)模型 1niiiN e t w x ?????神經(jīng)元輸入： 神經(jīng)元輸出： 1000N e tyN e t??? ???向量形式： 0w? ?? 0 1x ?? ?T01, , , nx x x x? ? ?T01, , , nw w w w?1000TNe t w xNe tyNe t???