線性判別函數(shù)人工神經(jīng)元網(wǎng)絡(luò)模型-預(yù)覽頁(yè)
【正文】 傳遞規(guī)則 （ ∑ wijoi） ； （ 6） 把處理單元的輸入及當(dāng)前狀態(tài)結(jié)合起來產(chǎn)生激活值的 激活規(guī)則 （ Fi） ； （ 7） 通過經(jīng)驗(yàn)修改聯(lián)接強(qiáng)度的 學(xué)習(xí)規(guī)則 ； （ 8） 系統(tǒng)運(yùn)行的環(huán)境 （ 樣本 集合 ） 。 J. McClelland David Rumelhart 1 BP神經(jīng)網(wǎng)絡(luò)模型 ?(1) 三層 BP網(wǎng)絡(luò)結(jié)構(gòu) 1 BP神經(jīng)網(wǎng)絡(luò)模型 ?（ 2）激活函數(shù) ?必須處處可導(dǎo) 一般都使用 S型函數(shù) ?（ 3）使用 S型激活函數(shù)時(shí) BP網(wǎng)絡(luò)輸入與輸出關(guān)系 ?輸入 ?輸出 1 1 2 2 ... nnn e t x w x w x w? ? ? ?1f ( )1e n e ty n e t ??? ?1 BP神經(jīng)網(wǎng)絡(luò)模型 ?（ 4）輸出的導(dǎo)數(shù) 211f 39。 ?隱含層輸入向量； ?隱含層輸出向量 。 ? ?12, , , nx x x?x? ?12, , , ph i h i h i?hi? ?12, , , pho ho ho?ho? ?12, , , qy i y i y i?yi? ?12, , , qyo yo yo?yo? ?12, , , qd d d?od2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?輸入層與中間層的連接權(quán)值 : ?隱含層與輸出層的連接權(quán)值 : ?隱含層各神經(jīng)元的閾值 : ?輸出層各神經(jīng)元的閾值 : ?樣本數(shù)據(jù)個(gè)數(shù) : ?激活函數(shù) : ?誤差函數(shù)： ihwf()?howhb1 , 2 ,km?ob211 ( ( ) ( ) )2qoooe d k y o k????2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?(10)標(biāo)準(zhǔn)學(xué)習(xí)算法的主要步驟 ?第一步，網(wǎng)絡(luò)初始化 ?給各連接權(quán)值分別賦一個(gè)區(qū)間（ 1， 1）內(nèi)的隨機(jī)數(shù)，設(shè)定誤差函數(shù) e，給定計(jì)算精度值 和最大學(xué)習(xí)次數(shù) M。 1( ) ( ) ( )( ) ( )h o o hhoNNh o h o o hew k k h o kww w k h o k? ? ?????? ? ? ????()o k?()howk2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?第七步，利用隱含層各神經(jīng)元的 和輸入層各神經(jīng)元的輸入修正連接權(quán)。 2111 ( ( ) ( ) )2qmookoE d k y km ??????2 BP網(wǎng)絡(luò)的標(biāo)準(zhǔn)學(xué)習(xí)算法 ?（ 11） BP算法直觀解釋 ?情況一直觀表達(dá) 當(dāng)誤差對(duì)權(quán)值的偏 導(dǎo)數(shù)大于零時(shí)，權(quán)值 調(diào)整量為負(fù)，實(shí)際輸 出大于期望輸出， 權(quán)值向減少方向調(diào)整， 使得實(shí)際輸出與期望 輸出的差減少。tansig39。learngdm39。它是可導(dǎo)函數(shù)，適用于 BP訓(xùn)練的神經(jīng)元。 月份 1 2 3 4 5 6 銷量 2056 2395 2600 2298 1634 1600 月份 7 8 9 10 11 12 銷量 1873 1478 1900 1500 2046 1556 數(shù)據(jù)標(biāo)準(zhǔn)化： X=(xmin)/(maxmin) 3 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法的 MATLAB實(shí)現(xiàn) ?%以每三個(gè)月的銷售量經(jīng)歸一化處理后作為輸入 ?P=[ 。 。 ?%創(chuàng)建一個(gè) BP神經(jīng)網(wǎng)絡(luò)，每一個(gè)輸入向量的取值范圍為 [0 ,1]，隱含層有 5個(gè)神經(jīng)元，輸出層有一個(gè)神經(jīng)元，隱含層的激活函數(shù)為 tansig，輸出層的激活函數(shù)為 %logsig，訓(xùn)練函數(shù)為梯度下降函數(shù)，即 算法 ?=newff([0 1。,39。)。 ?=train(,P,T)。這種能力稱為泛化能力。 ?缺點(diǎn)： （ 1）該學(xué)習(xí)算法的收斂速度慢；（ 2）網(wǎng)絡(luò)中隱節(jié)點(diǎn)個(gè)數(shù)的選取尚無理論上的指導(dǎo)；（ 3）從數(shù)學(xué)角度看， BP算法是一種梯度最速下降法，這就可能出現(xiàn)局部極小
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1