bp神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)實(shí)例(matlab編程)-資料下載頁(yè)
【導(dǎo)讀】例1采用動(dòng)量梯度下降算法訓(xùn)練BP網(wǎng)絡(luò)。例2采用貝葉斯正則化算法提高BP網(wǎng)絡(luò)的推廣能力。在本例中，我們采用兩種訓(xùn)練方法，即L-M優(yōu)?；惴ê拓惾~斯正則化算法，用以訓(xùn)練BP網(wǎng)絡(luò)，使其能夠擬合某一附加有白噪。聲的正弦樣本數(shù)據(jù)。曲線，虛線代表不含白噪聲的正弦曲線，“＋”點(diǎn)為含有白噪聲的正弦樣本數(shù)據(jù)點(diǎn)。數(shù)訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)對(duì)樣本數(shù)據(jù)點(diǎn)實(shí)現(xiàn)了“過(guò)度匹配”，而經(jīng)trainbr函數(shù)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)對(duì)噪聲不敏感，值得指出的是，在利用trainbr函數(shù)訓(xùn)練BP網(wǎng)絡(luò)時(shí)，若訓(xùn)練結(jié)果收斂，通常會(huì)給出提示信息“Maximu. 此外，用戶還可以根據(jù)SSE和SSW的大小變化情況來(lái)判斷訓(xùn)練是否收斂：當(dāng)S. SE和SSW的值在經(jīng)過(guò)若干步迭代后處于恒值時(shí)，則通常說(shuō)明網(wǎng)絡(luò)訓(xùn)練收斂，此時(shí)可以停止訓(xùn)練。SE和SSW均為恒值，當(dāng)前有效網(wǎng)絡(luò)的參數(shù)個(gè)數(shù)為。在本例中，我們只定義并使用驗(yàn)證樣本，即有。法traingdx函數(shù)作為訓(xùn)練函數(shù)。
【正文】 ，下面對(duì)訓(xùn)練結(jié)果作進(jìn)一步仿真分析。利用 postreg 函數(shù)可以對(duì)網(wǎng)絡(luò)仿真的輸出結(jié)果和目標(biāo)輸出作線性回歸分析，并得到兩者的相關(guān)系數(shù)，從而可以作為網(wǎng)絡(luò)訓(xùn)練結(jié)果優(yōu)劣的判別依據(jù)。仿真與線性回歸分析如下： an = sim(,ptrans)。 a = poststd(an,meant,stdt)。 for i=1:3 figure(i) [m(i),b(i),r(i)] = postreg(a(i,:),t(i,:))。 end %導(dǎo)入原始測(cè)量數(shù)據(jù) load choles_all。 %對(duì)原始數(shù)據(jù)進(jìn)行 規(guī)范化處理 ,prestd是對(duì)輸入數(shù)據(jù)和輸出數(shù)據(jù)進(jìn)行規(guī)范化處理， %prepca可以刪除一些數(shù)據(jù)，適當(dāng)?shù)乇Ａ袅俗兓恍∮? [pn,meanp,stdp,tn,meant,stdt]=prestd(p,t)。 [ptrans,transMat]=prepca(pn,)。 [R,Q]=size(ptrans) %將原始數(shù)據(jù)分成幾個(gè)部分作為不同用途四分已用于確證，四分一用于測(cè)試，二分一用于訓(xùn)練網(wǎng)絡(luò) iitst=2:4:Q。 第 8 頁(yè) 共 8 頁(yè) iival=4:4:Q。 iitr=[1:4:Q 3:4:Q]。 %vv是確證向量， .P是輸入， .T是輸出， vt是測(cè)試向量 =ptrans(:,iival)。 =tn(:,iival)。 =ptrans(:,iitst)。 =tn(:,iitst)。 ptr=ptrans(:,iitr)。 ttr=tn(:,iitr)。 %建立網(wǎng)絡(luò)，隱層中設(shè)計(jì) 5個(gè)神經(jīng)元，由于需要得到的是 3個(gè)目標(biāo)，所以網(wǎng)絡(luò)需要有 3個(gè)輸出 =newff(minmax(ptr),[5 3],{39。tansig39。 39。purelin39。},39。trainlm39。)。 %訓(xùn)練網(wǎng)絡(luò) =5。 [,tr]=train(,ptr,ttr,[],[],vv,vt)。 %繪出訓(xùn)練過(guò)程中各誤差的變化曲線 plot(,39。r39。,39。:g39。,39。39。)。 legend(39。訓(xùn)練 39。,39。確證 39。,39。測(cè)試 39。,1)。 ylabel(39。平方誤差 39。)。 xlabel(39。時(shí)間 39。)。 pause。 %將所有數(shù)據(jù)通過(guò)網(wǎng)絡(luò)（包括訓(xùn)練，確證，測(cè)試），然后得到網(wǎng)絡(luò)輸出和相應(yīng)目 標(biāo)進(jìn)行線性回歸， %對(duì)網(wǎng)絡(luò)輸出進(jìn)行反規(guī)范化變換，并繪出個(gè)各級(jí)別的線性回歸結(jié)果曲線 an=sim(,ptrans)。 a=poststd(an,meant,stdt)。 %得到 3組輸出，所以進(jìn)行 3次線性回歸 for i=1:3 figure(i) [m(i),b(i),r(i)] = postreg(a(i,:),t(i,:))。 end 網(wǎng)絡(luò)輸出數(shù)據(jù)和目標(biāo)數(shù)據(jù)作線性回歸后，前面兩個(gè)輸出對(duì)目標(biāo)的跟蹤比較好，相應(yīng)的 R值接近 。而第三個(gè)輸出卻并不理想，我們很可能需要在這點(diǎn)上做更多工作?？赡苄枰褂闷渌木W(wǎng)絡(luò)結(jié)構(gòu)（使用更多的隱層神經(jīng)元），或者是在訓(xùn)練技術(shù)上使用貝頁(yè)斯規(guī)范華而不實(shí)使用早停的方法。 把隱層數(shù)目改為 20個(gè)時(shí)，網(wǎng)絡(luò)訓(xùn)練的 3種誤差非常接近，得到的結(jié)果 R也相應(yīng)提高。但不代表神經(jīng)元越多就越精確。 多層神經(jīng)網(wǎng)絡(luò)能夠?qū)θ我獾木€性或者非線性函 數(shù)進(jìn)行逼近，其精度也是任意的。但是 BP 網(wǎng)絡(luò)不一定能找到解。訓(xùn)練時(shí)，學(xué)習(xí)速率太快可能引起不穩(wěn)定，太慢則要花費(fèi)太多時(shí)間，不同的訓(xùn)練算法也對(duì)網(wǎng)絡(luò)的性能有很大影響。 BP 網(wǎng)絡(luò)對(duì)隱層的神經(jīng)元數(shù)目也是很敏感的，太少則很難適應(yīng)，太多則可能設(shè)計(jì)出超適應(yīng)網(wǎng)絡(luò)。
鄂ICP備17016276號(hào)-1