【正文】 BP neural network。我想在不久的將來神經(jīng)網(wǎng)絡(luò)會應(yīng)用到更多更廣的方面，人們的生活會更加便捷。和隱層數(shù)目越多，測試得到的樣本的水平越接近于期望值。比較可知，當(dāng)隱層數(shù)目越多，則測試得到的樣本水平越接近于期望值。for i=1:3figure(i)[m(i),b(i),r(i)]=postreg(a(i,:),t(i,:))。,39。)plot(,39。平方差39。,39。)legend(39。,39。)。 39。for i=1:3figure(i)[m(i),b(i),r(i)]=postreg(a(i,:),t(i,:))。) 訓(xùn)練誤差、驗(yàn)證誤差、測試誤差曲線步驟三：輸出結(jié)果最后，對網(wǎng)絡(luò)響應(yīng)進(jìn)行分析，將所有的數(shù)據(jù)都放在整個(gè)數(shù)據(jù)集中，包括訓(xùn)練數(shù)據(jù)、驗(yàn)證數(shù)據(jù)和測試數(shù)據(jù)，然后網(wǎng)絡(luò)輸出和相應(yīng)的期望輸出向量進(jìn)行線性回歸分析。平方差39。,39。)legend(39。,39。TRAINLMcalcjx, Epoch 0/100, MSE , Gradient TRAINLMcalcjx, Epoch 5/100, MSE , Gradient TRAINLMcalcjx, Epoch 10/100, MSE , Gradient TRAINLMcalcjx, Epoch 15/100, MSE , Gradient TRAINLMcalcjx, Epoch 16/100, MSE , Gradient TRAINLM, Validation stop.可以看出，經(jīng)過20次訓(xùn)練后，由于驗(yàn)證誤差的增加，訓(xùn)練停止。)。 39。在本例中，建立一個(gè)兩層網(wǎng)絡(luò)，隱層的傳遞函數(shù)采用tansigmoid，輸出層采用線性傳遞函數(shù)。=tn(:,iitst)。iitr=[1:4:Q 3:4:Q]。將數(shù)據(jù)的1/4用于驗(yàn)證、1/4用于測試，其余的用于訓(xùn)練網(wǎng)絡(luò)。函數(shù)對歸一化后的樣本數(shù)據(jù)進(jìn)行主元分析這里剔除了一些數(shù)據(jù)，%的主要成分?jǐn)?shù)據(jù)。 % prestd共采集了264位病人的血液樣本，對其光譜分析共發(fā)現(xiàn)21種光譜波長。改變BP網(wǎng)絡(luò)隱層神經(jīng)元的數(shù)目，可以改變BP神經(jīng)網(wǎng)絡(luò)對于函數(shù)的逼近效果。 當(dāng)n=3時(shí)訓(xùn)練后網(wǎng)絡(luò)的輸出結(jié)果 當(dāng)n=6時(shí)訓(xùn)練后網(wǎng)絡(luò)的輸出結(jié)果其中 “ ” 代表要逼近的非線性函數(shù)曲線；“‥‥‥” 代表未經(jīng)訓(xùn)練的函數(shù)曲線；“―――” 代表經(jīng)過訓(xùn)練的函數(shù)曲線；（2）頻率參數(shù)設(shè)為k=4，當(dāng)隱層神經(jīng)元數(shù)目分別取n=n=8時(shí)。 不同頻率下的逼近效果改變非線性函數(shù)的頻率和BP函數(shù)隱層神經(jīng)元的數(shù)目，對于函數(shù)逼近的效果有一定的影響。)。時(shí)間39。)title(39。,p,y1,39。步驟4： 網(wǎng)絡(luò)測試對于訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行仿真：]y2=sim(net,p)。 訓(xùn)練過程=50。同時(shí)繪制網(wǎng)絡(luò)輸出曲線，并與原函數(shù)相比較。)。未訓(xùn)練網(wǎng)絡(luò)的輸出結(jié)果39。39。對于初始網(wǎng)絡(luò)，可以應(yīng)用sim（）函數(shù)觀察網(wǎng)絡(luò)輸出。purelin39。n=3。)。時(shí)間39。)；title(39。p=[1:.05:8]。要求設(shè)計(jì)一個(gè)BP網(wǎng)絡(luò)，逼近以下函數(shù)：g(x)=1+sin(k*pi/4*x)，實(shí)現(xiàn)對該非線性函數(shù)的逼近。該函數(shù)的調(diào)用格式為：[net,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai)[net,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai,VV,TV)2) traingd函數(shù)為梯度下降BP算法函數(shù)。調(diào)用格式為：A=purelin（N）info=purelin（code）其中，N：Q個(gè)S維的輸入列向量；A：函數(shù)返回值，A=N。1) logsig該傳遞函數(shù)為S型的對數(shù)函數(shù)。 2）newcf函數(shù)用于創(chuàng)建級聯(lián)前向BP網(wǎng)絡(luò)，newfftd函數(shù)用于創(chuàng)建一個(gè)存在輸入延遲的前向網(wǎng)絡(luò)。 BP網(wǎng)絡(luò)的常用函數(shù)表函數(shù)類型函數(shù)名稱函數(shù)用途前向網(wǎng)絡(luò)創(chuàng)建函數(shù)newcf創(chuàng)建級聯(lián)前向網(wǎng)絡(luò)Newff創(chuàng)建前向BP網(wǎng)絡(luò)傳遞函數(shù)logsigS型的對數(shù)函數(shù)tansigS型的正切函數(shù)purelin純線性函數(shù) 學(xué)習(xí)函數(shù)learngd基于梯度下降法的學(xué)習(xí)函數(shù)learngdm梯度下降動量學(xué)習(xí)函數(shù)性能函數(shù) mse均方誤差函數(shù)msereg均方誤差規(guī)范化函數(shù) 顯示函數(shù)plotperf繪制網(wǎng)絡(luò)的性能plotes繪制一個(gè)單獨(dú)神經(jīng)元的誤差曲面plotep繪制權(quán)值和閾值在誤差曲面上的位置errsurf計(jì)算單個(gè)神經(jīng)元的誤差曲面 BP網(wǎng)絡(luò)創(chuàng)建函數(shù)1) newff該函數(shù)用于創(chuàng)建一個(gè)BP網(wǎng)絡(luò)。這些函數(shù)的MATLAB實(shí)現(xiàn)，使得設(shè)計(jì)者對所選定網(wǎng)絡(luò)進(jìn)行計(jì)算過程，轉(zhuǎn)變?yōu)閷瘮?shù)的調(diào)用和參數(shù)的選擇，這樣一來，網(wǎng)絡(luò)設(shè)計(jì)人員可以根據(jù)自己的的需要去調(diào)用工具箱中有關(guān)的設(shè)計(jì)和訓(xùn)練程序，從煩瑣的編程中解脫出來，集中精力解決其他問題，從而提高了工作效率。它以人工神經(jīng)網(wǎng)絡(luò)理論為基礎(chǔ)，利用MATLAB編程語言構(gòu)造出許多典型神經(jīng)網(wǎng)絡(luò)的框架和相關(guān)的函數(shù)。3 BP神經(jīng)網(wǎng)絡(luò)在實(shí)例中的應(yīng)用快速發(fā)展的Matlab軟件為神經(jīng)網(wǎng)絡(luò)理論的實(shí)現(xiàn)提供了一種便利的仿真手段。尋優(yōu)的過程與初始點(diǎn)的選擇關(guān)系很大，初始點(diǎn)如果更靠近局部最優(yōu)點(diǎn)，而不是全局最優(yōu)點(diǎn)，就不會得到正確的結(jié)果，這也是多層網(wǎng)絡(luò)無法得到最優(yōu)解的一個(gè)原因。相反，學(xué)習(xí)率過小又會造成訓(xùn)練時(shí)間過長。當(dāng)然，感知器和線性神經(jīng)網(wǎng)絡(luò)能夠解決這類網(wǎng)絡(luò)問題。不過，其優(yōu)化計(jì)算存在局部極小問題，必須通過改進(jìn)完善[13]。再次，BP 神經(jīng)網(wǎng)絡(luò)對外界輸入樣本有很強(qiáng)的識別與分類能力。其次，BP神經(jīng)網(wǎng)絡(luò)具有對外界刺激和輸入信息進(jìn)行聯(lián)想記憶的能力。（3） 分類：把輸入向量所定義的合適方式進(jìn)行分類。它也是前向網(wǎng)絡(luò)的核心部分，體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)的精華。4）具有自學(xué)習(xí)、自組織、自適應(yīng)的能力。BP神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)模仿人腦，具有并行處理的特征，大大提高了網(wǎng)絡(luò)功能。人腦存儲信息的特點(diǎn)是利用突觸效能的變化來調(diào)整存儲內(nèi)容， 即信息存儲在神經(jīng)元之間的連接強(qiáng)度的分布上， B P神經(jīng)網(wǎng)絡(luò)模擬人腦的這一特點(diǎn)，使信息以連接權(quán)值的形式分布于整個(gè)網(wǎng)絡(luò)。此過程完成后， 輸入信號再次由輸入層輸入網(wǎng)絡(luò)，重復(fù)上述過程。： BP神經(jīng)網(wǎng)絡(luò)模型生物神經(jīng)元信號的傳遞是通過突觸進(jìn)行的一個(gè)復(fù)雜的電化學(xué)等過程, 在人工神經(jīng)網(wǎng)絡(luò)中是將其簡化模擬成一組數(shù)字信號通過一定的學(xué)習(xí)規(guī)則而不斷變動更新的過程，這組數(shù)字儲存在神經(jīng)元之間的連接權(quán)重。然后按減小希望輸出與實(shí)際輸出誤差的方向，從輸出層經(jīng)各中間層逐層修正各連接權(quán)，回到輸入層。綜上，可知神經(jīng)網(wǎng)絡(luò)有分層網(wǎng)絡(luò)、層內(nèi)連接的分層網(wǎng)絡(luò)、反饋連接的分層網(wǎng)絡(luò)、互連網(wǎng)絡(luò)等四種結(jié)構(gòu)，其神經(jīng)網(wǎng)絡(luò)模型有感知器網(wǎng)絡(luò)，線性神經(jīng)網(wǎng)絡(luò)，BP神經(jīng)網(wǎng)絡(luò)，徑向基函數(shù)網(wǎng)絡(luò)，反饋神經(jīng)網(wǎng)絡(luò)等，本文主要學(xué)習(xí)研究了BP神經(jīng)網(wǎng)絡(luò)，以及BP神經(jīng)網(wǎng)絡(luò)在函數(shù)逼近和樣本含量估計(jì)兩個(gè)實(shí)例中的應(yīng)用分析。在無反饋的前向網(wǎng)絡(luò)中，信號一旦通過某神經(jīng)元，該神經(jīng)元的處理就結(jié)束了。這樣可以限制每層內(nèi)可以同時(shí)動作的神經(jīng)元素，或者把每層內(nèi)的神經(jīng)元分為若干組，讓每一組作為一個(gè)整體進(jìn)行運(yùn)作。輸入模式經(jīng)過各層次的順序傳播，最后在輸出層上得到輸出。神經(jīng)元的模型確定之后，一個(gè)神經(jīng)網(wǎng)絡(luò)的特性及能力主要取決于網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)及學(xué)習(xí)方法。 生物神經(jīng)元從神經(jīng)元各組成部分的功能來看，信息的處理與傳遞主要發(fā)生在突觸附近。 生物神經(jīng)元人腦大約由1012個(gè)神經(jīng)元組成，神經(jīng)元互相連接成神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)和識別取決于各種神經(jīng)元連接權(quán)系數(shù)的動態(tài)演化過程。神經(jīng)網(wǎng)絡(luò)是由大量的處理單元（神經(jīng)元）互相連接而成的網(wǎng)絡(luò)。2 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及BP神經(jīng)網(wǎng)絡(luò) 神經(jīng)元與網(wǎng)絡(luò)結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)（artificial neural network，ANN）是模仿生物神經(jīng)網(wǎng)絡(luò)功能的一種經(jīng)驗(yàn)?zāi)Ｐ?。?）通信。（2）控制和優(yōu)化。在微機(jī)飛速發(fā)展的今天，很多都已不能滿足發(fā)展的需要。當(dāng)前存在的問題是智能水平還不高，許多應(yīng)用方面的要求還不能得到很好的滿足；網(wǎng)絡(luò)分析與綜合的一些理論性問題還未得到很好的解決。（3）網(wǎng)絡(luò)模型與算法研究：在理論模型研究的基礎(chǔ)上構(gòu)成具體的神經(jīng)網(wǎng)絡(luò)模型，以實(shí)現(xiàn)計(jì)算機(jī)模擬或準(zhǔn)備制作硬件，包括網(wǎng)絡(luò)學(xué)習(xí)算法的研究。4）進(jìn)一步對生物神經(jīng)系統(tǒng)進(jìn)行研究，不斷地豐富對人腦的認(rèn)識。 神經(jīng)網(wǎng)絡(luò)的現(xiàn)狀進(jìn)入20世紀(jì)90年代以來，神經(jīng)網(wǎng)絡(luò)由于應(yīng)用面還不夠?qū)?，結(jié)果不夠精確，存在可