【正文】 參數(shù)設(shè)為k=8，當(dāng)隱層神經(jīng)元數(shù)目分別取n=n=15時。（1）頻率參數(shù)設(shè)為k=2，當(dāng)隱層神經(jīng)元數(shù)目分別取n=n=6時。網(wǎng)絡(luò)非線性程度越高，對于BP網(wǎng)絡(luò)的要求越高，則相同的網(wǎng)絡(luò)逼近效果要差一些；隱層神經(jīng)元的數(shù)目對于網(wǎng)絡(luò)逼近效果也有一定影響，一般來說隱層神經(jīng)元數(shù)目越多，則BP網(wǎng)絡(luò)逼近非線性函數(shù)的能力越強(qiáng)。這說明經(jīng)過訓(xùn)練后，BP網(wǎng)絡(luò)對非線性函數(shù)的逼近效果比較好。繪制網(wǎng)絡(luò)輸出曲線，并與原始非線性函數(shù)曲線以及未訓(xùn)練網(wǎng)絡(luò)的輸出結(jié)果曲線相比較。仿真輸出39。)。xlabel(39。訓(xùn)練后網(wǎng)絡(luò)的輸出結(jié)果39。39。:39。39。figure。（開始訓(xùn)練網(wǎng)絡(luò)）TRAINLMcalcjx, Epoch 0/50, MSE , Gradient TRAINLMcalcjx, Epoch 3/50, MSE , Gradient TRAINLM, Performance goal met.從以上結(jié)果可以看出，網(wǎng)絡(luò)訓(xùn)練速度很快。 (網(wǎng)絡(luò)訓(xùn)練時間設(shè)置為50)=。將訓(xùn)練時間設(shè)置為50，其余參數(shù)使用缺省值。 未訓(xùn)練網(wǎng)絡(luò)的輸出結(jié)果其中 “ ” 代表要逼近的非線性函數(shù)曲線；“‥‥‥” 代表未經(jīng)訓(xùn)練的函數(shù)曲線；因為使用newff( )函數(shù)建立函數(shù)網(wǎng)絡(luò)時，權(quán)值和閾值的初始化是隨機(jī)的，所以網(wǎng)絡(luò)輸出結(jié)構(gòu)很差，根本達(dá)不到函數(shù)逼近的目的，每次運(yùn)行的結(jié)果也有時不同。)。ylabel(39。時間39。)。)title(39。,p,y1,39。plot(p,t,39。y1=sim(net,p)。)。},39。 39。net = newff(minmax(p),[n,1],{39。選擇隱層和輸出層神經(jīng)元傳遞函數(shù)分別為tansig函數(shù)和purelin函數(shù)，網(wǎng)絡(luò)訓(xùn)練的算法采用Levenberg – Marquardt算法trainlm。 要逼近的非線性函數(shù)曲線步驟2：網(wǎng)絡(luò)的建立應(yīng)用newff()函數(shù)建立BP網(wǎng)絡(luò)結(jié)構(gòu)。非線性函數(shù)39。)。xlabel(39。要逼近的非線性函數(shù)39。39。t=1+sin(k*pi/4*p)。k=1。其中，分別令k=1，2，4進(jìn)行仿真，通過調(diào)節(jié)參數(shù)（如隱藏層節(jié)點個數(shù)等）得出信號的頻率與隱層節(jié)點之間，隱層節(jié)點與函數(shù)逼近能力之間的關(guān)系。下面將通過實例來說明BP網(wǎng)絡(luò)在函數(shù)逼近方面的應(yīng)用。traingdm函數(shù)為梯度下降動量BP算法函數(shù)。 BP網(wǎng)絡(luò)訓(xùn)練函數(shù)1）train神經(jīng)網(wǎng)絡(luò)訓(xùn)練函數(shù)，調(diào)用其他訓(xùn)練函數(shù)，對網(wǎng)絡(luò)進(jìn)行訓(xùn)練。 BP網(wǎng)絡(luò)學(xué)習(xí)函數(shù)1）learngd該函數(shù)為梯度下降權(quán)值/閾值學(xué)習(xí)函數(shù)，它通過神經(jīng)元的輸入和誤差，以及權(quán)值和閾值的學(xué)習(xí)效率，來計算權(quán)值或閾值的變化率。3）purelin該函數(shù)為線性傳遞函數(shù)。調(diào)用格式為：A=logsig（N）info=logsig（code）其中， N：Q個S維的輸入列向量；A：函數(shù)返回值，位于區(qū)間（0，1）中；2）tansig該函數(shù)為雙曲正切S型傳遞函數(shù)。BP網(wǎng)絡(luò)經(jīng)常采用S型的對數(shù)或正切函數(shù)和線性函數(shù)。 神經(jīng)元上的傳遞函數(shù) 傳遞函數(shù)是BP網(wǎng)絡(luò)的重要組成部分。net為創(chuàng)建的新BP神經(jīng)網(wǎng)絡(luò)；PR為網(wǎng)絡(luò)輸入向量取值范圍的矩陣；[S1 S2…SNl]表示網(wǎng)絡(luò)隱含層和輸出層神經(jīng)元的個數(shù)；{TFl TF2…TFN1}表示網(wǎng)絡(luò)隱含層和輸出層的傳輸函數(shù)，默認(rèn)為‘tansig’；BTF表示網(wǎng)絡(luò)的訓(xùn)練函數(shù)，默認(rèn)為‘trainlm’；BLF表示網(wǎng)絡(luò)的權(quán)值學(xué)習(xí)函數(shù)，默認(rèn)為‘learngdm’；PF表示性能數(shù)，默認(rèn)為‘mse’。調(diào)用格式為：net=newffnet=newff(PR,[S1 S2..SN1],{TF1 TF2..TFN1},BTF,BLF,PF)其中，net=newff。Matlab R2007神經(jīng)網(wǎng)絡(luò)工具箱中包含了許多用于BP網(wǎng)絡(luò)分析與設(shè)計的函數(shù)。 基于MATLAB的BP神經(jīng)網(wǎng)絡(luò)工具箱函數(shù)最新版本的神經(jīng)網(wǎng)絡(luò)工具箱幾乎涵蓋了所有的神經(jīng)網(wǎng)絡(luò)的基本常用模型，如感知器和BP網(wǎng)絡(luò)等。而另外一部分函數(shù)則是通用的，幾乎可以用于所有類型的神經(jīng)網(wǎng)絡(luò)，如神經(jīng)網(wǎng)絡(luò)仿真函數(shù)、初始化函數(shù)和訓(xùn)練函數(shù)等[15]。這些工具箱函數(shù)主要為兩大部分。神經(jīng)網(wǎng)絡(luò)工具箱是在MATLAB環(huán)境下開發(fā)出來的許多工具箱之一。Matlab神經(jīng)網(wǎng)絡(luò)工具箱的出現(xiàn)，更加拓寬了神經(jīng)網(wǎng)絡(luò)的應(yīng)用空間。神經(jīng)元數(shù)目太少會造成網(wǎng)絡(luò)的不適性，而神經(jīng)元數(shù)目太多又會引起網(wǎng)絡(luò)的過適性。為了解決這個問題，在實際訓(xùn)練過程中，應(yīng)重復(fù)選取多個初始點進(jìn)行訓(xùn)練，以保證訓(xùn)練結(jié)果的全局最優(yōu)性[11]。非線性網(wǎng)絡(luò)的誤差面比線性網(wǎng)絡(luò)的誤差面復(fù)雜得多，問題在于多層網(wǎng)絡(luò)中非線性傳遞函數(shù)有多個局部最優(yōu)解。和線性網(wǎng)絡(luò)不同，對于非線性多層網(wǎng)絡(luò)很難選擇很好的學(xué)習(xí)率。在線性網(wǎng)絡(luò)中，學(xué)習(xí)率過大會導(dǎo)致訓(xùn)練過程不穩(wěn)定。但是，雖然理論上是可行的，但實際上BP網(wǎng)絡(luò)并不一定總能有解。多層神經(jīng)網(wǎng)絡(luò)可以應(yīng)用于線性系統(tǒng)和非線性系統(tǒng)中，對于任意函數(shù)模擬逼近。由于BP網(wǎng)絡(luò)訓(xùn)練中穩(wěn)定性要求學(xué)習(xí)效率很小，所以梯度下降法使得訓(xùn)練很慢。BP神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個非線性優(yōu)化問題, 它可以在已知的約束條件下，尋找一組參數(shù)組合，使該組合確定的目標(biāo)函數(shù)達(dá)到最小。由于它具有強(qiáng)大的非線性處理能力，因此可以較好地進(jìn)行非線性分類, 解決了神經(jīng)網(wǎng)絡(luò)發(fā)展史上的非線性分類難題。這種能力使其在圖像復(fù)原、語言處理、模式識別等方面具有重要應(yīng)用。這是因為它采用了分布并行的信息處理方式，對信息的提取必須采用聯(lián)想的方式，才能將相關(guān)神經(jīng)元全部調(diào)動起來。理論上，對于一個三層和三層以上的BP網(wǎng)絡(luò)，只要隱層神經(jīng)元數(shù)目足夠多，該網(wǎng)絡(luò)就能以任意精度逼近一個非線性函數(shù)。（4） 數(shù)據(jù)壓縮：減少輸出向量維數(shù)以便傳輸或存儲。（2） 模式識別：用一個待定的輸出向量將它與輸入向量聯(lián)系起來。BP網(wǎng)絡(luò)主要用于以下四方面[3]。絕大部分的神經(jīng)網(wǎng)絡(luò)模型都采用BP神經(jīng)網(wǎng)絡(luò)及其變化形式。BP神經(jīng)網(wǎng)絡(luò)具有初步的自適應(yīng)與自組織能力，在學(xué)習(xí)或訓(xùn)練中改變突觸權(quán)值以適應(yīng)環(huán)境，可以在使用過程中不斷學(xué)習(xí)完善自己的功能，并且同一網(wǎng)絡(luò)因?qū)W習(xí)方式的不同可以具有不同的功能，它甚至具有創(chuàng)新能力，可以發(fā)展知識，以至超過設(shè)計者原有的知識水平。這與現(xiàn)代計算機(jī)的脆弱性形成鮮明對比。3）具有容錯性。諾依曼計算機(jī)的工作速度，但是在很多問題上卻可以做出快速的判斷、決策和處理，這是由于人腦是一個大規(guī)模并行與串行組合的處理系統(tǒng)。2) 信息并行處理。BP 神經(jīng)網(wǎng)絡(luò)的信息處理方式具有如下特點: 1）信息分布存儲。這種信號正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程周而復(fù)始地進(jìn)行著，直到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度，或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。在這個過程中，誤差通過梯度下降算法，分?jǐn)偨o各層的所有單元，從而獲得各單元的誤差信號，以此誤差信號為依據(jù)修正各單元權(quán)值，網(wǎng)絡(luò)權(quán)值因此被重新分布。網(wǎng)絡(luò)的輸入層模擬的是神經(jīng)系統(tǒng)中的感覺神經(jīng)元，它接收輸入樣本信號。這些神經(jīng)元如同人的神經(jīng)細(xì)胞一樣是互相關(guān)聯(lián)的。此過程反復(fù)交替進(jìn)行，直至網(wǎng)絡(luò)的全局誤差趨向給定的極小值，即完成學(xué)習(xí)的過程。相鄰層之間各神經(jīng)元進(jìn)行全連接，而每層各神經(jīng)元之間無連接，網(wǎng)絡(luò)按有教師示教的方式進(jìn)行學(xué)習(xí)，當(dāng)一對學(xué)習(xí)模式提供給網(wǎng)絡(luò)后，各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)產(chǎn)生連接權(quán)值（Weight）。 BP神經(jīng)網(wǎng)絡(luò)及其原理 BP神經(jīng)網(wǎng)絡(luò)定義 BP (Back Propagation)神經(jīng)網(wǎng)絡(luò)是一種神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。根據(jù)網(wǎng)絡(luò)的結(jié)構(gòu)和神經(jīng)元的特性，網(wǎng)絡(luò)的運(yùn)行還有可能進(jìn)入周期振蕩或其他如混沌平衡狀態(tài)。而在相互結(jié)合網(wǎng)絡(luò)中，信號要在神經(jīng)元之間反復(fù)傳遞，網(wǎng)絡(luò)處于一種不斷變化狀態(tài)的動態(tài)之中。Hopfield 網(wǎng)絡(luò)和Boltzmann 機(jī)均屬于這種類型。例如，可利用橫向抑制機(jī)理把某層內(nèi)的具有最大輸出的神經(jīng)元挑選出來，從而抑制其他神經(jīng)元，使之處于無輸出狀態(tài)。3) 層內(nèi)互連前向網(wǎng)絡(luò) ，通過層內(nèi)神經(jīng)元的相互結(jié)合，可以實現(xiàn)同一層神經(jīng)元之間的橫向抑制或興奮機(jī)制。感知器網(wǎng)絡(luò)和BP網(wǎng)絡(luò)均屬于前向網(wǎng)絡(luò)。每一層的神經(jīng)元只接受來自前一層神經(jīng)元的輸入，后面的層對前面的層沒有信號反饋。 神經(jīng)網(wǎng)絡(luò)連接的幾種基本形式[17]：1）前向網(wǎng)絡(luò) ，網(wǎng)絡(luò)中的神經(jīng)元是分層排列的，每個神經(jīng)元只與前一層的神經(jīng)元相連接。 人工神經(jīng)元（感知器）示意圖當(dāng)神經(jīng)元j有多個輸入xi(i=1，2,…,m)和單個輸出yj時，輸入和輸出的關(guān)系可表示為: ()其中j為閾值，wij為從神經(jīng)元i到神經(jīng)元j的連接權(quán)重因子，f( )為傳遞函數(shù)，或稱激勵函數(shù)。當(dāng)神經(jīng)元細(xì)胞體通過軸突傳到突觸前膜的脈沖幅度達(dá)到一定強(qiáng)度，即超過其閾值電位后，突觸前膜將向突觸間隙釋放神經(jīng)傳遞的化學(xué)物質(zhì)。 。神經(jīng)元是大腦處理信息的基本單元，以細(xì)