【正文】 },39。 a=poststd(an,meant,stdt)。平方差 39。) legend(39。 TRAINLMcalcjx, Epoch 0/100, MSE , Gradient TRAINLMcalcjx, Epoch 5/100, MSE , Gradient TRAINLMcalcjx, Epoch 10/100, MSE , Gradient TRAINLMcalcjx, Epoch 15/100, MSE , Gradient TRAINLMcalcjx, Epoch 16/100, MSE , Gradient TRAINLM, Validation stop. 可以看出，經(jīng)過 20 次訓練后，由于驗證誤差的增加，訓練停止。 39。=tn(:,iitst)。將數(shù)據(jù)的 1/4 用于驗證、 1/4 用于測試，其余的用于訓練網(wǎng)絡。 （ 1） 將數(shù)據(jù)導入 Matlab 工作空間 ，進行主要成分的分析。 圖 當 n=10 時 訓練后網(wǎng)絡的輸出結(jié)果 圖 當 n=15 時 訓練后網(wǎng)絡的輸出結(jié)果 其中 “ ” 代表要逼近的非線性函數(shù)曲線； “ ‥‥‥ ” 代表未經(jīng)訓練的函數(shù)曲線； “ ――― ” 代表經(jīng)過訓練的函數(shù)曲線； 討論 通過 上述仿真結(jié)果 可知，當 k=1， n=3 時； k=2， n=6 時； k=4， n=8 時； k=8， n=15 時， BP 神經(jīng)網(wǎng)絡分別對函數(shù)取得了較好的逼近效果。 圖 訓練后網(wǎng)絡的輸出結(jié)果 其中 “ ” 代表 要逼近的 非線性函數(shù)曲線； “ ‥‥‥ ” 代表未經(jīng)訓練的函數(shù)曲線； “ ――― ” 代表經(jīng)過訓練的函數(shù)曲線； 從圖中可以看出，得到的曲線和原始的非線性函數(shù)曲線很接近。)。 plot(p,t,39。將訓練時間設置為 50，訓練精度設置為 ，其余參數(shù)使用缺省值。時間 39。 plot(p,t,39。 39。非線性函數(shù) 39。39。下面將通過實例來說明 BP 網(wǎng)絡在函數(shù)逼近方面的應用。 3） purelin 該函數(shù)為線性傳遞函數(shù)。 為創(chuàng)建的新 BP 神經(jīng)網(wǎng)絡； PR為網(wǎng)絡輸入 向量取值范圍的矩陣； [S1 S2? SNl]表示網(wǎng)絡 隱含層和輸出層神經(jīng)元的個數(shù)； {TFl TF2? TFN1}表示網(wǎng)絡隱含層和輸出層的傳輸函數(shù)，默認為 ‘ tansig’ ； BTF 表示網(wǎng)絡的訓練函數(shù)，默認為 ‘ trainlm’ ； BLF 表示網(wǎng)絡的權(quán)值學習函數(shù)，默認為 ‘ learngdm’ ； PF表示性能數(shù)，默認為 ‘ mse’ 。而另外一部分函數(shù)則是通用的，幾乎可以用于所有類型的神經(jīng)網(wǎng)絡，如神經(jīng)網(wǎng)絡仿真函數(shù)、初始化函數(shù)和訓練函數(shù)等 [15]。神經(jīng)元數(shù)目太少會造成網(wǎng)絡的不適性，而神經(jīng)元數(shù)目太多又會引起網(wǎng)絡的過適性 。在線性網(wǎng)絡中 ， 學習率過大會導致訓練過程不穩(wěn)定。 BP 神經(jīng)網(wǎng)絡本質(zhì)上是一個非線性優(yōu)化問題 , 它可以在已知的約束條件下 ， 尋找一組參數(shù)組合 ， 使該組合確定的目標函數(shù)達到最小。理論上 ， 對于一個三層和三層以上的 BP網(wǎng)絡 ， 只要隱層神經(jīng)元數(shù)目足夠多 ， 該網(wǎng)絡就能以任意精度逼近一個非線性函數(shù)。絕大部分的神經(jīng)網(wǎng)絡模型都采用 BP 神經(jīng)網(wǎng)絡及其變化形式。 諾依曼計算機的工作速度 ， 但是在很多問題上卻可以做出快速的判斷、決策和處理 ， 這是由于人腦是一個大規(guī)模并行與串行組合的處理系統(tǒng)。在這個過程中 ， 誤差通過梯度下降算法 ， 分攤給各層的所有單元 ， 從而獲得各單元的誤差信號 ， 以此誤差信號為依據(jù)修正各單元權(quán)值 ， 網(wǎng)絡權(quán)值因此被重新分布。相鄰層之間各神經(jīng)元進行全連接，而每層各神經(jīng)元之間無連接，網(wǎng)絡按有教師示教的方式進行學習，當一對學習模式提供給網(wǎng)絡后，各神經(jīng)元獲得網(wǎng)絡的輸入響應產(chǎn)生連接權(quán)值（ Weight）。 Hopfield 網(wǎng)絡和Boltzmann 機均屬于這種類型。每一層的神經(jīng)元只接受來自前一層神經(jīng)元的輸入，后面的層對前面的層沒有信號反饋。 圖 生物神經(jīng)元 從神經(jīng)元各組成部分的功能來看，信息的處理與傳遞主要發(fā)生在突觸附近。神經(jīng)網(wǎng)絡的學習和識別取決于各種神經(jīng)元連接權(quán)系數(shù)的動態(tài)演化過程。 2 神經(jīng) 網(wǎng)絡結(jié)構(gòu)及 BP 神經(jīng) 網(wǎng)絡 神經(jīng)元與網(wǎng)絡結(jié)構(gòu) 人工神經(jīng)網(wǎng)絡（ artificial neural work， ANN）是模仿生物神經(jīng)網(wǎng)絡功能的一種經(jīng)驗模型。 （ 2）控制和優(yōu)化。當前存在的問題是智能水平還不高 ， 許多應用方面的要求還不能得到很好的滿足；網(wǎng)絡分析與綜合的一些理論性問題還未得到很好的解決。 4）進一步對生物神經(jīng)系統(tǒng)進行研究 ， 不斷地豐富對人腦的認識。這個時期最具有標志性的人物是美國加州工學院的物理學家 John Hopfield。 神經(jīng)網(wǎng)絡的發(fā)展 與 研究 現(xiàn)狀 神經(jīng)網(wǎng)絡的發(fā)展 神經(jīng)網(wǎng)絡起源于 20 世紀 40 年代，至今發(fā)展已半個多世紀，大致分為三個階段 【 7】 。（ 2）爭取構(gòu)造出盡可能與人腦具有相似功能的計算機，即神經(jīng)網(wǎng)絡計算機。 MATLAB 是一種科學與工程計算 的高級語言，廣泛地運用于包括信號與圖像處理，控制系統(tǒng)設計，系統(tǒng)仿真等諸多領域。將神經(jīng)網(wǎng)絡算法應用于 函數(shù)逼近和樣本含量估計 問題 中 ，并分析相關參數(shù)對算法運行結(jié)果的影響。最后對 BP 神經(jīng)網(wǎng)絡算法進行了展望。 為了 解決神經(jīng)網(wǎng)絡問題 中 的研究工作量和編程計算工作量 問題， 目前工程領域中較為流行的軟件 MATLAB，提供了現(xiàn)成的神經(jīng)網(wǎng)絡工具箱（ Neural Network Toolbox，簡稱 NNbox） [3]， 為解決這個矛盾提供了便利條件。（ 3）研究仿照腦神經(jīng)系統(tǒng)的人工神經(jīng)網(wǎng)絡，將在模式識別、組合優(yōu)化和決策判斷等方面取得傳統(tǒng)計算機所難以達到的效果 。 1） 20 世紀 50 年代 20 世紀 60 年代：第一次研究高潮 自 1943 年 MP 模型 開始 ， 至 20世紀 60年代為止，這一段時間可以稱為神經(jīng)網(wǎng)絡系統(tǒng)理論發(fā)展的初期階段。他于 1982 年和 1984年在美國科學院院刊上發(fā)表了兩篇文章，提出了模擬人腦的神經(jīng)網(wǎng)絡模型，即最著名的 Hopfield 模型。 神經(jīng)網(wǎng)絡的研究內(nèi)容 和目前存在的問題 神經(jīng)網(wǎng)絡的研究內(nèi)容 神經(jīng)網(wǎng)絡的研究內(nèi)容 相當廣泛 ， 反映了多科學交叉技術(shù)領域的特點。例如 ， 由于訓練中穩(wěn)定性的要求學習率很小 ， 所以梯度下降法使得訓練很忙動量法因為學習率的提高通常比單純的梯度下降法要快 ， 但在實際應用中還是很慢 [7]?；み^程控制、機器人運動控制、家電控制、半導體生產(chǎn)中摻雜控制、石油精煉優(yōu)化控制和超大規(guī)模集成電路布線設計等。生物神經(jīng)元受到傳入的刺激 ， 其反應又從輸出端傳到相聯(lián)的其它神經(jīng)元 ， 輸入和輸出之間的 變換關系一般是非線性的。 若干神經(jīng)元連接成網(wǎng)絡，其中的一個神經(jīng)元可以接受多個輸入信號，按照一定的規(guī)則轉(zhuǎn)換為輸出信號。當神經(jīng)元細胞體通過軸突傳到突觸前膜的脈沖幅度達到一定強度，即超 過其閾值電位后，突觸前膜將向突觸間隙釋放神經(jīng)傳遞的化學物質(zhì)。輸入模式經(jīng)過各層次的順序傳播， 最后在輸出層上得到輸出。在無反饋的前向網(wǎng)絡中，信號一旦通過某神經(jīng)元，該神經(jīng)元的處理就結(jié)束了。然后按減小希望輸出與實際輸出誤差的方向，從輸出層經(jīng)各中間層逐層修正各連接權(quán)，回到輸入層。此過程完成后 ， 輸入信號再次由輸入層輸入網(wǎng)絡 ， 重復上述過程。 BP神經(jīng)網(wǎng)絡的基本結(jié)構(gòu)模仿人腦 ， 具有并行處理的特征 ， 大大提高了網(wǎng)絡功能。它也是前向網(wǎng)絡的核心部分，體現(xiàn)了人工神經(jīng)網(wǎng)絡的精華。其次 ， BP 神經(jīng)網(wǎng)絡具有對外界刺激和輸入信息進行聯(lián)想記憶的能力。不過 ， 其優(yōu)化計算存在局部極小問題 ， 必須通過改進完善 [13]。相反，學習率過小又會造成訓練時間過長。 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡應用 10 3 BP 神經(jīng)網(wǎng)絡 在 實例 中的應用 快速發(fā)展的 Matlab 軟件為神經(jīng)網(wǎng)絡理論的實現(xiàn)提供了一種便利的仿真手段。 這些函數(shù)的 MATLAB 實現(xiàn)，使得設計者對所選定網(wǎng)絡進行計算過程，轉(zhuǎn)變?yōu)閷瘮?shù)的調(diào)用和參數(shù)的選擇，這樣一來， 網(wǎng)絡設計人員可以 根據(jù)自己的的需要去 調(diào) 用工具箱 中有關的設計和訓練程序， 從煩瑣的編程中解脫出來，集中精力解決其他問題，從而提高了工作效率。 2） newcf 函數(shù)用于創(chuàng)建級聯(lián)前向 BP 網(wǎng)絡， newfftd 函數(shù)用于創(chuàng)建一個存在輸入延遲的前向網(wǎng)絡。調(diào)用格式為： A=purelin（ N） info=purelin（ code） 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡應用 12 其中， N： Q 個 S 維的輸入列向量； A：函數(shù)返回值， A=N。 要求設計一個 BP網(wǎng)絡， 逼近以下函數(shù)： g(x)=1+sin(k*pi/4*x)， 實現(xiàn)對 該 非線性函數(shù)的逼近 。)； title(39。)。purelin39。39。)。訓練后得到的誤差變化過程如圖 所示。39。 xlabel(39。這說明 經(jīng)過 訓練后， BP 網(wǎng)絡對非線性函數(shù)的逼近效果 比較 好。由此可見， n 取 不同的 值對 函數(shù) 逼近的效果有很大的影響 。數(shù)據(jù)文件為 。采用等間隔的方式在原始數(shù)據(jù)中抽取出這些數(shù)據(jù)。 ptr=ptrans(:,iitr)。purelin39。將訓練誤差，驗證誤差和測試誤差繪制在一副圖中，如圖 所示，這樣就可以更加直觀地觀察訓練過程。Training39。)。 for i=1:3 figure(i) [m(i),b(i),r(i)]=postreg(a(i,:),t(i,:))。trainlm39。.39。 ylabel(39。:39。最后線性回歸的輸出結(jié)果如圖 所示。 本文所總結(jié)的 BP 神經(jīng)網(wǎng)絡和目前研究的現(xiàn)狀都還不夠全面，經(jīng)過程序調(diào)試的圖形 有可能都還存在很多細節(jié)上的問題，而圖形曲線所 實現(xiàn)效果都還不夠好，以及結(jié)果分析不夠全面 ，正確，缺乏科學性等，這些都還 是需加強提高的，本文 的 完成不代表 就 對這門學科研究 的結(jié)束，還有很多知識，理論，研究成果需要不斷學習， 近幾年的不斷發(fā)展，神經(jīng)網(wǎng)絡更是取得了非常廣泛的應用，和令人矚目的發(fā)展， 在很多方面都發(fā)揮了其獨特的作用， 特別是在人工智能、自動控制、計算機科學、信息處理、機器人、模式識別等眾多方面的應用實例 ，給人們帶來了很多應用上到思考，和解決方法的研究。 我想在不久 的將來神經(jīng)網(wǎng)絡會應用到更多 更廣 的方面，人們的生活會更加便捷。 比較可知，當隱層數(shù)目越多，則測試得到的樣本水平越接近于期望值。.39。)。Training39。 [,tr]=train(,ptr,ttr,[],[],val,test)。三種誤差曲線如圖 ， 改進后的線性回歸結(jié)果如圖 。時間 39。Validation39。39。trainlm39。 基