【正文】 1 訓練后網(wǎng)絡的輸出結果其中 “ ” 代表要逼近的非線性函數(shù)曲線；“‥‥‥” 代表未經(jīng)訓練的函數(shù)曲線；“―――” 代表經(jīng)過訓練的函數(shù)曲線；從圖中可以看出，得到的曲線和原始的非線性函數(shù)曲線很接近。)。ylabel(39。時間39。)。)title(39。,p,y2, 39。,p,y1,39。plot(p,t,39。步驟4： 網(wǎng)絡測試對于訓練好的網(wǎng)絡進行仿真：y2=sim(net,p)。）。net=train(net,p,t)（39。39。)。圖10 訓練過程=50(39。將訓練時間設置為50，其余參數(shù)使用缺省值。圖9 未訓練網(wǎng)絡的輸出結果其中“ ”代表要逼近的非線性函數(shù)曲線； “‥‥‥” 代表未經(jīng)訓練的函數(shù)曲線；因為使用newff( )函數(shù)建立函數(shù)網(wǎng)絡時，權值和閾值的初始化是隨機的，所以網(wǎng)絡輸出結構很差，根本達不到函數(shù)逼近的目的，每次運行的結果也有時不同。)。ylabel(39。時間39。)。)title(39。,p,y1,39。plot(p,t,39。y1=sim(net,p)。)。},39。 39。net = newff(minmax(p),[n,1],{39。選擇隱層和輸出層神經(jīng)元傳遞函數(shù)分別為tansig函數(shù)和purelin函數(shù)，網(wǎng)絡訓練的算法采用Levenberg – Marquardt算法trainlm。圖8逼近的非線性函數(shù)曲線步驟2：網(wǎng)絡的建立應用newff()函數(shù)建立BP網(wǎng)絡結構。非線性函數(shù)39。)。xlabel(39。要逼近的非線性函數(shù)39。)。plot(p,t,39。p=[1:.05:8]。 基于BP神經(jīng)網(wǎng)絡逼近函數(shù)步驟1：假設頻率參數(shù)k=1，繪制要逼近的非線性函數(shù)的曲線。要求設計一個BP網(wǎng)絡，逼近函數(shù)：g(x)=1+sin(k*pi/4*x)，實現(xiàn)對該非線性函數(shù)的逼近。 BP網(wǎng)絡在函數(shù)逼近中的應用 問題的提出BP網(wǎng)絡由很強的映射能力，主要用于模式識別分類、函數(shù)逼近、函數(shù)壓縮等。該函數(shù)的調(diào)用格式為：[net,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai)[net,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai,VV,TV)2) traingd函數(shù)為梯度下降BP算法函數(shù)。調(diào)用格式為：[dW,ls]=learngd(W,P,Z,N,A,T,E,gW,gA,D,LP,LS)[db,ls]=learngd(b,ones(1,Q),Z,N,A,T,E,gW,gA,D,LP,LS)info=learngd(code)2) learngdm函數(shù)為梯度下降動量學習函數(shù)，它利用神經(jīng)元的輸入和誤差、權值或閾值的學習速率和動量常數(shù)，來計算權值或閾值的變化率。調(diào)用格式為：A=purelin（N）info=purelin（code）其中，N：Q個S維的輸入列向量；A：函數(shù)返回值，A=N。調(diào)用格式為：A=tansig（N）info=tansig（code）其中，N：Q個S維的輸入列向量；A：函數(shù)返回值，位于區(qū)間（1，1）之間。1) logsig該傳遞函數(shù)為S型的對數(shù)函數(shù)。傳遞函數(shù)又稱為激活函數(shù)，必須是連續(xù)可微的。 2）newcf函數(shù)用于創(chuàng)建級聯(lián)前向BP網(wǎng)絡，newfftd函數(shù)用于創(chuàng)建一個存在輸入延遲的前向網(wǎng)絡。用于在對話框中創(chuàng)建一個BP網(wǎng)絡。表1 BP網(wǎng)絡的常用函數(shù)表函數(shù)類型函數(shù)名稱函數(shù)用途前向網(wǎng)絡創(chuàng)建函數(shù)newcf創(chuàng)建級聯(lián)前向網(wǎng)絡Newff創(chuàng)建前向BP網(wǎng)絡傳遞函數(shù)logsigS型的對數(shù)函數(shù)tansigS型的正切函數(shù)purelin純線性函數(shù) 學習函數(shù)learngd基于梯度下降法的學習函數(shù)learngdm梯度下降動量學習函數(shù)性能函數(shù) mse均方誤差函數(shù)msereg均方誤差規(guī)范化函數(shù) 顯示函數(shù)plotperf繪制網(wǎng)絡的性能plotes繪制一個單獨神經(jīng)元的誤差曲面plotep繪制權值和閾值在誤差曲面上的位置errsurf計算單個神經(jīng)元的誤差曲面 BP網(wǎng)絡創(chuàng)建函數(shù)1) newff該函數(shù)用于創(chuàng)建一個BP網(wǎng)絡。對于各種不同的網(wǎng)絡模型，神經(jīng)網(wǎng)絡工具箱集成了多種學習算法，為用戶提供了極大的方便。這些函數(shù)的MATLAB實現(xiàn)，使得設計者對所選定網(wǎng)絡進行計算過程，轉(zhuǎn)變?yōu)閷瘮?shù)的調(diào)用和參數(shù)的選擇，這樣一來，網(wǎng)絡設計人員可以根據(jù)自己的的需要去調(diào)用工具箱中有關的設計和訓練程序，從煩瑣的編程中解脫出來，集中精力解決其他問題，從而提高工作效率。一部分函數(shù)特別針對某一種類型的神經(jīng)網(wǎng)絡的，如感知器的創(chuàng)建函數(shù)、BP網(wǎng)絡的訓練函數(shù)等。它以人工神經(jīng)網(wǎng)絡理論為基礎，利用MATLAB編程語言構造出許多典型神經(jīng)網(wǎng)絡的框架和相關的函數(shù)。神經(jīng)網(wǎng)絡工具箱將很多原本需要手動計算的工作交給計算機，一方面提高了工作效率，另一方面，還提高了計算的準確度和精度，減輕了工程人員的負擔。3 BP神經(jīng)網(wǎng)絡在實例中的應用快速發(fā)展的Matlab軟件為神經(jīng)網(wǎng)絡理論的實現(xiàn)提供了一種便利的仿真手段。 網(wǎng)絡隱層神經(jīng)元的數(shù)目也對網(wǎng)絡有一定的影響。尋優(yōu)的過程與初始點的選擇關系很大，初始點如果更靠近局部最優(yōu)點，而不是全局最優(yōu)點，就不會得到正確的結果，這也是多層網(wǎng)絡無法得到最優(yōu)解的一個原因。對那些快速訓練算法，缺省參數(shù)值基本上都是最有效的設置。相反，學習率過小又會造成訓練時間過長。對于非線性系統(tǒng)，選擇合適的學習率是一個重要的問題。當然，感知器和線性神經(jīng)網(wǎng)絡能夠解決這類網(wǎng)絡問題。動量法因為學習率的提高通常比單純的梯度下降法要快一些，但在實際應用中還是速度不夠，這兩種方法通常只應用于遞增訓練。不過，其優(yōu)化計算存在局部極小問題，必須通過改進完善。另外， BP 神經(jīng)網(wǎng)絡具有優(yōu)化計算能力。再次，BP 神經(jīng)網(wǎng)絡對外界輸入樣本有很強的識別與分類能力。BP 神經(jīng)網(wǎng)絡通過預先存儲信息和學習機制進行自適應訓練，可以從不完整的信息和噪聲干擾中恢復原始的完整信息。其次，BP神經(jīng)網(wǎng)絡具有對外界刺激和輸入信息進行聯(lián)想記憶的能力。 BP網(wǎng)絡的優(yōu)點以及局限性BP神經(jīng)網(wǎng)絡最主要的優(yōu)點是具有極強的非線性映射能力。（3）分類：把輸入向量所定義的合適方式進行分類。（1）函數(shù)逼近：用輸入向量和相應的輸出向量訓練一個網(wǎng)絡以逼近一個函數(shù)。它也是前向網(wǎng)絡的核心部分，體現(xiàn)了人工神經(jīng)網(wǎng)絡的精華。 BP神經(jīng)網(wǎng)絡的主要功能目前，在人工神經(jīng)網(wǎng)絡的實際應用中。4）具有自學習、自組織、自適應的能力。生物神經(jīng)系統(tǒng)部分不嚴重損傷并不影響整體功能，BP神經(jīng)網(wǎng)絡也具有這種特性，網(wǎng)絡的高度連接意味著少量的誤差可能不會產(chǎn)生嚴重的后果，部分神經(jīng)元的損傷不破壞整體，它可以自動修正誤差。BP神經(jīng)網(wǎng)絡的基本結構模仿人腦，具有并行處理的特征，大大提高了網(wǎng)絡功能。人腦神經(jīng)元之間傳遞脈沖信號的速度遠低于馮人腦存儲信息的特點是利用突觸效能的變化來調(diào)整存儲內(nèi)容， 即信息存儲在神經(jīng)元之間的連接強度的分布上， BP神經(jīng)網(wǎng)絡模擬人腦的這一特點，使信息以連接權值的形式分布于整個網(wǎng)絡。權值不斷調(diào)整的過程就是網(wǎng)絡的學習訓練過程。此過程完成后， 輸入信號再次由輸入層輸入網(wǎng)絡，重復上述過程。輸入信號經(jīng)輸入層輸入， 通過隱含層的復雜計算由輸出層輸出，輸出信號與期望輸出相比較，若有誤差，再將誤差信號反向由輸出層通過隱含層處理后向輸入層傳播。 圖7　典型Bp網(wǎng)絡模型生物神經(jīng)元信號的傳遞是通過突觸進行的一個復雜的電化學等過程, 在人工神經(jīng)網(wǎng)絡中是將其簡化模擬成一組數(shù)字信號通過一定的學習規(guī)則而不斷變動更新的過程，這組數(shù)字儲存在神經(jīng)元之間的連接權重。如輸出層不能得到期望的輸出，則轉(zhuǎn)入誤差反向傳播過程，誤差信號沿原來的連接通路返回，逐次調(diào)整網(wǎng)絡各層的權值和閾值，直至到達輸入層，再重復向計算。BP網(wǎng)絡的學習過程程由前向計算過程和誤差反向傳播過程組成。層與層之間有兩種信號在流通：一種是工作信號(用實線表示)，它是施加輸入信號后向前傳播直到在輸出端產(chǎn)生實際輸出的信號，是輸入和權值的函數(shù)。 BP神經(jīng)網(wǎng)絡模型及其基本原理BP網(wǎng)絡是一種多層前饋神經(jīng)網(wǎng)絡，由輸入層、隱層和輸出層組成。然后按減小希望輸出與實際輸出誤差的方向，從輸出層經(jīng)各中間層逐層修正各連接權，回到輸入層。其由輸入層、中間層、輸出層組成的階層型神經(jīng)網(wǎng)絡，中間層可擴展為多層。圖6結合型網(wǎng)絡結構綜上，可知神經(jīng)網(wǎng)絡有分層網(wǎng)絡、層內(nèi)連接的分層網(wǎng)絡、反饋連接的分層網(wǎng)絡、互連網(wǎng)絡等四種結構，其神經(jīng)網(wǎng)絡模型有感知器網(wǎng)絡，線性神經(jīng)網(wǎng)絡，BP神經(jīng)網(wǎng)絡，徑向基函數(shù)網(wǎng)絡，反饋神經(jīng)網(wǎng)絡等，本文主要學習研究了BP神經(jīng)網(wǎng)絡，以及BP神經(jīng)網(wǎng)絡在函數(shù)逼近和樣本含量估計兩個實例中的應用分析。信號從某初始狀態(tài)開始，經(jīng)過若干次變化，才會達到某種平衡狀態(tài)。在無反饋的前向網(wǎng)絡中，信號一旦通過某神經(jīng)元，該神經(jīng)元的處理就結束了。圖5有相互結合的前向網(wǎng)絡結構4) 相互結合型網(wǎng)絡相互結合型網(wǎng)絡結構如圖6所示，這種網(wǎng)絡在任意兩個神經(jīng)元之間都可能有連接。這樣可以限制每層內(nèi)可以同時動作的神經(jīng)元素，或者把每層內(nèi)的神經(jīng)元分為若干組，讓每一組作為一個整體進行運作。圖3 前向網(wǎng)絡結構2）從輸出到輸入有反饋的前向網(wǎng)絡其結構如圖4所示，輸出層對輸入層有信息反饋，這種網(wǎng)絡可用于存儲某種模式序列，如神經(jīng)認知機和回歸BP網(wǎng)絡都屬于這種類型。輸入模式經(jīng)過各層次的順序傳播，最后在輸出層上得到輸出。神經(jīng)元分層排列，分別組成輸入層、中間層（也稱為隱含層，可以由若干層組成）和輸出層。神經(jīng)元的模型確定之后，一個神經(jīng)網(wǎng)絡的特性及能力主要取決于網(wǎng)絡的拓撲結構及學習方法。常用的人工神經(jīng)元模型可用圖2模擬。當神經(jīng)元細胞體通過軸突傳到突觸前膜的脈沖幅度達到一定強度，即超過其閾值電位后，突觸前膜將向突觸間隙釋放神經(jīng)傳遞的化學物質(zhì)。 如圖1所示。神經(jīng)元是大腦處理信息的基本單元，以細胞體為主體，由許多向周圍延伸的不規(guī)則樹枝狀纖維構成的神經(jīng)細胞，其形狀很像一棵枯樹的枝干。因此，人工神經(jīng)網(wǎng)絡作為經(jīng)驗模型的一種，在化工生產(chǎn)、研究和開發(fā)中得到了越來越多的用途。若干神經(jīng)元連接成網(wǎng)絡，其中的一個神經(jīng)元可以接受多個輸入信號，按照一定的規(guī)則轉(zhuǎn)換為輸出信號。神經(jīng)網(wǎng)絡的信息處理通過神經(jīng)元的互相作用來實現(xiàn)，知識與信息的存儲表現(xiàn)為網(wǎng)絡元件互相分布式的物理聯(lián)系。為了模擬大腦的基本特性，在神經(jīng)科學研究的基礎上，提出了神經(jīng)網(wǎng)絡的模型。模仿生物神經(jīng)網(wǎng)絡而建立的人工神經(jīng)網(wǎng)絡，對輸入信號有功能強大的反應和處理能力。生物神經(jīng)元受到傳入的刺激，其反應又從輸出端傳到相聯(lián)的其它神經(jīng)元，輸入和輸出之間的變換關系一般是非線性的?？臻g交匯對接控制、導航信息智能管理、飛行器制導和飛行程序優(yōu)化管理等。自適應均衡、回波抵消、路由選擇和ATM網(wǎng)絡中的呼叫接納識別和控制。股票市場預測、地震預報、有價證券管理、借貸風險分析、IC卡管理和交通管理。化工過程控制