【文章內(nèi)容簡介】 以至超過設計者原有的知識水平。 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡應用 9 BP神經(jīng)網(wǎng)絡的主要功能 目前，在人 工神經(jīng)網(wǎng)絡的實際應用中。絕大部分的神經(jīng)網(wǎng)絡模型都采用 BP 神經(jīng)網(wǎng)絡及其變化形式。它也是前向網(wǎng)絡的核心部分，體現(xiàn)了人工神經(jīng)網(wǎng)絡的精華。 BP 網(wǎng)絡主要用于以下 四方面 [3]。 （ 1） 函數(shù)逼近：用輸入向量和相應的輸出向量訓練一個網(wǎng)絡以逼近一個函數(shù)。 （ 2） 模式識別：用一個待定的輸出向量將它與輸入向量聯(lián)系起來。 （ 3） 分類：把輸入向量所定義的合適方式進行分類。 （ 4） 數(shù)據(jù)壓縮：減少輸出向量維數(shù)以便傳輸或存儲。 BP 網(wǎng)絡的 優(yōu)點 以及局限性 BP 神經(jīng)網(wǎng)絡最主要的優(yōu)點是具有極強的非線性映射能力 [12]。理論上 ， 對于一個三層和三層以上的 BP網(wǎng)絡 ， 只要隱層神經(jīng)元數(shù)目足夠多 ， 該網(wǎng)絡就能以任意精度逼近一個非線性函數(shù)。其次 ， BP 神經(jīng)網(wǎng)絡具有對外界刺激和輸入信息進行聯(lián)想記憶的能力。這是因為它采用了分布并行的信息處理方式 ， 對信息的提取必須采用聯(lián)想的方式 ， 才能將相關神經(jīng)元全部調(diào)動起來。 BP 神經(jīng)網(wǎng)絡通過預先存儲信息和學習機制進行自適應訓練 ， 可以從不完整的信息和噪聲干擾中恢復原始的完整信息。這種能力使其在圖像復原、語言處理、模式識別等方面具有重要應用。再次 ， BP 神經(jīng)網(wǎng)絡對外界輸入樣本有很強的識別與分類能力。由于它具有強大的非線性處理能力 ， 因此可以較好地進行 非線性分類 , 解決了神經(jīng)網(wǎng)絡發(fā)展史上的非線性分類難題。另外 ， BP 神經(jīng)網(wǎng)絡具有優(yōu)化計算能力。 BP 神經(jīng)網(wǎng)絡本質(zhì)上是一個非線性優(yōu)化問題 , 它可以在已知的約束條件下 ， 尋找一組參數(shù)組合 ， 使該組合確定的目標函數(shù)達到最小。不過 ， 其優(yōu)化計算存在局部極小問題 ， 必須通過改進完善 [13]。 由于 BP 網(wǎng)絡 訓練中穩(wěn)定性要求學習效率很小，所以梯度下降法使得訓練很慢。動量法因為學習率的提高通常比單純的梯度下降法要快一些，但在實際應用中還是速度不夠，這兩種方法通常只應用于遞增訓練。 多層神經(jīng)網(wǎng)絡可以應用于線性系統(tǒng)和非線性系統(tǒng)中，對于任 意函數(shù)模擬逼近。當然，感知器和線性神經(jīng)網(wǎng)絡能夠解決這類網(wǎng)絡問題。但是，雖然理論上是可行的，但實際上 BP 網(wǎng)絡并不一定總能有解。 對于非線性系統(tǒng)，選擇合適的學習率是一個重要的問題。在線性網(wǎng)絡中 ， 學習率過大會導致訓練過程不穩(wěn)定。相反，學習率過小又會造成訓練時間過長。和線性網(wǎng)絡不同，對于非線性多層網(wǎng)絡很難選擇很好的學習率。對那些快速訓練算法，缺省參數(shù)值基本上都是最有效的設置 [10]。 非線性網(wǎng)絡的誤差面比線性網(wǎng)絡的誤差面復雜得多，問題在于多層網(wǎng)絡中非線性傳遞函數(shù) 有 多個局部最優(yōu)解。尋優(yōu)的過程與初始點的選擇關系很大，初 始點如果更靠近局部最優(yōu)點，而不是全局最優(yōu)點，就不會得到正確的結(jié)果，這也是多層網(wǎng)絡無法得到最優(yōu)解的一個原因。為了解決這個問題，在實際訓練過程中，應重復選取多個初始點進行訓練，以保證訓練結(jié)果的全局最優(yōu)性 [11]。 網(wǎng)絡隱層神經(jīng)元的數(shù)目也對網(wǎng)絡 有 一定的影響。神經(jīng)元數(shù)目太少會造成網(wǎng)絡的不適性，而神經(jīng)元數(shù)目太多又會引起網(wǎng)絡的過適性 。 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡應用 10 3 BP 神經(jīng)網(wǎng)絡 在 實例 中的應用 快速發(fā)展的 Matlab 軟件為神經(jīng)網(wǎng)絡理論的實現(xiàn)提供了一種便利的仿真手段。 Matlab 神經(jīng)網(wǎng)絡工具箱的出現(xiàn)，更加拓寬了神經(jīng)網(wǎng)絡的應用空間。神經(jīng)網(wǎng)絡工具箱將很多原本需要手動計算的工作交給計算機，一方面提高了工作效率，另一方面，還提高了計算的準確度和精度，減輕了工程人員的 負擔。 神經(jīng)網(wǎng)絡工具箱是在 MATLAB 環(huán)境下開發(fā)出來的許多工具箱之一。它以人工神經(jīng)網(wǎng)絡理論為基礎，利用 MATLAB 編程語言構(gòu)造出許多典型神經(jīng)網(wǎng)絡的框架和相關的函數(shù)。這些工具箱函數(shù)主要為兩大部分。一部分函數(shù)特別針對某一種類型的神經(jīng)網(wǎng)絡的，如感知器的創(chuàng)建函數(shù)、 BP 網(wǎng)絡的訓練函數(shù) 等。而另外一部分函數(shù)則是通用的，幾乎可以用于所有類型的神經(jīng)網(wǎng)絡，如神經(jīng)網(wǎng)絡仿真函數(shù)、初始化函數(shù)和訓練函數(shù)等 [15]。 這些函數(shù)的 MATLAB 實現(xiàn)，使得設計者對所選定網(wǎng)絡進行計算過程，轉(zhuǎn)變?yōu)閷瘮?shù)的調(diào)用和參數(shù)的選擇，這樣一來， 網(wǎng)絡設計人員可以 根據(jù)自己的的需要去 調(diào) 用工具箱 中有關的設計和訓練程序， 從煩瑣的編程中解脫出來，集中精力解決其他問題，從而提高了工作效率。 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡工具箱函數(shù) 最新版本的神經(jīng)網(wǎng)絡工具箱幾乎涵蓋了所有的神經(jīng)網(wǎng)絡的基本常用模型，如感知器和 BP 網(wǎng)絡等。對于各種不同的網(wǎng)絡模型，神經(jīng)網(wǎng)絡工具箱集成了多種學習算法，為用戶提供了極大的方便 [16]。 Matlab R2020神經(jīng)網(wǎng)絡工具箱中包含了許多用于 BP 網(wǎng)絡分析與設計的函數(shù)， BP 網(wǎng)絡的常用函數(shù)如表 所示。 表 BP 網(wǎng)絡的常用 函數(shù) 表 函數(shù)類型 函 數(shù)名稱 函數(shù)用途 前向網(wǎng)絡創(chuàng)建函數(shù) newcf 創(chuàng)建級聯(lián)前向網(wǎng)絡 Newff 創(chuàng)建前向 BP 網(wǎng)絡 傳遞函數(shù) logsig S 型的對數(shù)函數(shù) tansig S 型的正切函數(shù) purelin 純線性函數(shù) 學習函數(shù) learngd 基于梯度下降法的學習函數(shù) learngdm 梯度下降動量學習函數(shù) 性能函數(shù) mse 均方誤差函數(shù) msereg 均方誤差規(guī)范化函數(shù) 顯示函數(shù) plotperf 繪制網(wǎng)絡的性能 plotes 繪制一個單獨神經(jīng)元的誤差曲面 plotep 繪制權值和閾值在誤差曲面上的位置 errsurf 計算單個神經(jīng)元的誤差曲面 BP 網(wǎng)絡創(chuàng)建函數(shù) 1) newff 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡應用 11 該函數(shù)用于創(chuàng)建一個 BP 網(wǎng)絡。調(diào)用格式為： =newff =newff(PR,[S1 S2..SN1],{TF1 TF2..TFN1},BTF,BLF,PF) 其中， =newff。用于在對話框中創(chuàng)建一個 BP 網(wǎng)絡。 為創(chuàng)建的新 BP 神經(jīng)網(wǎng)絡； PR為網(wǎng)絡輸入 向量取值范圍的矩陣； [S1 S2? SNl]表示網(wǎng)絡 隱含層和輸出層神經(jīng)元的個數(shù)； {TFl TF2? TFN1}表示網(wǎng)絡隱含層和輸出層的傳輸函數(shù)，默認為 ‘ tansig’ ； BTF 表示網(wǎng)絡的訓練函數(shù)，默認為 ‘ trainlm’ ； BLF 表示網(wǎng)絡的權值學習函數(shù)，默認為 ‘ learngdm’ ； PF表示性能數(shù)，默認為 ‘ mse’ 。 2） newcf 函數(shù)用于創(chuàng)建級聯(lián)前向 BP 網(wǎng)絡， newfftd 函數(shù)用于創(chuàng)建一個存在輸入延遲的前向網(wǎng)絡。 神經(jīng)元上的傳遞函數(shù) 傳遞函數(shù)是 BP 網(wǎng)絡的重要組成部分。傳遞函數(shù)又稱為激活函數(shù)，必須是連續(xù)可微的。 BP 網(wǎng)絡經(jīng)常采用 S 型的對數(shù)或 正切函數(shù)和線性函數(shù)。 1) logsig 該傳遞函數(shù) 為 S 型的對數(shù)函數(shù)。調(diào)用格式為： A=logsig（ N） info=logsig（ code） 其中， N： Q 個 S 維 的輸入列向量； A：函數(shù)返回值，位于區(qū)間（ 0， 1）中； 2） tansig 該函數(shù)為雙曲正切 S 型傳遞函數(shù)。調(diào)用格式為： A=tansig（ N） info=tansig（ code） 其中， N： Q 個 S 維的輸入列向量； A：函數(shù)返回值，位于區(qū)間 （ 1， 1）之間。 3） purelin 該函數(shù)為線性傳遞函數(shù)。調(diào)用格式為： A=purelin（ N） info=purelin（ code） 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡應用 12 其中， N： Q 個 S 維的輸入列向量； A：函數(shù)返回值， A=N。 BP 網(wǎng)絡學習函數(shù) 1） learngd 該函數(shù)為梯度下降權值 /閾值學習函數(shù)，它通過神經(jīng)元的輸入和誤差，以及權值和閾值的學習效率，來計算權值或閾值的變化率。調(diào)用格式為： [dW,ls]=learngd(W,P,Z,N,A,T,E,gW,gA,D,LP,LS) [db,ls]=learngd(b,ones(1,Q),Z,N,A,T,E,gW,gA,D,LP,LS) info=learngd(code) 2) learngdm 函數(shù)為梯度下降動量學習函數(shù)，它利用神經(jīng)元的輸入和誤差、權值或閾值的學習速率和動量常數(shù)，來計算權值或閾值的變化率。 BP 網(wǎng)絡訓練函數(shù) 1） train 神經(jīng)網(wǎng)絡訓練函數(shù)，調(diào)用其他訓練函數(shù)，對網(wǎng)絡進行訓練 。該函數(shù)的調(diào)用格式為： [,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai) [,tr,Y,E,Pf,Af]=train(NET,P,T,Pi,Ai,VV,TV) 2) traingd 函數(shù)為梯度下降 BP 算法函數(shù)。 traingdm 函數(shù)為梯度下降動 量 BP 算法函數(shù)。 BP 網(wǎng)絡 在 函數(shù)逼近中 的應用 問題的提出 BP 網(wǎng)絡由很強的映射能力，主要用于模式識別分類、函數(shù)逼近、函數(shù)壓縮等。下面將通過實例來說明 BP 網(wǎng)絡在函數(shù)逼近方面的應用。 要求設計一個 BP網(wǎng)絡， 逼近以下函數(shù)： g(x)=1+sin(k*pi/4*x)， 實現(xiàn)對 該 非線性函數(shù)的逼近 。 其中，分別令 k=1， 2， 4進行仿真，通過調(diào)節(jié)參數(shù)（如隱藏層節(jié)點個數(shù)等）得出信號的頻率與隱層節(jié)點之間，隱層節(jié)點與函數(shù)逼近能力之間的關系。 基于 BP神經(jīng)網(wǎng)絡逼近函數(shù) 步驟 1： 假設頻率參數(shù) k=1， 繪制 要逼近的非線性 函數(shù)的曲線。 函數(shù)的曲線如圖 所示 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡應用 13 k=1。 p=[1:.05:8]。 t=1+sin(k*pi/4*p)。 plot（ p， t， 39。39。)； title(39。要逼近的非線性函數(shù) 39。)。 xlabel(39。時間 39。)。 ylabel(39。非線性函數(shù) 39。)。 圖 要逼近的 非線性函數(shù)曲線 步驟 2： 網(wǎng)絡的建立 應用 newff()函數(shù)建立 BP 網(wǎng)絡結(jié)構(gòu)。隱層神經(jīng)元數(shù)目 n 可以改變，暫設為 n=3，輸出層有一