基于bp神經(jīng)網(wǎng)絡(luò)的函數(shù)擬合算法研究(完整版)
【正文】 型；tansig為激活函數(shù)，它正切S型傳遞函數(shù)。39。仿真輸出－－ 原函數(shù)－39。根據(jù)圖8我們得出的結(jié)論是這個網(wǎng)絡(luò)訓(xùn)練過程十分迅速，而且網(wǎng)絡(luò)的誤差也達(dá)到了要求。39。)。為了與之前的實驗結(jié)果比較，從而得出更準(zhǔn)確的結(jié)論，我們改變非線性函數(shù)頻率k = ，然后根據(jù)實驗結(jié)果進(jìn)一步討論。圖35 改變節(jié)點數(shù)目后的誤差變化曲線圖36 改變節(jié)點數(shù)目后的仿真曲線以及原函數(shù)曲線圖37 未經(jīng)網(wǎng)絡(luò)訓(xùn)練輸出結(jié)果一般來講，隱含層神經(jīng)元的數(shù)目越多，則BP神經(jīng)網(wǎng)絡(luò)擬合非線性函數(shù)的能力越強(qiáng)，那么同時網(wǎng)絡(luò)訓(xùn)練所用的時間相對來說要長一些。圖38 改變頻率后非線性函數(shù)原始圖像圖39 改變頻率后的仿真曲線和原函數(shù)曲線圖310 改變頻率情況下經(jīng)網(wǎng)絡(luò)訓(xùn)練后仿真曲線和原函數(shù)曲線通過改變非線性函數(shù)的頻率，我們可以看到，當(dāng)頻率k不斷上升時，函數(shù)的擬合效果越差，當(dāng)改變頻率k=10時，其擬合系數(shù)R，而當(dāng)k=，其擬合系數(shù)R=，函數(shù)更擬合原函數(shù)圖像。同樣的，我們在實驗過程中也改變了非線性函數(shù)的頻率，通過頻率變化曲線，我們可以了解到，當(dāng)頻率改變時，對函數(shù)的擬合效果產(chǎn)生了影響，通常情況下，非線性函數(shù)頻率越高，其對BP神經(jīng)網(wǎng)絡(luò)的要求就越高，其擬合效果就不十分理想。[參考文獻(xiàn)][1] （A輯）1998,19A(3):295300.） [2]Tian Ping Che, Hong Approximation to Nonlinear Operators by NeuralNetworks with Arbitrary Activation Functions and Its Application to Dynamical （4）:135139.[3]邵華平，何正友，[J].湖南師范大學(xué)自然科學(xué)學(xué)報,2003(12): 2226.[4]吳宏建，[J].南京化工大學(xué)學(xué)報,2000(11),22(6):7677. [5]Kolmogrov A the Representation of Continuous Functions of Many Variables by Superposition of Continuous Functions of One Variable and .[6][M].上?？萍汲霭嫔?1981.[7]陳小平，趙鶴鳴，[J].計算機(jī)工程，2008(10)，34(20):2425,28.[8]Kreino rich V Nonlineartity Is Sufficient to Rep resent all Functions byNeural Networks:A ,(4):381.[9] 董軍,[J].信息與控制,1997,26(5):360368.[10] [D].博士學(xué)位論文,西北工業(yè)大學(xué),2006.[11] [M]. 北京: 科學(xué)出版社，2004.[12][J]江南大學(xué)學(xué)報（自然科學(xué)版）2004,1(3):16717147.27。我們有理由相信，只要堅持不懈地努力，來自神經(jīng)網(wǎng)絡(luò)理論研究的一些新理論和新方法必定會給21世紀(jì)科學(xué)研究帶來源源不斷的動力[12]。網(wǎng)絡(luò)非線性程度越高，對于BP網(wǎng)絡(luò)的要求也越高，則相同的網(wǎng)絡(luò)擬合效果要差一點。若隱含層節(jié)點數(shù)目太少，則會影響網(wǎng)絡(luò)的精度。 %依次改變頻率n=10。圖34 訓(xùn)練前后的仿真曲線和原函數(shù)曲線 實驗及其結(jié)果分析 設(shè)置實驗參數(shù)（1）改變隱含層神經(jīng)元數(shù)目我們已知隱含層神經(jīng)元數(shù)目的不同會導(dǎo)致BP神經(jīng)網(wǎng)絡(luò)對函數(shù)擬合效果造成不同的效果。39。匯出結(jié)果圖如圖34。得到的結(jié)果如圖7所示：圖32 仿真曲線和原函數(shù)曲線從圖像上可以看出，使用newff建立BP神經(jīng)網(wǎng)絡(luò)的時候，所取的權(quán)值和閾值都是隨機(jī)的，所以輸出結(jié)果很差，兩個函數(shù)的圖像相差很多，根本達(dá)不到函數(shù)擬合的目的，并且每次運行的結(jié)果也有所不同。未訓(xùn)練網(wǎng)絡(luò)的輸出結(jié)果39。 網(wǎng)絡(luò)仿真利用sim函數(shù)進(jìn)行網(wǎng)絡(luò)仿真，訓(xùn)練BP網(wǎng)絡(luò)，畫出仿真圖形和原函數(shù)的圖形。 %y軸的含義 得到函數(shù)圖像如圖6所示：圖31 非線性函數(shù)圖像 建立BP神經(jīng)網(wǎng)絡(luò)本次實驗利用newff建立神經(jīng)網(wǎng)絡(luò)，n = 10表示神經(jīng)元個數(shù)： net = newff(minmax(p),[n,1],{39。要擬合的函數(shù)圖像 39。顯然,調(diào)整權(quán)值的原則是使誤差不斷地減小,因此應(yīng)使權(quán)值的調(diào)整量與誤差的梯度下降成正比,故而有: （211） （212）上式中負(fù)號表示梯度下降,常數(shù)表示比例系數(shù),在訓(xùn)練中反映了學(xué)習(xí)速率。為輸出層節(jié)點。 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法（1）輸入和輸出層的設(shè)計 。然后用輸出層的誤差調(diào)整輸出層權(quán)矩陣，并用此誤差估計輸出層的直接前導(dǎo)層的誤差，再用輸出層前一層誤差估計更前一層的誤差。BP神經(jīng)網(wǎng)絡(luò)是一種單向傳播的神經(jīng)網(wǎng)絡(luò)，輸入信號從輸入層節(jié)點依次傳過各隱含層節(jié)點，最后傳到輸出層節(jié)點。它是通過連續(xù)不斷地在相對于誤差函數(shù)斜率下降的方向上計算網(wǎng)絡(luò)權(quán)值和偏差的變化而逐漸擬合目標(biāo)的。BP網(wǎng)絡(luò)的結(jié)構(gòu)如圖23所示。無師學(xué)習(xí)算法不需要知道期望輸出。若假設(shè)各神經(jīng)元的閾值分別是θj，j=1,2,…,m，則各神經(jīng)元的輸出yj, j=1,2,..,m分別為 （22）其中，由所有連接權(quán)值wji構(gòu)成的連接權(quán)值矩陣W為： （23）在實際應(yīng)用中，該矩陣是通過大量的訓(xùn)練示例學(xué)習(xí)而形成的。具有很強(qiáng)的泛化（Generalization）能力。十分顯然，神經(jīng)網(wǎng)絡(luò)由于其學(xué)習(xí)和適應(yīng)、自組織、函數(shù)擬合和大規(guī)模并行處理等能力，因而具有用于智能控制系統(tǒng)的潛力。一個經(jīng)過適當(dāng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)具有歸納全部數(shù)據(jù)的能力。 本文的組織結(jié)構(gòu)本文總共分為四章，各個章節(jié)內(nèi)容如下：第一章主要介紹課題研究意義以及當(dāng)今神經(jīng)網(wǎng)絡(luò)的發(fā)展現(xiàn)狀；第二章介紹了神經(jīng)網(wǎng)絡(luò)的主要特性和結(jié)構(gòu)，了解BP神經(jīng)網(wǎng)絡(luò)的架構(gòu)；第三章主要介紹BP神經(jīng)網(wǎng)絡(luò)解決函數(shù)擬合實驗的設(shè)計并對結(jié)果進(jìn)行簡單的分析；第四章對本文做出總結(jié)。雖然后來Poggio指出這兩方面實際上是無關(guān)的[7]，但是不久之后許多學(xué)者都嚴(yán)格地證明了隱含層函數(shù)為S型函數(shù)的三層BP網(wǎng)絡(luò)可以任意精度地擬合任意緊集上的連續(xù)函數(shù)。多小波具有對稱性、擬合性和
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號-1