【正文】 函數(shù)擬合一般是從樣本出發(fā)，對(duì)未知函數(shù)進(jìn)行非線性擬合。在函數(shù)擬合中，可以選擇多種函數(shù)類用來(lái)擬合已知數(shù)據(jù)。 BP neural network。在神經(jīng)網(wǎng)絡(luò)技術(shù)中，BP神經(jīng)網(wǎng)絡(luò)因具有結(jié)構(gòu)、學(xué)習(xí)算法簡(jiǎn)單等特點(diǎn)，近年來(lái)得到廣泛的關(guān)注，相關(guān)技術(shù)已經(jīng)在預(yù)測(cè)、分類等領(lǐng)域中實(shí)現(xiàn)產(chǎn)業(yè)化。本文針對(duì)經(jīng)典的函數(shù)擬合問(wèn)題，以BP神經(jīng)網(wǎng)絡(luò)為工具，力求分析BP神經(jīng)網(wǎng)絡(luò)隱含層神經(jīng)元數(shù)目對(duì)網(wǎng)絡(luò)性能以及函數(shù)擬合效果的影響。 Function fitting目錄1 引言 1 研究意義 1 1 2 神經(jīng)網(wǎng)絡(luò)的發(fā)展現(xiàn)狀 3 本文研究?jī)?nèi)容 3 本文的組織結(jié)構(gòu) 42 人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介 5 5 人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn) 6 6 人工神經(jīng)網(wǎng)絡(luò)的主要學(xué)習(xí)算法 8 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 9 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法 113 基于BP神經(jīng)網(wǎng)絡(luò)的函數(shù)擬合算法設(shè)計(jì)與實(shí)現(xiàn) 14 14 函數(shù)問(wèn)題的提出 14 建立BP神經(jīng)網(wǎng)絡(luò) 15 網(wǎng)絡(luò)仿真 15 網(wǎng)絡(luò)測(cè)試 16 實(shí)驗(yàn)及其結(jié)果分析 18 設(shè)置實(shí)驗(yàn)參數(shù) 18 實(shí)驗(yàn)結(jié)果分析 194 結(jié)論 245 致謝語(yǔ) 25[參考文獻(xiàn)] 261 引言 研究意義 函數(shù)擬合在數(shù)值計(jì)算中有著十分廣泛的應(yīng)用。而對(duì)的近似程度即誤差，也可以有多種計(jì)算方法。神經(jīng)網(wǎng)絡(luò)可以計(jì)算復(fù)雜的輸入和輸出結(jié)果之間的關(guān)系，因此非線性函數(shù)的擬合可以由神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)。（1）Fourier變換的函數(shù)擬合傅里葉（Fourier）變換能將滿足一定條件的某個(gè)函數(shù)表示成三角函數(shù)（正弦函數(shù)或余弦函數(shù)）或者它們的積分的線性組合。傳統(tǒng)的信號(hào)理論，是建立在Fourier分析基礎(chǔ)上的，而Fourier變換作為一種全局性的變化，其有一定的局限性。（3）多小波理論[2]的函數(shù)擬合作為小波理論發(fā)展的一個(gè)重要方向多小波，不僅保持了單小波的優(yōu)點(diǎn)，而且克服了它的缺點(diǎn)。總的說(shuō)來(lái)，函數(shù)擬合工具中函數(shù)的特性決定了最適宜擬合的函數(shù)類型和擬合的效果。1987年，Hecht等人指出了多層前饋網(wǎng)的非線性擬合能力與多變量連續(xù)函數(shù)表示定理[5]之間存在的關(guān)系，而這正是Kolmogrov于1957年證明了的。1991年，Kreinovich得出了一個(gè)如下結(jié)論：在非常微弱的限制下，對(duì)人工神經(jīng)網(wǎng)絡(luò)的隱含層引入任意的非線性單元都可使網(wǎng)絡(luò)具有任意擬合各種連續(xù)函數(shù)的能力[8]。 本文研究?jī)?nèi)容學(xué)習(xí)人工神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)及原理，并探討B(tài)P神經(jīng)網(wǎng)絡(luò)在人工神經(jīng)網(wǎng)絡(luò)的地位和重要性，及其算法設(shè)計(jì)和技巧，利用神經(jīng)網(wǎng)絡(luò)的MATLAB編程分析函數(shù)逼近效果，之處其再函數(shù)逼近方面的良好性能和不足之處。人工神經(jīng)網(wǎng)絡(luò)研究的先鋒，McCulloch和Pitts曾于1943年提出以一種叫做“似腦及其”（mindlike machine）的思想，這種機(jī)器可由基于生物神經(jīng)元特性的互連模型來(lái)制造，這就是神經(jīng)網(wǎng)絡(luò)的概念。這一特性給非線性控制問(wèn)題帶來(lái)新的希望。(4)適應(yīng)與集成：神經(jīng)網(wǎng)絡(luò)能夠適應(yīng)在線運(yùn)行，并能同時(shí)進(jìn)行定量和定性操作。近年來(lái)，一些超大規(guī)模集成電路實(shí)現(xiàn)硬件己經(jīng)問(wèn)世，而且可從市場(chǎng)上購(gòu)到。具有較強(qiáng)的容錯(cuò)能力和聯(lián)想能力單個(gè)神經(jīng)元或者連接對(duì)網(wǎng)絡(luò)整體功能的影響都比較微小。具有較強(qiáng)的學(xué)習(xí)能力神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)可分為有教師學(xué)習(xí)與無(wú)教師學(xué)習(xí)兩類。人工神經(jīng)網(wǎng)絡(luò)由神經(jīng)元模型構(gòu)成；這種由許多神經(jīng)元組成的信息處理網(wǎng)絡(luò)具有并行分布結(jié)構(gòu)。嚴(yán)格地說(shuō)，人工神經(jīng)網(wǎng)絡(luò)是一種具有下列特性的有向圖：　　(1) 對(duì)于每個(gè)節(jié)點(diǎn)i存在一個(gè)狀態(tài)變量；　　(2) 從節(jié)點(diǎn)j至節(jié)點(diǎn)i，存在一個(gè)連接權(quán)系統(tǒng)數(shù)；　　(3) 對(duì)于每個(gè)節(jié)點(diǎn)i，存在一個(gè)閾值qi；　　(4) 對(duì)于每個(gè)節(jié)點(diǎn)i，定義一個(gè)激活函數(shù)fi；對(duì)于最一般的情況，此函數(shù)的形式為： （21）人工神經(jīng)網(wǎng)絡(luò)的互連結(jié)構(gòu)（或稱拓?fù)浣Y(jié)構(gòu)）是指單個(gè)神經(jīng)元之間的連接模式，它是構(gòu)造神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)，也是神經(jīng)網(wǎng)絡(luò)誘發(fā)偏差的主要來(lái)源。此外，還存在第三種學(xué)習(xí)算法，即強(qiáng)化學(xué)習(xí)算法；可把它當(dāng)做有師學(xué)習(xí)的一種特例。有師學(xué)習(xí)算法的例子包括d規(guī)則、廣義規(guī)則或反向傳播算法以及 LvQ算法等。無(wú)師學(xué)習(xí)算法的例子包括Kohonen算法和呷enter一Grossberg自適應(yīng)諧振理論(ART)等。 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是一個(gè)具有三層或者三層以上的階層神經(jīng)網(wǎng)絡(luò)，上下層之間的各種神經(jīng)元實(shí)行權(quán)連接，而各層之間神經(jīng)元無(wú)連接。接下來(lái)，按減小目標(biāo)輸出與實(shí)際輸出之間誤差的方向，從輸出層反向經(jīng)過(guò)各中間層回到輸入層，從而逐層修正各連接權(quán)值，這種算法稱為“誤差逆?zhèn)鞑ニ惴ā?，即BP算法。對(duì)于q個(gè)輸入學(xué)習(xí)樣本:，已知與其對(duì)應(yīng)的輸出樣本:,學(xué)習(xí)的目的是用網(wǎng)絡(luò)的實(shí)際輸出，與目標(biāo)矢量之間的誤差來(lái)修改其權(quán)值,使與期望盡可能地接近。BP網(wǎng)絡(luò)在結(jié)構(gòu)上類似于多層感知器，是一種多層前饋神經(jīng)網(wǎng)絡(luò)。在BP網(wǎng)絡(luò)中，同層節(jié)點(diǎn)之間不存在相互連接，層與層之間多采用互聯(lián)方式，且各層的連接權(quán)值可調(diào)。所以，可將BP神經(jīng)網(wǎng)絡(luò)看作是一個(gè)從輸入到輸出的高度非線性映射，即F: Rn → Rm,f(X) = Y。通過(guò)迭代處理的方法，不斷調(diào)整連接神經(jīng)元的網(wǎng)絡(luò)權(quán)重，使得最終輸出結(jié)果和預(yù)期結(jié)果的誤差最小。形成將輸出端表現(xiàn)出的誤差沿著與輸入信號(hào)相反的方向逐級(jí)向輸入端傳遞的過(guò)程。(3）網(wǎng)絡(luò)訓(xùn)練函數(shù)：train（）函數(shù)，它用于訓(xùn)練建立的BP神經(jīng)網(wǎng)絡(luò)。（2）輸出層的維數(shù)可根據(jù)使用者的要求來(lái)確定。 設(shè)BP網(wǎng)絡(luò)的輸入層有m個(gè)神經(jīng)元,輸出層有n個(gè)神經(jīng)元,隱含層有p個(gè)神經(jīng)元,為輸入層節(jié)點(diǎn),。、分別為的輸入、輸出。為與之間的連接權(quán)(以下稱為輸出層的權(quán)值)。通過(guò)各個(gè)參數(shù)的設(shè)置，觀察BP神經(jīng)網(wǎng)絡(luò)對(duì)非線性函數(shù)擬合的效果。39。 %圖像的標(biāo)題xlabel(39。非線性函數(shù)39。 39。)；其中newff為構(gòu)造前向網(wǎng)絡(luò)的函數(shù)；minmax用于求數(shù)組的最小值和最大值，在這里可表示輸入的上限與下限；trainlm為訓(xùn)練函數(shù)梯度下降法，還可選traingdm ：帶動(dòng)量梯度下降改進(jìn)型；tansig為激活函數(shù)，它正切S型傳遞函數(shù)。y1=sim(net,p) %網(wǎng)絡(luò)仿真，仿真訓(xùn)練BP網(wǎng)絡(luò)figure。39。xlabel(39。仿真輸出－－ 原函數(shù)－39。我們利用train函數(shù)進(jìn)行訓(xùn)練，分別設(shè)置訓(xùn)練時(shí)間為50個(gè)單位時(shí)間，開(kāi)始訓(xùn)練并觀察實(shí)驗(yàn)結(jié)果：=50。根據(jù)圖8我們得出的結(jié)論是這個(gè)網(wǎng)絡(luò)訓(xùn)練過(guò)程十分迅速，而且網(wǎng)絡(luò)的誤差也達(dá)到了要求。y2=sim(net,p) %仿真訓(xùn)練神經(jīng)網(wǎng)絡(luò)figure。