【文章內(nèi)容簡(jiǎn)介】 ........................................................................ 23 討論 .................................................................................................... 24 BP網(wǎng)絡(luò)在函數(shù)擬合中的應(yīng)用 ............................................................................. 24 問(wèn)題的提出 ............................................................................................ 24 不同隱層神經(jīng)元數(shù)對(duì) BP網(wǎng)絡(luò)擬合函數(shù)的影響 ......................................... 25 不同映射函數(shù)對(duì) BP 網(wǎng)絡(luò)擬合函數(shù)的影響 ................................................. 26 不同算法對(duì) BP網(wǎng)絡(luò)擬合函數(shù)的影響 ....................................................... 29 結(jié)果討論 ............................................................................................... 31 5 結(jié)束語(yǔ) ........................................................................................................................ 32 1. 緒論 人工神經(jīng)網(wǎng)絡(luò)（ artificial neural work， ANN）是由很多的簡(jiǎn)易的神經(jīng)元進(jìn) 4 行復(fù)雜的相互之間的連接而構(gòu)成的一個(gè)繁雜的網(wǎng)絡(luò)系統(tǒng)，它是人腦的基本的特征功能它通過(guò)模擬人腦的基本特性和信息處理方式，形成一個(gè)由大量 稱為神經(jīng)元的簡(jiǎn)單處理單元構(gòu)成的自適應(yīng)非線性動(dòng)態(tài)系統(tǒng) [1]。近些年來(lái)，神經(jīng)網(wǎng)絡(luò)在模擬決策和認(rèn)知的方面越深入的發(fā)展，成為人工智能方向一個(gè)備受青睞的前沿課題。其具有適應(yīng)性的簡(jiǎn)易的基本單元構(gòu)成的互接的網(wǎng)絡(luò)，它能模擬人腦神經(jīng)系統(tǒng)對(duì)現(xiàn)實(shí)世界物體做出的各種反應(yīng)。簡(jiǎn)單來(lái)說(shuō)，它是一種模擬人腦思維的方式，其特點(diǎn)在于可以將分布式的存儲(chǔ)里面的信息進(jìn)行并行協(xié)同處理。由于神經(jīng)元的不同，單個(gè)神經(jīng)元和多個(gè)神經(jīng)元的構(gòu)成網(wǎng)絡(luò)效果也是不一樣的，單個(gè)神經(jīng)元功能有限，構(gòu)成的神經(jīng)網(wǎng)絡(luò)也是較為簡(jiǎn)單的網(wǎng)絡(luò) 。但是多個(gè)神經(jīng)元所構(gòu)成的網(wǎng)絡(luò)就比較豐富了，能實(shí)現(xiàn)的功能行為也是多樣的。它有著強(qiáng)大的非線性建模能力、自組織和自學(xué)習(xí)能力、可塑造能力、并行分布處理方式及良好的魯棒性和容錯(cuò)性等特點(diǎn)，被廣泛應(yīng)用于科研與工程中，所以在很多領(lǐng)域比如模式識(shí)別，組合優(yōu)化，預(yù)測(cè)等被科學(xué)家廣泛的應(yīng)用。 神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程 神經(jīng)網(wǎng)絡(luò)從二十世紀(jì)的誕生到今天已經(jīng)快一個(gè)世紀(jì)了 ,頭尾經(jīng)過(guò)有了 3 個(gè)階段 : 1） 19 世紀(jì) 90 年代 20世紀(jì) 60 年代：研究的興起 自 1890 年關(guān)于人腦結(jié)構(gòu)與功能的研究專著拉開神經(jīng)網(wǎng)絡(luò)研究的序幕，到 20世紀(jì) 60 年代為止， MP 模型、感知器模型和自適應(yīng)線性網(wǎng)絡(luò)等多種網(wǎng)絡(luò)模型及理論都為神經(jīng)網(wǎng)絡(luò)的研究奠定了基礎(chǔ)。 2） 20 世紀(jì) 60 年代 20世紀(jì) 70 年代：低潮的來(lái)臨 時(shí)間到了 1969 年，人們對(duì)感應(yīng)器進(jìn)行思考，發(fā)現(xiàn)了其存在較大的缺陷以及不足， 例如簡(jiǎn)單的線性感知器不可能實(shí)現(xiàn)“異或”的邏輯關(guān)系，再加上計(jì)算機(jī)發(fā)展進(jìn)去全盛時(shí)期，因而很多研究人員把目光移向了人工智能，神經(jīng) 網(wǎng)絡(luò)發(fā)展逐漸的走向了蕭條。但是，很多的科學(xué)家還是在對(duì)這方面的研究中投入了大量的經(jīng)歷，不愿意放棄對(duì)其進(jìn)行的研究。其中， Grossberg 和他夫人就對(duì)自適應(yīng)的共振理論 5 給 予提出，并進(jìn)行了相關(guān)的研究； Anderson 提出了交互存儲(chǔ)器等。正是擁有這些具有重大價(jià)值的科學(xué)研究成果，才推動(dòng)了神經(jīng)網(wǎng)絡(luò)的復(fù)興與再發(fā)展邁出巨大的一步。 3） 20 世紀(jì) 80 年代 90年代：復(fù)興與再發(fā)展 伴隨著科學(xué)的迅速發(fā)展，各個(gè)科學(xué)都取得巨大的進(jìn)步，與此同時(shí)建立在多個(gè)復(fù)雜學(xué)科交叉的神經(jīng)網(wǎng)絡(luò)也開始蓬勃發(fā)展。隨著各種資源和人力的投入，科學(xué)家逐漸意識(shí)到神經(jīng)網(wǎng)絡(luò)的巨大潛力。 John Hopfield 提出了具有開拓性的 Hopfield模型，但是尋求全局最優(yōu) 解的還需深入學(xué)習(xí)。 神經(jīng)網(wǎng)絡(luò)的研究?jī)?nèi)容和局限性 神經(jīng)網(wǎng)絡(luò)的研究?jī)?nèi)容 研究?jī)?nèi)容包含四個(gè)部分 [4]： （ 1）生物原型研究：探索人腦結(jié)構(gòu)和神經(jīng)細(xì)胞的功能機(jī)制，進(jìn)行神經(jīng)系統(tǒng)、生物學(xué)、腦神經(jīng)學(xué)、心理學(xué)、動(dòng)物解剖學(xué)、神經(jīng)科學(xué)、病理學(xué)和其余的生物學(xué)的神經(jīng)系統(tǒng)的專研。 （ 2）理論模型的建立：根據(jù)生物原型和基礎(chǔ)理論的研究成果，尋求建立功能更全面、性能更強(qiáng)大的各類神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、數(shù)據(jù)、仿真等。 （ 3）虛擬模型和算法研究：針對(duì)要探索的題目來(lái)建立相應(yīng)的理論模型，以實(shí)現(xiàn)智能仿真或利用硬件建立模型，或者對(duì)所應(yīng)用的向量算法 的探索。這一系列的操作就是為了探索技術(shù)模型。 （ 4）針對(duì)神經(jīng)網(wǎng)絡(luò)研發(fā)的應(yīng)用系統(tǒng)：在理論基礎(chǔ)上建立知識(shí)工程，完成神經(jīng)網(wǎng)絡(luò)的軟件模擬和硬件實(shí)現(xiàn)，構(gòu)成相應(yīng)的應(yīng)用程序，比如，利用需要的信號(hào)或者模式解決問(wèn)題、改良并排列篩選等。 6 神經(jīng)網(wǎng)絡(luò)研究的局限性 相關(guān)研究發(fā)展迅速但也存在局限性。當(dāng)前存在的問(wèn)題是受限于腦科學(xué)的現(xiàn)有成果，對(duì)人腦思維和記憶機(jī)制及對(duì)生物神經(jīng)網(wǎng)絡(luò)的模擬程度不夠，尚未建立起成熟完整的理論體系，智能水平也不夠高，無(wú)法很好的滿足許多應(yīng)用方面的要求。面對(duì)隨時(shí)變化的實(shí)驗(yàn)?zāi)繕?biāo)，紛繁復(fù)雜的應(yīng)用難題，花費(fèi)了 巨大的精力和資源，編制一些特定的程序、軟件求解。但因缺乏統(tǒng)一的理論指導(dǎo)，這些軟件往往帶有經(jīng)驗(yàn)性質(zhì)不具備通用性，并且在軟件設(shè)計(jì)、實(shí)際運(yùn)行等諸多方面存在不小的缺陷。 神經(jīng)網(wǎng)絡(luò)的應(yīng)用 神經(jīng)網(wǎng)絡(luò)理論利用自己獨(dú)有的組成部分和解決問(wèn)題的方法，在人工智能、復(fù)雜控制、模式處理、機(jī)電工程、醫(yī)療專業(yè)、銀行證券等領(lǐng)域具有很大的使用空間[8]。主要應(yīng)用在以下領(lǐng)域： （ 1） 模式處理。成功應(yīng)用于圖形、符號(hào)、手寫體及語(yǔ)音辨識(shí)，檢測(cè)圖像的 形狀，復(fù)制和壓縮處理等圖像 。 （ 2） 優(yōu)化組合。工業(yè)控 制方面，比如工業(yè)生產(chǎn)控制、機(jī)械控制、電氣控制 和變結(jié)構(gòu)優(yōu)化控制等。 （ 3）機(jī)電工程。汽車系統(tǒng)的方案優(yōu)化、河川徑流的預(yù)測(cè)、水資源的規(guī)劃、地震預(yù)報(bào)、聲納信號(hào)的跟蹤和分析等。 （ 4）醫(yī)療專業(yè)。對(duì)醫(yī)學(xué)設(shè)備檢測(cè)出的數(shù)據(jù)進(jìn)行智能判斷，綜合得出診斷意見。 （ 5）銀行證券。能對(duì)商品價(jià)格、股票價(jià)格和企業(yè)可信度等進(jìn)行短期預(yù)測(cè)，完成金融風(fēng)險(xiǎn)分析評(píng)估。 神經(jīng)網(wǎng)絡(luò)的主要特征 神經(jīng)網(wǎng)絡(luò)的下列特征是非常重要的 7 （ 1）并行分布處理 數(shù)據(jù)系統(tǒng)的數(shù)學(xué)建模一直被困擾的一個(gè)重要問(wèn)題就是數(shù)據(jù)信息量太過(guò)龐大，以此建立一個(gè)高效迅速的數(shù)據(jù)處理 預(yù)測(cè)模型非常重要。由于人工神經(jīng)網(wǎng)絡(luò)有重要的網(wǎng)絡(luò)化結(jié)果，所以將不同的數(shù)據(jù)散布化是其中的一大特點(diǎn)，只有通過(guò)這樣的多線程分布式并行處理才能夠快熟高效的將龐大規(guī)模的大量歷史數(shù)據(jù)進(jìn)行巡邏分析，一起得到一個(gè)合理的神經(jīng)網(wǎng)絡(luò)模型。 （ 2）非線性映射 前文已述，智能建模方法相較于傳統(tǒng)建模方法的最重要的優(yōu)點(diǎn)其實(shí)是具備很強(qiáng)大非線性逼近能力，而現(xiàn)實(shí)中的工程難題絕大多數(shù)都是非線性的，因此人工神經(jīng)網(wǎng)絡(luò)可以很輕松的解決非線性的映射難題，也能夠最大程度的逼近現(xiàn)實(shí)中的梳理關(guān)系，人工神經(jīng)網(wǎng)絡(luò)打破了傳統(tǒng)的建立在線性關(guān)系上的機(jī)器的限制，使人類的處 理信息和思考方式有了極大的提升。 （ 3）通過(guò)訓(xùn)練進(jìn)行學(xué)習(xí) 神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)化結(jié)構(gòu)是建立在一個(gè)個(gè)單個(gè)的神經(jīng)元基礎(chǔ)上的，而建立這些單一的神經(jīng)元之間又是通過(guò)權(quán)重進(jìn)行連接的，而建立和確定這些權(quán)重的就是通過(guò)歷史數(shù)據(jù)訓(xùn)練得到的。由于神經(jīng)網(wǎng)絡(luò)神經(jīng)元個(gè)數(shù)的龐大以及連接方式的問(wèn)題，使得神經(jīng)網(wǎng)絡(luò)具備了重要的處理大量歷史信息的功能，與此同時(shí)，即便是輸入不完整的或者非正確的信息，也能夠通過(guò)大量數(shù)據(jù)的學(xué)習(xí)來(lái)進(jìn)行糾錯(cuò)和修正。 （ 4）適應(yīng)與集成 神經(jīng)網(wǎng)絡(luò)具有大量的處理不確定性信息的能力，這也就保障了輸入數(shù)據(jù)在不完整或者是缺失的情況下，神經(jīng) 網(wǎng)絡(luò)依舊可以根據(jù)現(xiàn)有的條件來(lái)得到最近似逼近的模型。 2 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及 BP神經(jīng)網(wǎng)絡(luò) 神經(jīng)元與網(wǎng)絡(luò)結(jié)構(gòu) 8 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)取決于它的基本處理單元和互連方法。 人工神經(jīng)元 神經(jīng)網(wǎng)絡(luò)的信息是由一個(gè)個(gè)單獨(dú)的類似生物的神經(jīng)元作為基本單位進(jìn)行處理的，每一個(gè)神經(jīng)網(wǎng)絡(luò)的神經(jīng)元都是一個(gè)信息匯集處理和中轉(zhuǎn)單位。圖 是一種三個(gè)輸入的結(jié)構(gòu)模型。 圖 人工神經(jīng)元結(jié)構(gòu)模型 如果神經(jīng)元 j的變量有多個(gè) xi（ i=1,2，?， m）變量輸入和一個(gè) yj變量輸出時(shí)，這幾個(gè)變量的關(guān)系表達(dá)式為： ???????? ?? )(1jjjmi