【文章內(nèi)容簡介】 ........................................................................ 23 討論 .................................................................................................... 24 BP網(wǎng)絡(luò)在函數(shù)擬合中的應(yīng)用 ............................................................................. 24 問題的提出 ............................................................................................ 24 不同隱層神經(jīng)元數(shù)對 BP網(wǎng)絡(luò)擬合函數(shù)的影響 ......................................... 25 不同映射函數(shù)對 BP 網(wǎng)絡(luò)擬合函數(shù)的影響 ................................................. 26 不同算法對 BP網(wǎng)絡(luò)擬合函數(shù)的影響 ....................................................... 29 結(jié)果討論 ............................................................................................... 31 5 結(jié)束語 ........................................................................................................................ 32 1. 緒論 人工神經(jīng)網(wǎng)絡(luò)（ artificial neural work， ANN）是由很多的簡易的神經(jīng)元進 4 行復(fù)雜的相互之間的連接而構(gòu)成的一個繁雜的網(wǎng)絡(luò)系統(tǒng)，它是人腦的基本的特征功能它通過模擬人腦的基本特性和信息處理方式，形成一個由大量 稱為神經(jīng)元的簡單處理單元構(gòu)成的自適應(yīng)非線性動態(tài)系統(tǒng) [1]。近些年來，神經(jīng)網(wǎng)絡(luò)在模擬決策和認知的方面越深入的發(fā)展，成為人工智能方向一個備受青睞的前沿課題。其具有適應(yīng)性的簡易的基本單元構(gòu)成的互接的網(wǎng)絡(luò)，它能模擬人腦神經(jīng)系統(tǒng)對現(xiàn)實世界物體做出的各種反應(yīng)。簡單來說，它是一種模擬人腦思維的方式，其特點在于可以將分布式的存儲里面的信息進行并行協(xié)同處理。由于神經(jīng)元的不同，單個神經(jīng)元和多個神經(jīng)元的構(gòu)成網(wǎng)絡(luò)效果也是不一樣的，單個神經(jīng)元功能有限，構(gòu)成的神經(jīng)網(wǎng)絡(luò)也是較為簡單的網(wǎng)絡(luò) 。但是多個神經(jīng)元所構(gòu)成的網(wǎng)絡(luò)就比較豐富了，能實現(xiàn)的功能行為也是多樣的。它有著強大的非線性建模能力、自組織和自學(xué)習(xí)能力、可塑造能力、并行分布處理方式及良好的魯棒性和容錯性等特點，被廣泛應(yīng)用于科研與工程中，所以在很多領(lǐng)域比如模式識別，組合優(yōu)化，預(yù)測等被科學(xué)家廣泛的應(yīng)用。 神經(jīng)網(wǎng)絡(luò)的發(fā)展歷程 神經(jīng)網(wǎng)絡(luò)從二十世紀的誕生到今天已經(jīng)快一個世紀了 ,頭尾經(jīng)過有了 3 個階段 : 1） 19 世紀 90 年代 20世紀 60 年代：研究的興起 自 1890 年關(guān)于人腦結(jié)構(gòu)與功能的研究專著拉開神經(jīng)網(wǎng)絡(luò)研究的序幕，到 20世紀 60 年代為止， MP 模型、感知器模型和自適應(yīng)線性網(wǎng)絡(luò)等多種網(wǎng)絡(luò)模型及理論都為神經(jīng)網(wǎng)絡(luò)的研究奠定了基礎(chǔ)。 2） 20 世紀 60 年代 20世紀 70 年代：低潮的來臨 時間到了 1969 年，人們對感應(yīng)器進行思考，發(fā)現(xiàn)了其存在較大的缺陷以及不足， 例如簡單的線性感知器不可能實現(xiàn)“異或”的邏輯關(guān)系，再加上計算機發(fā)展進去全盛時期，因而很多研究人員把目光移向了人工智能，神經(jīng) 網(wǎng)絡(luò)發(fā)展逐漸的走向了蕭條。但是，很多的科學(xué)家還是在對這方面的研究中投入了大量的經(jīng)歷，不愿意放棄對其進行的研究。其中， Grossberg 和他夫人就對自適應(yīng)的共振理論 5 給 予提出，并進行了相關(guān)的研究； Anderson 提出了交互存儲器等。正是擁有這些具有重大價值的科學(xué)研究成果，才推動了神經(jīng)網(wǎng)絡(luò)的復(fù)興與再發(fā)展邁出巨大的一步。 3） 20 世紀 80 年代 90年代：復(fù)興與再發(fā)展 伴隨著科學(xué)的迅速發(fā)展，各個科學(xué)都取得巨大的進步，與此同時建立在多個復(fù)雜學(xué)科交叉的神經(jīng)網(wǎng)絡(luò)也開始蓬勃發(fā)展。隨著各種資源和人力的投入，科學(xué)家逐漸意識到神經(jīng)網(wǎng)絡(luò)的巨大潛力。 John Hopfield 提出了具有開拓性的 Hopfield模型，但是尋求全局最優(yōu) 解的還需深入學(xué)習(xí)。 神經(jīng)網(wǎng)絡(luò)的研究內(nèi)容和局限性 神經(jīng)網(wǎng)絡(luò)的研究內(nèi)容 研究內(nèi)容包含四個部分 [4]： （ 1）生物原型研究：探索人腦結(jié)構(gòu)和神經(jīng)細胞的功能機制，進行神經(jīng)系統(tǒng)、生物學(xué)、腦神經(jīng)學(xué)、心理學(xué)、動物解剖學(xué)、神經(jīng)科學(xué)、病理學(xué)和其余的生物學(xué)的神經(jīng)系統(tǒng)的專研。 （ 2）理論模型的建立：根據(jù)生物原型和基礎(chǔ)理論的研究成果，尋求建立功能更全面、性能更強大的各類神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、數(shù)據(jù)、仿真等。 （ 3）虛擬模型和算法研究：針對要探索的題目來建立相應(yīng)的理論模型，以實現(xiàn)智能仿真或利用硬件建立模型，或者對所應(yīng)用的向量算法 的探索。這一系列的操作就是為了探索技術(shù)模型。 （ 4）針對神經(jīng)網(wǎng)絡(luò)研發(fā)的應(yīng)用系統(tǒng)：在理論基礎(chǔ)上建立知識工程，完成神經(jīng)網(wǎng)絡(luò)的軟件模擬和硬件實現(xiàn)，構(gòu)成相應(yīng)的應(yīng)用程序，比如，利用需要的信號或者模式解決問題、改良并排列篩選等。 6 神經(jīng)網(wǎng)絡(luò)研究的局限性 相關(guān)研究發(fā)展迅速但也存在局限性。當前存在的問題是受限于腦科學(xué)的現(xiàn)有成果，對人腦思維和記憶機制及對生物神經(jīng)網(wǎng)絡(luò)的模擬程度不夠，尚未建立起成熟完整的理論體系，智能水平也不夠高，無法很好的滿足許多應(yīng)用方面的要求。面對隨時變化的實驗?zāi)繕耍姺睆?fù)雜的應(yīng)用難題，花費了 巨大的精力和資源，編制一些特定的程序、軟件求解。但因缺乏統(tǒng)一的理論指導(dǎo)，這些軟件往往帶有經(jīng)驗性質(zhì)不具備通用性，并且在軟件設(shè)計、實際運行等諸多方面存在不小的缺陷。 神經(jīng)網(wǎng)絡(luò)的應(yīng)用 神經(jīng)網(wǎng)絡(luò)理論利用自己獨有的組成部分和解決問題的方法，在人工智能、復(fù)雜控制、模式處理、機電工程、醫(yī)療專業(yè)、銀行證券等領(lǐng)域具有很大的使用空間[8]。主要應(yīng)用在以下領(lǐng)域： （ 1） 模式處理。成功應(yīng)用于圖形、符號、手寫體及語音辨識，檢測圖像的 形狀，復(fù)制和壓縮處理等圖像 。 （ 2） 優(yōu)化組合。工業(yè)控 制方面，比如工業(yè)生產(chǎn)控制、機械控制、電氣控制 和變結(jié)構(gòu)優(yōu)化控制等。 （ 3）機電工程。汽車系統(tǒng)的方案優(yōu)化、河川徑流的預(yù)測、水資源的規(guī)劃、地震預(yù)報、聲納信號的跟蹤和分析等。 （ 4）醫(yī)療專業(yè)。對醫(yī)學(xué)設(shè)備檢測出的數(shù)據(jù)進行智能判斷，綜合得出診斷意見。 （ 5）銀行證券。能對商品價格、股票價格和企業(yè)可信度等進行短期預(yù)測，完成金融風險分析評估。 神經(jīng)網(wǎng)絡(luò)的主要特征 神經(jīng)網(wǎng)絡(luò)的下列特征是非常重要的 7 （ 1）并行分布處理 數(shù)據(jù)系統(tǒng)的數(shù)學(xué)建模一直被困擾的一個重要問題就是數(shù)據(jù)信息量太過龐大，以此建立一個高效迅速的數(shù)據(jù)處理 預(yù)測模型非常重要。由于人工神經(jīng)網(wǎng)絡(luò)有重要的網(wǎng)絡(luò)化結(jié)果，所以將不同的數(shù)據(jù)散布化是其中的一大特點，只有通過這樣的多線程分布式并行處理才能夠快熟高效的將龐大規(guī)模的大量歷史數(shù)據(jù)進行巡邏分析，一起得到一個合理的神經(jīng)網(wǎng)絡(luò)模型。 （ 2）非線性映射 前文已述，智能建模方法相較于傳統(tǒng)建模方法的最重要的優(yōu)點其實是具備很強大非線性逼近能力，而現(xiàn)實中的工程難題絕大多數(shù)都是非線性的，因此人工神經(jīng)網(wǎng)絡(luò)可以很輕松的解決非線性的映射難題，也能夠最大程度的逼近現(xiàn)實中的梳理關(guān)系，人工神經(jīng)網(wǎng)絡(luò)打破了傳統(tǒng)的建立在線性關(guān)系上的機器的限制，使人類的處 理信息和思考方式有了極大的提升。 （ 3）通過訓(xùn)練進行學(xué)習(xí) 神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)化結(jié)構(gòu)是建立在一個個單個的神經(jīng)元基礎(chǔ)上的，而建立這些單一的神經(jīng)元之間又是通過權(quán)重進行連接的，而建立和確定這些權(quán)重的就是通過歷史數(shù)據(jù)訓(xùn)練得到的。由于神經(jīng)網(wǎng)絡(luò)神經(jīng)元個數(shù)的龐大以及連接方式的問題，使得神經(jīng)網(wǎng)絡(luò)具備了重要的處理大量歷史信息的功能，與此同時，即便是輸入不完整的或者非正確的信息，也能夠通過大量數(shù)據(jù)的學(xué)習(xí)來進行糾錯和修正。 （ 4）適應(yīng)與集成 神經(jīng)網(wǎng)絡(luò)具有大量的處理不確定性信息的能力，這也就保障了輸入數(shù)據(jù)在不完整或者是缺失的情況下，神經(jīng) 網(wǎng)絡(luò)依舊可以根據(jù)現(xiàn)有的條件來得到最近似逼近的模型。 2 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及 BP神經(jīng)網(wǎng)絡(luò) 神經(jīng)元與網(wǎng)絡(luò)結(jié)構(gòu) 8 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)取決于它的基本處理單元和互連方法。 人工神經(jīng)元 神經(jīng)網(wǎng)絡(luò)的信息是由一個個單獨的類似生物的神經(jīng)元作為基本單位進行處理的，每一個神經(jīng)網(wǎng)絡(luò)的神經(jīng)元都是一個信息匯集處理和中轉(zhuǎn)單位。圖 是一種三個輸入的結(jié)構(gòu)模型。 圖 人工神經(jīng)元結(jié)構(gòu)模型 如果神經(jīng)元 j的變量有多個 xi（ i=1,2，?， m）變量輸入和一個 yj變量輸出時，這幾個變量的關(guān)系表達式為： ???????? ?? )(1jjjmi