【正文】 算智能，成為人工智能的一個(gè)重要方向。 神經(jīng)網(wǎng)絡(luò) 具 有非線性 自 適應(yīng) 的 信息處理能力，克服了傳統(tǒng)人工智能方法對(duì)于直覺的缺陷， 因而 在神經(jīng)專家系統(tǒng)、模式識(shí)別、智能控制、組合優(yōu)化、預(yù)測(cè)等領(lǐng)域得到成功應(yīng)用 [2]。神經(jīng)網(wǎng)絡(luò)具有大規(guī)模并行、分布式存儲(chǔ)和處理、自組織、自適應(yīng)和自學(xué)習(xí)能力，特別適合處理需要同時(shí)考慮許多因素和條件的、不精確和模糊的信息處理問題。最后對(duì) BP 神經(jīng)網(wǎng)絡(luò)算法進(jìn)行了展望。采用 Matlab 軟件編程實(shí)現(xiàn) BP 神經(jīng)網(wǎng)絡(luò) 算法。 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡(luò)應(yīng)用 目 錄 1 緒論 ........................................................... 1 人工神經(jīng)網(wǎng)絡(luò)的研究背景和意義 ............................... 1 神經(jīng)網(wǎng)絡(luò)的發(fā)展與研究現(xiàn)狀 ................................... 2 神經(jīng)網(wǎng)絡(luò)的研究?jī)?nèi)容 和目前存在的問題 ......................... 3 神經(jīng)網(wǎng)絡(luò)的應(yīng)用 ............................................ 4 2 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及 BP 神經(jīng) 網(wǎng)絡(luò) ...................................... 4 神經(jīng)元與網(wǎng)絡(luò)結(jié)構(gòu) .......................................... 4 BP 神經(jīng)網(wǎng)絡(luò)及其原理 ....................................... 7 BP 神經(jīng)網(wǎng)絡(luò)的主要功能 ...................................... 9 BP 網(wǎng)絡(luò)的 優(yōu)點(diǎn)以及 局限性 .................................... 9 3 BP 神經(jīng)網(wǎng)絡(luò)在 實(shí)例 中的應(yīng)用 ...................................... 10 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡(luò)工具箱函數(shù) ..................... 10 BP 網(wǎng)絡(luò)在函數(shù)逼近中的應(yīng)用 ................................. 12 BP 網(wǎng)絡(luò)在 樣本 含量估計(jì)中的應(yīng)用 ............................. 17 4 結(jié)束語 ........................................................ 23 參考文獻(xiàn) : ....................................................... 24 英文摘要 ........................................................ 25 致 謝 ........................................................ 26 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡(luò)應(yīng)用 1 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡(luò)應(yīng)用 蔣亮亮 南京信息工程大學(xué) 濱江學(xué)院 自動(dòng)化專業(yè)， 南京 210044 摘要 :本文首先說明課題研究的目的和意義，評(píng)述課題的國內(nèi)外研究現(xiàn)狀，引出目前存在的問題。然后分析了神經(jīng)網(wǎng)絡(luò)算法的基本原理，給出經(jīng)典神經(jīng)網(wǎng)絡(luò)算法的具體實(shí)現(xiàn)方法，總結(jié)神經(jīng)網(wǎng)絡(luò)算法的特點(diǎn)，并給出神經(jīng)網(wǎng)絡(luò)算法的基本流程。將神經(jīng)網(wǎng)絡(luò)算法應(yīng)用于 函數(shù)逼近和樣本含量估計(jì) 問題 中 ，并分析相關(guān)參數(shù)對(duì)算法運(yùn)行結(jié)果的影響。 關(guān)鍵詞 :神經(jīng)網(wǎng)絡(luò)； BP 神經(jīng)網(wǎng)絡(luò)； 函數(shù)逼近 1 緒論 人工 神經(jīng)網(wǎng)絡(luò)（ Artificial Neural Networks， NN）是由大量的、簡(jiǎn)單的處理單元（稱為神經(jīng)元）廣泛地互相連接而形成的復(fù)雜網(wǎng)絡(luò)系統(tǒng)，它反映了人腦功能的許多基本特征，是一個(gè)高度復(fù)雜的非線性動(dòng)力學(xué)系統(tǒng) [1]。神經(jīng)網(wǎng)絡(luò)的發(fā)展與神經(jīng)科學(xué)、數(shù)理科學(xué)、認(rèn)知科學(xué)、計(jì)算機(jī)科學(xué)、人工智能、 信息科學(xué)、控制論、機(jī)器人學(xué)、微電子學(xué)、心理學(xué)、微電子學(xué)、心理學(xué)、光計(jì)算、分子生物學(xué)等有關(guān)，是一門新興的邊緣交叉學(xué)科。神經(jīng)網(wǎng)絡(luò)與其他傳統(tǒng)方法相組合，將推動(dòng) 人工 智能和信息處理技術(shù)不斷發(fā)展。 MATLAB 是一種科學(xué)與工程計(jì)算 的高級(jí)語言，廣泛地運(yùn)用于包括信號(hào)與圖像處理，控制系統(tǒng)設(shè)計(jì)，系統(tǒng)仿真等諸多領(lǐng)域。神經(jīng)網(wǎng)絡(luò)工具箱提供了很多經(jīng)典的學(xué)習(xí)算法，使用它能夠快速實(shí)現(xiàn)對(duì)實(shí)際問題的建模求解。 人工神經(jīng)網(wǎng)絡(luò)的研究背景和意義 人工神經(jīng)網(wǎng)絡(luò)是由具有適應(yīng)性的簡(jiǎn)單單元組成的廣泛并行互連的網(wǎng)絡(luò)，它的組織能夠模擬生物神經(jīng)系 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡(luò)應(yīng)用 2 統(tǒng)對(duì)真實(shí)世界物體所作出的交互反應(yīng) [5]。雖然單個(gè)神經(jīng)元的結(jié)構(gòu)極其簡(jiǎn)單，功能有限，但大量神經(jīng)元構(gòu)成的網(wǎng)絡(luò)系統(tǒng)所能實(shí)現(xiàn)的行為卻是極其豐富多彩的。（ 2）爭(zhēng)取構(gòu)造出盡可能與人腦具有相似功能的計(jì)算機(jī)，即神經(jīng)網(wǎng)絡(luò)計(jì)算機(jī)。 人工神經(jīng)網(wǎng)絡(luò)特有的非線性適應(yīng)性信息處理能力，克服了傳統(tǒng)人工智能方法對(duì)于直覺，如模式、語音識(shí)別、非結(jié)構(gòu)化信息處理方面的缺陷，使之在神經(jīng)專家系統(tǒng)、模式識(shí)別、智能控制 、組合優(yōu)化、預(yù)測(cè)等領(lǐng)域得到成功應(yīng)用。近年來，人工神經(jīng)網(wǎng)絡(luò)正向模擬人類認(rèn)知的道路上更加深入發(fā)展，與模糊系統(tǒng)、遺傳算法、進(jìn)化機(jī)制等結(jié)合，形成計(jì)算智能，成為人工智能的一個(gè)重要方向，將在實(shí)際應(yīng)用中得到發(fā)展。神經(jīng)計(jì)算機(jī)的研究發(fā)展很快，已有產(chǎn)品進(jìn)入市場(chǎng)。 神經(jīng)網(wǎng)絡(luò)的發(fā)展 與 研究 現(xiàn)狀 神經(jīng)網(wǎng)絡(luò)的發(fā)展 神經(jīng)網(wǎng)絡(luò)起源于 20 世紀(jì) 40 年代，至今發(fā)展已半個(gè)多世紀(jì)，大致分為三個(gè)階段 【 7】 。這個(gè)時(shí)期的主要特點(diǎn)是多種網(wǎng)絡(luò)的模型的產(chǎn)生與學(xué)習(xí)算法的確定。不過仍 有 不少學(xué)者繼續(xù)對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行研究。這些都是在 20 世紀(jì) 70 年代和 20 世紀(jì) 80 年代初進(jìn)行的工作。這個(gè)時(shí)期最具有標(biāo)志性的人物是美國加州工學(xué)院的物理學(xué)家 John Hopfield。 Hopfield 網(wǎng)絡(luò)是一個(gè)互連的非線性動(dòng)力學(xué)網(wǎng)絡(luò)，它解決問題的方法是一種反復(fù)運(yùn)算的動(dòng)態(tài)過程，這是符號(hào)邏輯處理方式做不具備的性質(zhì)。 神經(jīng)網(wǎng)絡(luò)的現(xiàn)狀 進(jìn)入 20 世紀(jì) 90 年代以來，神經(jīng)網(wǎng) 絡(luò)由于應(yīng)用面還不夠?qū)?，結(jié)果不夠精確，存在可信度問題，從而進(jìn)入了 認(rèn)識(shí)與應(yīng)用研究期。 2）充分發(fā)揮兩種技術(shù)各自的優(yōu)勢(shì)是一個(gè)有效方法 。 4）進(jìn)一步對(duì)生物神經(jīng)系統(tǒng)進(jìn)行研究 ， 不斷地豐富對(duì)人腦的認(rèn)識(shí)。目前 ， 主要的研究工作集中 在 以下四方面 [6]： （ 1） 生物原型研究：從生理學(xué)、心理學(xué)、解剖學(xué)、腦科學(xué)、病理學(xué)生物科學(xué)方面研究神經(jīng)細(xì)胞、神經(jīng)網(wǎng)絡(luò)、神經(jīng)系統(tǒng)的生物原型結(jié) 構(gòu)及其功能機(jī)理。 （ 3） 網(wǎng)絡(luò)模型與算法研究：在理論模型研究的基礎(chǔ) 上構(gòu)成具體的神經(jīng)網(wǎng)絡(luò)模型 ， 以實(shí)現(xiàn)計(jì)算機(jī)模擬或準(zhǔn)備制作硬件 ， 包括網(wǎng)絡(luò)學(xué)習(xí)算法的研究。 （ 4）神經(jīng)網(wǎng)絡(luò)應(yīng)用系統(tǒng)：在網(wǎng)絡(luò)模型與算法研究的基礎(chǔ)上 ， 利用神經(jīng)網(wǎng)絡(luò)組成實(shí)際的應(yīng)用系統(tǒng) ， 例如 ， 完成某種信號(hào)處理或模式識(shí)別的功能、構(gòu)成專家系統(tǒng)、制成機(jī)器人等。當(dāng)前存在的問題是智能水平還不高 ， 許多應(yīng)用方面的要求還不能得到很好的滿足；網(wǎng)絡(luò)分析與綜合的一些理論性問題還未得到很好的解決。針對(duì)千變?nèi)f化的應(yīng)用對(duì)象 ， 各類復(fù)雜的求解問題 ， 編制一些特定的程序、軟件求解 ， 耗費(fèi)了大量的人力和物力。在微機(jī)飛速發(fā)展的今天 ， 很多都已不能滿足發(fā)展的需要。下面列出一些主要應(yīng)用領(lǐng)域 [4]： （ 1）模式識(shí)別和圖像處理。 （ 2）控制和優(yōu)化。 （ 3）預(yù)報(bào)和 智能信息管理。 （ 4）通信。 （ 5）空間科學(xué)。 2 神經(jīng) 網(wǎng)絡(luò)結(jié)構(gòu)及 BP 神經(jīng) 網(wǎng)絡(luò) 神經(jīng)元與網(wǎng)絡(luò)結(jié)構(gòu) 人工神經(jīng)網(wǎng)絡(luò)（ artificial neural work， ANN）是模仿生物神經(jīng)網(wǎng)絡(luò)功能的一種經(jīng)驗(yàn)?zāi)Ｐ?。神?jīng)網(wǎng)絡(luò)是由若干簡(jiǎn)單（通常是自適應(yīng)的）元件及其層次組織 ， 以大規(guī)模并行連接方式構(gòu)造而成的網(wǎng)絡(luò)，按照生物神經(jīng)網(wǎng)絡(luò)類似的方式處理輸入的信息。 神經(jīng)網(wǎng)絡(luò)是由大量的處理單元（神經(jīng)元）互相連接而成的網(wǎng)絡(luò)。但是，實(shí)際上神經(jīng)網(wǎng)絡(luò)并沒有完全反映大腦的功能，只是對(duì)生物神經(jīng)網(wǎng)絡(luò)進(jìn)行了某種抽象、簡(jiǎn)化和模擬 [8]。神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)和識(shí)別取決于各種神經(jīng)元連接權(quán)系數(shù)的動(dòng)態(tài)演化過程。由于神經(jīng)網(wǎng)絡(luò)中神經(jīng)元間復(fù)雜的連接關(guān)系和各神經(jīng)元傳遞信號(hào)的非線性方式，輸入和輸出信號(hào)間可以構(gòu)建出各種各樣的關(guān)系，因此可以用來作為黑箱模型，表達(dá)那些用機(jī)理模型還無法精確描述、但輸入和輸出之間確實(shí)有客觀的、確定性的或模糊性的規(guī)律。 生物神經(jīng)元 基于 MATLAB 的 BP 神經(jīng)網(wǎng)絡(luò)應(yīng)用 5 人腦大約由 1012個(gè)神經(jīng)元組成，神經(jīng)元互相連接成神經(jīng)網(wǎng)絡(luò)。它主要由細(xì)胞體、樹突、軸突和突觸 (Synapse，又稱神經(jīng)鍵 )組成。 圖 生物神經(jīng)元 從神經(jīng)元各組成部分的功能來看，信息的處理與傳遞主要發(fā)生在突觸附近。 人工神經(jīng) 元 歸納一下生物神經(jīng)元傳遞信息的過程：生物神經(jīng)元是一個(gè)多輸入、單輸出單元。 圖 人工神經(jīng)元（感知器）示意圖 當(dāng)神經(jīng)元 j 有多個(gè)輸入 xi(i=1， 2,?, m)和單個(gè)輸出 yj時(shí)，輸入和輸出的關(guān)系可表示為 : ???????? ?? )(1jjjmi iijj sfyxws ? () 其中 j為閾值， wij為從神經(jīng)元 i 到 神經(jīng)元 j 的連接權(quán)重因子， f( )為傳遞函數(shù)，或稱激勵(lì)函數(shù)。 神經(jīng)網(wǎng)絡(luò)連接的幾種基本形式 [17]： 1） 前向網(wǎng)絡(luò) 前向網(wǎng)絡(luò)結(jié)構(gòu)如圖 ， 網(wǎng)絡(luò)中的神經(jīng)元是分層排列的，每個(gè)神經(jīng)元只與前一層的神經(jīng)元相連接。每一層的神經(jīng)元只接受來自前一層神經(jīng)元的輸入，后面的層對(duì)前面的層沒有信號(hào)反饋。感知器網(wǎng)絡(luò)和 BP 網(wǎng)絡(luò)均屬于前向網(wǎng)絡(luò)。 圖 有反饋的前向網(wǎng)絡(luò)結(jié)構(gòu) 3) 層 內(nèi)互連前向網(wǎng)絡(luò) 其結(jié)構(gòu)如圖 所示，通過層內(nèi)神經(jīng)元的相互結(jié)合，可以實(shí)現(xiàn)同一層神經(jīng)元之間的橫向抑制或興奮機(jī)制。例如，可利用橫向抑制機(jī)理把某層內(nèi)的具有最大輸出的神經(jīng)元挑選出來，從而抑制其他神經(jīng)元，使之處于無輸出狀態(tài)。 Hopfield 網(wǎng)絡(luò)和Boltzmann 機(jī)均屬于這種類型。而在相互結(jié)合網(wǎng)絡(luò)中，信號(hào)要在神經(jīng)元之間反復(fù)傳遞，網(wǎng)絡(luò)處于一種不斷變化狀態(tài)的動(dòng)態(tài)之中。根據(jù)網(wǎng)絡(luò)的結(jié)構(gòu)和神經(jīng)元的特性，網(wǎng)絡(luò)的 運(yùn)行還有可能進(jìn)入周期振蕩或其他如混沌平衡狀態(tài)。 BP 神經(jīng)網(wǎng)絡(luò) 及其原理