【正文】 可用于模式識(shí)別和函數(shù)逼近。反饋型網(wǎng)絡(luò)的所有節(jié)點(diǎn)都是計(jì)算單元，同時(shí)可接受輸入并向外?！?c) (b) (a) ……………… 互連網(wǎng)絡(luò)模型在這類(lèi)模型中，任意兩個(gè)神經(jīng)元之間都有相互連接的關(guān)系。傳遞函數(shù)f(x)可為線性函數(shù)，或S狀的非線性函數(shù)，或具有任意階導(dǎo)數(shù)的非線性函數(shù)，常用的非線性函數(shù)有閥值函數(shù)、雙向閥值函數(shù)、S型函數(shù)、雙曲正切函數(shù)、高斯函數(shù)等。另外還有一個(gè)閥值q（或偏置b=q）.： 229。神經(jīng)細(xì)胞通過(guò)突觸復(fù)雜的結(jié)合著，形成了大腦的復(fù)雜的神經(jīng)網(wǎng)絡(luò)系統(tǒng)。由于實(shí)驗(yàn)測(cè)試數(shù)據(jù)或處理不當(dāng)均會(huì)引起模型與對(duì)象特征不一致，這時(shí)閉環(huán)系統(tǒng)特征方程還會(huì)存在純滯后項(xiàng)。（4）水利工程 近年來(lái)，我國(guó)水利工程領(lǐng)域的科技工作者已成功地將神經(jīng)網(wǎng)絡(luò)的方法用于水利發(fā)電過(guò)程辨識(shí)和控制、河川徑流預(yù)測(cè)、河流水質(zhì)分類(lèi)、水資源規(guī)劃、混泥土性能預(yù)估、預(yù)應(yīng)力混凝土樁基等結(jié)構(gòu)損傷診斷、沙土液化預(yù)測(cè)、巖體可爆破性分級(jí)及爆破效應(yīng)預(yù)測(cè)等。（2）軍事工程 神經(jīng)網(wǎng)絡(luò)同紅外搜索與跟蹤系統(tǒng)配合后可發(fā)現(xiàn)和跟蹤飛行器。近年來(lái)，神經(jīng)控制器 在工業(yè)、航空以及機(jī)器人等領(lǐng)域的控制系統(tǒng)應(yīng)用中已取得許多可喜的成就。 自動(dòng)化領(lǐng)域神經(jīng)網(wǎng)絡(luò)用于控制領(lǐng)域已經(jīng)取得以下主要進(jìn)展。（2）模式識(shí)別 模式識(shí)別涉及到模式的預(yù)處理變換和將一種模式映射為其他類(lèi)型的操作，神經(jīng)網(wǎng)絡(luò)在這兩個(gè)方面都有許多成功的應(yīng)用。目前，人工神經(jīng)網(wǎng)絡(luò)已在中國(guó)科研、生產(chǎn)和生活中產(chǎn)生了普遍而巨大的影響。 國(guó)內(nèi)研究概況中國(guó)最早涉及人工神經(jīng)網(wǎng)絡(luò)的著作是涂序彥先生等于1980年發(fā)表的《生物控制論》一書(shū)，書(shū)中將“神經(jīng)系統(tǒng)控制論”單獨(dú)設(shè)為一章，系統(tǒng)地介紹了神經(jīng)元和神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、功能和模型。從以上現(xiàn)象可以看到，神經(jīng)網(wǎng)絡(luò)的研究出現(xiàn)了新的高潮，進(jìn)入了發(fā)展的新時(shí)期。在會(huì)上成立了國(guó)際神經(jīng)網(wǎng)絡(luò)學(xué)會(huì)（International Neural Network Society）。在他文章發(fā)表的第三年，美國(guó)電話與電報(bào)公司的貝爾實(shí)驗(yàn)室利用Hopfiled理論首先在硅片上制成硬件的神經(jīng)計(jì)算機(jī)網(wǎng)絡(luò)，繼而仿真出耳蝸與視網(wǎng)膜等硬件網(wǎng)絡(luò)。但仍有為數(shù)不多的學(xué)者在黑暗時(shí)期致力于神經(jīng)網(wǎng)絡(luò)的研究。Bernard Widrow和Marcian Hoff 不僅設(shè)計(jì)了在計(jì)算機(jī)上仿真的人工神經(jīng)網(wǎng)絡(luò)，而且還用硬件電路實(shí)現(xiàn)了他們的設(shè)計(jì)。啟蒙時(shí)期的另一位重要學(xué)者是Donala ，他首先建立了人們現(xiàn)在稱為 Hebb算法的連接權(quán)訓(xùn)練法。第四個(gè)時(shí)期為高潮時(shí)期，以1987年首屆國(guó)際人工神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會(huì)議為開(kāi)端，迅速在全世界范圍內(nèi)掀起人工神經(jīng)網(wǎng)絡(luò)的研究應(yīng)用熱。第一個(gè)時(shí)期為啟蒙時(shí)期，結(jié)束于1969年Minsky和Papert發(fā)表《感知器》一書(shū)。神經(jīng)網(wǎng)絡(luò)是近年來(lái)的熱點(diǎn)研究領(lǐng)域。作 者 簽 名：　　 　 　　日　 期：　　 　 　　 指導(dǎo)教師簽名：　　 　 　　 日　　期：　　 　 　　 使用授權(quán)說(shuō)明本人完全了解 大學(xué)關(guān)于收集、保存、使用畢業(yè)設(shè)計(jì)（論文）的規(guī)定，即：按照學(xué)校要求提交畢業(yè)設(shè)計(jì)（論文）的印刷本和電子版本；學(xué)校有權(quán)保存畢業(yè)設(shè)計(jì)（論文）的印刷本和電子版，并提供目錄檢索與閱覽服務(wù)；學(xué)?？梢圆捎糜坝?、縮印、數(shù)字化或其它復(fù)制手段保存論文；在不以贏利為目的前提下，學(xué)校可以公布論文的部分或全部?jī)?nèi)容。 diagnose。仿真和實(shí)驗(yàn)表明,其方法是有效的。電力電子電路模型具有很強(qiáng)的非線性，通常對(duì)其進(jìn)行在線故障診斷比較困難，文章利用神經(jīng)網(wǎng)絡(luò)非線性映射特性，由神經(jīng)網(wǎng)絡(luò)來(lái)學(xué)習(xí)及存儲(chǔ)電力電子電路的故障特征信號(hào)和故障類(lèi)型（或原因）之間的映射關(guān)系，并將其用于在線診斷，從而達(dá)到對(duì)電力電子電路進(jìn)行在線自動(dòng)故障診斷的目的。 fault diagnosisI畢業(yè)設(shè)計(jì)（論文）原創(chuàng)性聲明和使用授權(quán)說(shuō)明原創(chuàng)性聲明本人鄭重承諾：所呈交的畢業(yè)設(shè)計(jì)（論文），是我個(gè)人在指導(dǎo)教師的指導(dǎo)下進(jìn)行的研究工作及取得的成果。作者簽名：　　 　 　　 日　 期：　　 　 　　 第1章 緒論 神經(jīng)網(wǎng)絡(luò)概述人工神經(jīng)網(wǎng)絡(luò)(簡(jiǎn)稱神經(jīng)網(wǎng)絡(luò),NN)是由人工神經(jīng)元(簡(jiǎn)稱神經(jīng)元)互聯(lián)組成的網(wǎng)絡(luò),它是從微觀結(jié)構(gòu)和功能上對(duì)人腦的抽象、簡(jiǎn)化，是模擬人類(lèi)智能的一條重要途徑，它反映人腦的若干基本特征，如并行處理、學(xué)習(xí)、聯(lián)想、模式分類(lèi)、記憶等。涉及到電子科學(xué)和技術(shù)、信息與通信工程、計(jì)算科學(xué)和技術(shù)、電氣工程、控制科學(xué)和技術(shù)等諸多學(xué)科。第二個(gè)時(shí)期為低潮時(shí)期，開(kāi)始于1969年，結(jié)束于1982年Hopfield發(fā)表“神經(jīng)網(wǎng)絡(luò)和物理系統(tǒng)”。 啟蒙時(shí)期1890年，美國(guó)心理學(xué)家William James發(fā)表了第一部詳細(xì)論述人腦結(jié)構(gòu)及功能的專(zhuān)著《心理學(xué)原理》，對(duì)相關(guān)學(xué)習(xí)、聯(lián)想記憶的基本原理做了開(kāi)創(chuàng)性研究神經(jīng)網(wǎng)絡(luò)的著名文章。1958年計(jì)算機(jī)科學(xué)家 Frank Rosenblatt發(fā)表一篇有名的文章，提出了一種具有三層網(wǎng)絡(luò)特性的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，稱為“感知器”。 低潮時(shí)期在20世紀(jì)60年代，掀起了神經(jīng)網(wǎng)絡(luò)研究的第一次熱潮。1969年。在1986年貝爾實(shí)驗(yàn)室宣布制成神經(jīng)網(wǎng)絡(luò)芯片前不久，美國(guó)的David ，其中涉及到神經(jīng)網(wǎng)絡(luò)的三個(gè)主要特征，即結(jié)構(gòu)、神經(jīng)元的傳遞函數(shù)和它的學(xué)習(xí)訓(xùn)練方法， PDP這部書(shū)的最重要的貢獻(xiàn)是發(fā)展了多層感知機(jī)的反向傳播訓(xùn)練算法，把學(xué)習(xí)的結(jié)果反饋到中間層次的隱節(jié)點(diǎn)，改變其連接權(quán)值，以達(dá)到預(yù)期的學(xué)習(xí)目的。這次會(huì)議不久，由世界三位著名的神經(jīng)網(wǎng)絡(luò)學(xué)家，主持創(chuàng)辦了世界第一份神經(jīng)網(wǎng)絡(luò)雜志《Neural Network》。從1987年來(lái)，神經(jīng)網(wǎng)絡(luò)的理論、應(yīng)用、實(shí)現(xiàn)及開(kāi)發(fā)工具均以令人振奮的速度快速發(fā)展。隨著人工神經(jīng)網(wǎng)絡(luò)在世界范圍內(nèi)的復(fù)蘇，國(guó)內(nèi)也逐漸掀起了研究熱潮。 人工神經(jīng)網(wǎng)絡(luò)的主要應(yīng)用領(lǐng)域 信息領(lǐng)域神經(jīng)網(wǎng)絡(luò)作為一種新型智能信息處理系統(tǒng)，其應(yīng)用貫穿信息的獲取、傳輸、接接收與加工利用等各個(gè)環(huán)節(jié)，這里僅舉三個(gè)方面的應(yīng)用。神經(jīng)網(wǎng)絡(luò)不僅可以處理靜態(tài)模式如固定圖像、固定能譜等，還可以處理動(dòng)態(tài)模式如視頻圖像、連續(xù)語(yǔ)音等。（1）系統(tǒng)辨別 神經(jīng)網(wǎng)絡(luò)所有的非線形特性和學(xué)習(xí)能力，使其在系統(tǒng)辨別方面的有很大的潛力，為解決具有復(fù)雜的非線形、不確定性和不確知開(kāi)辟了一條新的途徑。（3）智能檢測(cè) 所謂智能檢測(cè)一般包括干擾量的處理，傳感器輸入輸出特性的非線形補(bǔ)償、零點(diǎn)和量程的自動(dòng)校正以及自動(dòng)診斷等。利用神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶特性可設(shè)計(jì)出密鑰分散保管方案；利用神經(jīng)網(wǎng)絡(luò)的分類(lèi)能力可提高密鑰的破解難度；利用神經(jīng)網(wǎng)絡(luò)還可設(shè)計(jì)出安全的保密開(kāi)關(guān)，如語(yǔ)音開(kāi)關(guān)、指紋開(kāi)關(guān)等等。此外，神經(jīng)網(wǎng)絡(luò)在宇宙飛船，汽車(chē)行業(yè)，銀行業(yè)，國(guó)防領(lǐng)域，電子領(lǐng)域，娛樂(lè)領(lǐng)域，金融領(lǐng)域，制造業(yè)，醫(yī)藥領(lǐng)域 ，石油和天然氣，機(jī)器人，語(yǔ)音領(lǐng)域，有價(jià)證券，電信領(lǐng)域，交通領(lǐng)域也有廣泛的應(yīng)用。因此，嚴(yán)格的說(shuō)，預(yù)估補(bǔ)償器不能完全補(bǔ)償純滯后。人工神經(jīng)元是一個(gè)多輸入、單輸出的非線性元件，它有三個(gè)基本要素：（1）一組連接權(quán)（對(duì)應(yīng)生物神經(jīng)元的突觸），連接強(qiáng)度由各連接權(quán)上的權(quán)值表示，權(quán)值為正表示激勵(lì)，為負(fù)表示抑制。 … W1j W2j nj 人工神經(jīng)元模型其輸入、輸出關(guān)系可描述為: ()式中是從其它神經(jīng)元傳過(guò)來(lái)的輸入信號(hào)；是閥值；是表示從神經(jīng)元i到神經(jīng)元j的連接權(quán)值；f(當(dāng)f(x)為階躍函數(shù)，且不考慮輸入、輸出之間的延時(shí)，只處理0和1二值信息時(shí)，這種閥值單元模型稱為MP模型，是美國(guó)心理學(xué)家McCulloch和數(shù)學(xué)家Pitts在1943年提出的。在連接中，有的神經(jīng)元之間是雙向的，有的是單向的，按實(shí)際情況決定。若按連接方式，也可以分為：前饋型網(wǎng)絡(luò)和反饋型網(wǎng)絡(luò)。按對(duì)能量函數(shù)的所有極小點(diǎn)的利用情況，可將反饋網(wǎng)絡(luò)分成兩類(lèi)：一類(lèi)是能量函數(shù)的所有極小點(diǎn)都起作用，主要用做各種聯(lián)想存儲(chǔ)器；另一類(lèi)只利用全局極小點(diǎn)，它主要用于求解優(yōu)化問(wèn)題[9]。(2)有教師學(xué)習(xí)(b)所示，這種學(xué)習(xí)方式需要外界存在一個(gè)“教師”對(duì)給定輸入提供應(yīng)有的輸出（即訓(xùn)練樣本集），神經(jīng)網(wǎng)絡(luò)根據(jù)實(shí)際輸出和預(yù)定輸出的差值來(lái)調(diào)整系統(tǒng)參數(shù)。規(guī)則心理學(xué)家Hebb在1949年提出突觸聯(lián)系的神經(jīng)群體理論，他指出，突觸前后兩個(gè)同時(shí)興奮（即活性度高，或稱處于激發(fā)狀態(tài)）的神經(jīng)元之間的連接強(qiáng)度（權(quán)值）將增強(qiáng)，雖然他本人沒(méi)有給出數(shù)學(xué)表達(dá)式，但后來(lái)許多研究者用不同的數(shù)學(xué)公式來(lái)表示這一基本思想。對(duì)于神經(jīng)元而言，其輸入（即的輸出）可以理解為學(xué)習(xí)的內(nèi)容，連接權(quán)值可以理解為學(xué)習(xí)的基礎(chǔ)，是教師的指導(dǎo)內(nèi)容，的活性度可以理解為學(xué)習(xí)的“積極性”。上式表明，對(duì)一個(gè)神經(jīng)元而言，若該神經(jīng)元有較大的活性度或有較大的輸入（即）時(shí)，他們之間的聯(lián)結(jié)權(quán)值會(huì)變大。在式（）中，如將教師示教信號(hào)作為期望輸出，而把理解為實(shí)際輸出，則該式變?yōu)椋骸ǎ┦街袨槠谕敵雠c實(shí)際輸出的差值。從上述簡(jiǎn)化過(guò)程可知，在選用簡(jiǎn)化的G函數(shù)時(shí)，我們實(shí)際上令，也就是用了線性可分函數(shù)。調(diào)整的原則是：當(dāng)時(shí)增加權(quán)值，否則減小權(quán)值。在競(jìng)爭(zhēng)中，與輸入單元間聯(lián)結(jié)權(quán)值變化最大的為優(yōu)勝者，優(yōu)勝者的聯(lián)結(jié)權(quán)值按式（）改變，而失敗的單元，其為零。 前向神經(jīng)網(wǎng)絡(luò)前向神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元是分層排列的，每個(gè)神經(jīng)元只與前一層神經(jīng)元相連，最上一層為輸出層，最下一層為輸入層。與MP模型不同之處在于其聯(lián)結(jié)權(quán)值可變，因此它具有學(xué)習(xí)功能。 修正權(quán)值… _+d誤差 感知器感知器只有一層神經(jīng)元，這是由感知器學(xué)習(xí)規(guī)則所決定的，因?yàn)楦兄鲗W(xué)習(xí)規(guī)則只能訓(xùn)練單層神經(jīng)網(wǎng)絡(luò)。線性神經(jīng)網(wǎng)絡(luò)可以采用WidrowHoff學(xué)習(xí)規(guī)則來(lái)調(diào)節(jié)網(wǎng)絡(luò)的權(quán)值和閥值，其收斂速度和精度都有較大的改進(jìn)。正向傳播時(shí)，輸入樣本從輸入層傳入，經(jīng)各層傳入，經(jīng)各隱層逐層處理后，傳向輸出層。權(quán)值不斷調(diào)整的過(guò)程，也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程。一般習(xí)慣將單隱層前饋網(wǎng)絡(luò)稱為三層前饋網(wǎng)或三層感知器，所謂三層包括了輸入層、隱層和輸出層。下面分析各層信號(hào)之間的數(shù)學(xué)關(guān)系。顯然，調(diào)整權(quán)值的原則是使誤差不斷地減小，因此應(yīng)使權(quán)值調(diào)整量與誤差的負(fù)梯度成正比，即 …………………………（） ………………………（）式中負(fù)號(hào)表示梯度下降，常數(shù)表示比例系數(shù)，在訓(xùn)練中反映了學(xué)習(xí)速率。（1）增加動(dòng)量項(xiàng)一些學(xué)者于1986年提出，標(biāo)準(zhǔn)BP算法在調(diào)整權(quán)值時(shí)，只按時(shí)刻誤差的梯度降方向調(diào)整，而沒(méi)有考慮時(shí)刻以前的梯度方向，從而使訓(xùn)練過(guò)程發(fā)生振蕩，收斂緩慢。目前，BP算法中都增加了動(dòng)量項(xiàng)，以至于有動(dòng)量項(xiàng)BP算法成為一種新的標(biāo)準(zhǔn)算法[13]。（4）引入陡度因子前面的分析指出，誤差曲面上存在著平坦區(qū)域。 可以看出，當(dāng)時(shí)， 坐標(biāo)壓縮了倍，神經(jīng)元的轉(zhuǎn)移函數(shù)曲線的敏感區(qū)段變長(zhǎng)，從而可使絕對(duì)值較大的退出飽和值。如用網(wǎng)絡(luò)的權(quán)值和閥值總數(shù) 表征網(wǎng)絡(luò)信息容量與訓(xùn)練誤差之間應(yīng)滿足如下匹配關(guān)系 ………………………………………………………………（）上式表明網(wǎng)絡(luò)的信息容量與訓(xùn)練樣本之間存在著合理匹配關(guān)系。（2）訓(xùn)練樣本集的準(zhǔn)備訓(xùn)練數(shù)據(jù)的準(zhǔn)備工作是網(wǎng)絡(luò)設(shè)計(jì)和訓(xùn)練的基礎(chǔ)，數(shù)據(jù)選擇的科學(xué)性以及數(shù)據(jù)表示的合理性對(duì)于網(wǎng)絡(luò)設(shè)計(jì)具有極為重要的影響。一般來(lái)講，輸出量代表系統(tǒng)要實(shí)現(xiàn)的功能目標(biāo)，其選擇確定相對(duì)容易一些。提取的方法與解決的問(wèn)題密切相關(guān)，下面僅討論幾種典型的情況。個(gè)輸入分量的下標(biāo)表示輸入值在波形中的位置，因此分量的編號(hào)是嚴(yán)格有序的。因?yàn)閳D象的像素點(diǎn)常數(shù)以萬(wàn)計(jì)，不適合作為網(wǎng)絡(luò)的輸入，而且難以從中提取有價(jià)值的輸入輸出規(guī)律。對(duì)于數(shù)值類(lèi)的輸出量，可直接用數(shù)據(jù)來(lái)表示，但由于網(wǎng)絡(luò)實(shí)際輸出只能是0~1或1~1之間的數(shù)，所以需要將期望輸出進(jìn)行尺度變換處理，有關(guān)的方法在樣本的預(yù)處理中介紹。②分布變換 尺度變換是一種線形變換，當(dāng)樣本的分布不合理時(shí)，線形變換只能統(tǒng)一樣本數(shù)據(jù)的變化范圍，而不能改變其分布規(guī)律。（7） 訓(xùn)練集的設(shè)計(jì)①訓(xùn)練樣本數(shù)的確定 一般說(shuō)來(lái)訓(xùn)練樣本數(shù)越多，訓(xùn)練結(jié)果越能正確反映其類(lèi)在規(guī)律，但樣本的收集整理往往受到客觀條件的限制。即使是同一類(lèi)樣本也要照顧樣本的多樣性和類(lèi)別的均勻性。當(dāng)各類(lèi)樣本輪流集中輸入時(shí)，網(wǎng)絡(luò)的訓(xùn)練會(huì)出現(xiàn)振蕩使訓(xùn)練時(shí)間延長(zhǎng)。從凈輸入的表達(dá)式可以看出，為了使個(gè)節(jié)點(diǎn)初始凈輸入在零點(diǎn)附近，有兩種辦法可采用。（2）隱節(jié)點(diǎn)數(shù)的設(shè)計(jì)隱節(jié)點(diǎn)的作用是從樣本中提取并存儲(chǔ)其內(nèi)在規(guī)律，每個(gè)隱節(jié)點(diǎn)有若干個(gè)權(quán)值都是增強(qiáng)網(wǎng)絡(luò)映射能力的一個(gè)參數(shù)。下面介紹幾個(gè)公式…………………………………………………（） ………………………………………… （）以上個(gè)式中為隱層節(jié)點(diǎn)數(shù)，為輸入層節(jié)點(diǎn)數(shù)，為輸出節(jié)點(diǎn)數(shù)，為1~10的常數(shù)。網(wǎng)絡(luò)性能的好壞主要看其是否具有很好的泛化能力，而對(duì)泛化能力的測(cè)試不能用訓(xùn)練集的數(shù)據(jù)進(jìn)行，而用訓(xùn)練集以外的測(cè)試數(shù)據(jù)來(lái)進(jìn)行檢測(cè)。而模糊系統(tǒng)是由那些現(xiàn)象引起的不確定性系統(tǒng)。模糊控制系統(tǒng)是一種自動(dòng)控制系統(tǒng)，它是以模糊數(shù)學(xué)、模糊語(yǔ)言形式的知識(shí)表示和模糊邏輯推理為理論基礎(chǔ)，采用計(jì)算機(jī)控制技術(shù)構(gòu)成的一種具有閉環(huán)結(jié)構(gòu)的數(shù)字控制系統(tǒng)。模糊邏輯從含義上比其他傳統(tǒng)邏輯更接近人類(lèi)的思想和語(yǔ)言，它能夠?qū)φ鎸?shí)世界的近似的、不確切的特征進(jìn)行刻劃。由于模糊控制器是采用數(shù)字計(jì)算機(jī)來(lái)實(shí)現(xiàn)的，所以，它應(yīng)該具備下列三個(gè)中重要功能：(1)把系統(tǒng)的偏差從數(shù)字量轉(zhuǎn)化為模糊量（模糊化過(guò)程、數(shù)據(jù)庫(kù)兩塊完成）。 模糊化過(guò)程模糊化過(guò)程主要完成：測(cè)