【正文】 可用于模式識別和函數(shù)逼近。反饋型網(wǎng)絡(luò)的所有節(jié)點(diǎn)都是計算單元，同時可接受輸入并向外。………(c) (b) (a) ……………… 互連網(wǎng)絡(luò)模型在這類模型中，任意兩個神經(jīng)元之間都有相互連接的關(guān)系。傳遞函數(shù)f(x)可為線性函數(shù)，或S狀的非線性函數(shù)，或具有任意階導(dǎo)數(shù)的非線性函數(shù)，常用的非線性函數(shù)有閥值函數(shù)、雙向閥值函數(shù)、S型函數(shù)、雙曲正切函數(shù)、高斯函數(shù)等。另外還有一個閥值q（或偏置b=q）.： 229。神經(jīng)細(xì)胞通過突觸復(fù)雜的結(jié)合著，形成了大腦的復(fù)雜的神經(jīng)網(wǎng)絡(luò)系統(tǒng)。由于實(shí)驗(yàn)測試數(shù)據(jù)或處理不當(dāng)均會引起模型與對象特征不一致，這時閉環(huán)系統(tǒng)特征方程還會存在純滯后項(xiàng)。（4）水利工程 近年來，我國水利工程領(lǐng)域的科技工作者已成功地將神經(jīng)網(wǎng)絡(luò)的方法用于水利發(fā)電過程辨識和控制、河川徑流預(yù)測、河流水質(zhì)分類、水資源規(guī)劃、混泥土性能預(yù)估、預(yù)應(yīng)力混凝土樁基等結(jié)構(gòu)損傷診斷、沙土液化預(yù)測、巖體可爆破性分級及爆破效應(yīng)預(yù)測等。（2）軍事工程 神經(jīng)網(wǎng)絡(luò)同紅外搜索與跟蹤系統(tǒng)配合后可發(fā)現(xiàn)和跟蹤飛行器。近年來，神經(jīng)控制器 在工業(yè)、航空以及機(jī)器人等領(lǐng)域的控制系統(tǒng)應(yīng)用中已取得許多可喜的成就。 自動化領(lǐng)域神經(jīng)網(wǎng)絡(luò)用于控制領(lǐng)域已經(jīng)取得以下主要進(jìn)展。（2）模式識別 模式識別涉及到模式的預(yù)處理變換和將一種模式映射為其他類型的操作，神經(jīng)網(wǎng)絡(luò)在這兩個方面都有許多成功的應(yīng)用。目前，人工神經(jīng)網(wǎng)絡(luò)已在中國科研、生產(chǎn)和生活中產(chǎn)生了普遍而巨大的影響。 國內(nèi)研究概況中國最早涉及人工神經(jīng)網(wǎng)絡(luò)的著作是涂序彥先生等于1980年發(fā)表的《生物控制論》一書，書中將“神經(jīng)系統(tǒng)控制論”單獨(dú)設(shè)為一章，系統(tǒng)地介紹了神經(jīng)元和神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)、功能和模型。從以上現(xiàn)象可以看到，神經(jīng)網(wǎng)絡(luò)的研究出現(xiàn)了新的高潮，進(jìn)入了發(fā)展的新時期。在會上成立了國際神經(jīng)網(wǎng)絡(luò)學(xué)會（International Neural Network Society）。在他文章發(fā)表的第三年，美國電話與電報公司的貝爾實(shí)驗(yàn)室利用Hopfiled理論首先在硅片上制成硬件的神經(jīng)計算機(jī)網(wǎng)絡(luò)，繼而仿真出耳蝸與視網(wǎng)膜等硬件網(wǎng)絡(luò)。但仍有為數(shù)不多的學(xué)者在黑暗時期致力于神經(jīng)網(wǎng)絡(luò)的研究。Bernard Widrow和Marcian Hoff 不僅設(shè)計了在計算機(jī)上仿真的人工神經(jīng)網(wǎng)絡(luò)，而且還用硬件電路實(shí)現(xiàn)了他們的設(shè)計。啟蒙時期的另一位重要學(xué)者是Donala ，他首先建立了人們現(xiàn)在稱為 Hebb算法的連接權(quán)訓(xùn)練法。第四個時期為高潮時期，以1987年首屆國際人工神經(jīng)網(wǎng)絡(luò)學(xué)術(shù)會議為開端，迅速在全世界范圍內(nèi)掀起人工神經(jīng)網(wǎng)絡(luò)的研究應(yīng)用熱。第一個時期為啟蒙時期，結(jié)束于1969年Minsky和Papert發(fā)表《感知器》一書。神經(jīng)網(wǎng)絡(luò)是近年來的熱點(diǎn)研究領(lǐng)域。作 者 簽 名：　　 　 　　日　 期：　　 　 　　 指導(dǎo)教師簽名：　　 　 　　 日　　期：　　 　 　　 使用授權(quán)說明本人完全了解 大學(xué)關(guān)于收集、保存、使用畢業(yè)設(shè)計（論文）的規(guī)定，即：按照學(xué)校要求提交畢業(yè)設(shè)計（論文）的印刷本和電子版本；學(xué)校有權(quán)保存畢業(yè)設(shè)計（論文）的印刷本和電子版，并提供目錄檢索與閱覽服務(wù)；學(xué)校可以采用影印、縮印、數(shù)字化或其它復(fù)制手段保存論文；在不以贏利為目的前提下，學(xué)?？梢怨颊撐牡牟糠只蛉績?nèi)容。 diagnose。仿真和實(shí)驗(yàn)表明,其方法是有效的。電力電子電路模型具有很強(qiáng)的非線性，通常對其進(jìn)行在線故障診斷比較困難，文章利用神經(jīng)網(wǎng)絡(luò)非線性映射特性，由神經(jīng)網(wǎng)絡(luò)來學(xué)習(xí)及存儲電力電子電路的故障特征信號和故障類型（或原因）之間的映射關(guān)系，并將其用于在線診斷，從而達(dá)到對電力電子電路進(jìn)行在線自動故障診斷的目的。 fault diagnosisI畢業(yè)設(shè)計（論文）原創(chuàng)性聲明和使用授權(quán)說明原創(chuàng)性聲明本人鄭重承諾：所呈交的畢業(yè)設(shè)計（論文），是我個人在指導(dǎo)教師的指導(dǎo)下進(jìn)行的研究工作及取得的成果。作者簽名：　　 　 　　 日　 期：　　 　 　　 第1章 緒論 神經(jīng)網(wǎng)絡(luò)概述人工神經(jīng)網(wǎng)絡(luò)(簡稱神經(jīng)網(wǎng)絡(luò),NN)是由人工神經(jīng)元(簡稱神經(jīng)元)互聯(lián)組成的網(wǎng)絡(luò),它是從微觀結(jié)構(gòu)和功能上對人腦的抽象、簡化，是模擬人類智能的一條重要途徑，它反映人腦的若干基本特征，如并行處理、學(xué)習(xí)、聯(lián)想、模式分類、記憶等。涉及到電子科學(xué)和技術(shù)、信息與通信工程、計算科學(xué)和技術(shù)、電氣工程、控制科學(xué)和技術(shù)等諸多學(xué)科。第二個時期為低潮時期，開始于1969年，結(jié)束于1982年Hopfield發(fā)表“神經(jīng)網(wǎng)絡(luò)和物理系統(tǒng)”。 啟蒙時期1890年，美國心理學(xué)家William James發(fā)表了第一部詳細(xì)論述人腦結(jié)構(gòu)及功能的專著《心理學(xué)原理》，對相關(guān)學(xué)習(xí)、聯(lián)想記憶的基本原理做了開創(chuàng)性研究神經(jīng)網(wǎng)絡(luò)的著名文章。1958年計算機(jī)科學(xué)家 Frank Rosenblatt發(fā)表一篇有名的文章，提出了一種具有三層網(wǎng)絡(luò)特性的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，稱為“感知器”。 低潮時期在20世紀(jì)60年代，掀起了神經(jīng)網(wǎng)絡(luò)研究的第一次熱潮。1969年。在1986年貝爾實(shí)驗(yàn)室宣布制成神經(jīng)網(wǎng)絡(luò)芯片前不久，美國的David ，其中涉及到神經(jīng)網(wǎng)絡(luò)的三個主要特征，即結(jié)構(gòu)、神經(jīng)元的傳遞函數(shù)和它的學(xué)習(xí)訓(xùn)練方法， PDP這部書的最重要的貢獻(xiàn)是發(fā)展了多層感知機(jī)的反向傳播訓(xùn)練算法，把學(xué)習(xí)的結(jié)果反饋到中間層次的隱節(jié)點(diǎn)，改變其連接權(quán)值，以達(dá)到預(yù)期的學(xué)習(xí)目的。這次會議不久，由世界三位著名的神經(jīng)網(wǎng)絡(luò)學(xué)家，主持創(chuàng)辦了世界第一份神經(jīng)網(wǎng)絡(luò)雜志《Neural Network》。從1987年來，神經(jīng)網(wǎng)絡(luò)的理論、應(yīng)用、實(shí)現(xiàn)及開發(fā)工具均以令人振奮的速度快速發(fā)展。隨著人工神經(jīng)網(wǎng)絡(luò)在世界范圍內(nèi)的復(fù)蘇，國內(nèi)也逐漸掀起了研究熱潮。 人工神經(jīng)網(wǎng)絡(luò)的主要應(yīng)用領(lǐng)域 信息領(lǐng)域神經(jīng)網(wǎng)絡(luò)作為一種新型智能信息處理系統(tǒng)，其應(yīng)用貫穿信息的獲取、傳輸、接接收與加工利用等各個環(huán)節(jié)，這里僅舉三個方面的應(yīng)用。神經(jīng)網(wǎng)絡(luò)不僅可以處理靜態(tài)模式如固定圖像、固定能譜等，還可以處理動態(tài)模式如視頻圖像、連續(xù)語音等。（1）系統(tǒng)辨別 神經(jīng)網(wǎng)絡(luò)所有的非線形特性和學(xué)習(xí)能力，使其在系統(tǒng)辨別方面的有很大的潛力，為解決具有復(fù)雜的非線形、不確定性和不確知開辟了一條新的途徑。（3）智能檢測 所謂智能檢測一般包括干擾量的處理，傳感器輸入輸出特性的非線形補(bǔ)償、零點(diǎn)和量程的自動校正以及自動診斷等。利用神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶特性可設(shè)計出密鑰分散保管方案；利用神經(jīng)網(wǎng)絡(luò)的分類能力可提高密鑰的破解難度；利用神經(jīng)網(wǎng)絡(luò)還可設(shè)計出安全的保密開關(guān)，如語音開關(guān)、指紋開關(guān)等等。此外，神經(jīng)網(wǎng)絡(luò)在宇宙飛船，汽車行業(yè)，銀行業(yè)，國防領(lǐng)域，電子領(lǐng)域，娛樂領(lǐng)域，金融領(lǐng)域，制造業(yè)，醫(yī)藥領(lǐng)域 ，石油和天然氣，機(jī)器人，語音領(lǐng)域，有價證券，電信領(lǐng)域，交通領(lǐng)域也有廣泛的應(yīng)用。因此，嚴(yán)格的說，預(yù)估補(bǔ)償器不能完全補(bǔ)償純滯后。人工神經(jīng)元是一個多輸入、單輸出的非線性元件，它有三個基本要素：（1）一組連接權(quán)（對應(yīng)生物神經(jīng)元的突觸），連接強(qiáng)度由各連接權(quán)上的權(quán)值表示，權(quán)值為正表示激勵，為負(fù)表示抑制。 … W1j W2j nj 人工神經(jīng)元模型其輸入、輸出關(guān)系可描述為: ()式中是從其它神經(jīng)元傳過來的輸入信號；是閥值；是表示從神經(jīng)元i到神經(jīng)元j的連接權(quán)值；f(當(dāng)f(x)為階躍函數(shù)，且不考慮輸入、輸出之間的延時，只處理0和1二值信息時，這種閥值單元模型稱為MP模型，是美國心理學(xué)家McCulloch和數(shù)學(xué)家Pitts在1943年提出的。在連接中，有的神經(jīng)元之間是雙向的，有的是單向的，按實(shí)際情況決定。若按連接方式，也可以分為：前饋型網(wǎng)絡(luò)和反饋型網(wǎng)絡(luò)。按對能量函數(shù)的所有極小點(diǎn)的利用情況，可將反饋網(wǎng)絡(luò)分成兩類：一類是能量函數(shù)的所有極小點(diǎn)都起作用，主要用做各種聯(lián)想存儲器；另一類只利用全局極小點(diǎn)，它主要用于求解優(yōu)化問題[9]。(2)有教師學(xué)習(xí)(b)所示，這種學(xué)習(xí)方式需要外界存在一個“教師”對給定輸入提供應(yīng)有的輸出（即訓(xùn)練樣本集），神經(jīng)網(wǎng)絡(luò)根據(jù)實(shí)際輸出和預(yù)定輸出的差值來調(diào)整系統(tǒng)參數(shù)。規(guī)則心理學(xué)家Hebb在1949年提出突觸聯(lián)系的神經(jīng)群體理論，他指出，突觸前后兩個同時興奮（即活性度高，或稱處于激發(fā)狀態(tài)）的神經(jīng)元之間的連接強(qiáng)度（權(quán)值）將增強(qiáng)，雖然他本人沒有給出數(shù)學(xué)表達(dá)式，但后來許多研究者用不同的數(shù)學(xué)公式來表示這一基本思想。對于神經(jīng)元而言，其輸入（即的輸出）可以理解為學(xué)習(xí)的內(nèi)容，連接權(quán)值可以理解為學(xué)習(xí)的基礎(chǔ)，是教師的指導(dǎo)內(nèi)容，的活性度可以理解為學(xué)習(xí)的“積極性”。上式表明，對一個神經(jīng)元而言，若該神經(jīng)元有較大的活性度或有較大的輸入（即）時，他們之間的聯(lián)結(jié)權(quán)值會變大。在式（）中，如將教師示教信號作為期望輸出，而把理解為實(shí)際輸出，則該式變?yōu)椋骸ǎ┦街袨槠谕敵雠c實(shí)際輸出的差值。從上述簡化過程可知，在選用簡化的G函數(shù)時，我們實(shí)際上令，也就是用了線性可分函數(shù)。調(diào)整的原則是：當(dāng)時增加權(quán)值，否則減小權(quán)值。在競爭中，與輸入單元間聯(lián)結(jié)權(quán)值變化最大的為優(yōu)勝者，優(yōu)勝者的聯(lián)結(jié)權(quán)值按式（）改變，而失敗的單元，其為零。 前向神經(jīng)網(wǎng)絡(luò)前向神經(jīng)網(wǎng)絡(luò)中的神經(jīng)元是分層排列的，每個神經(jīng)元只與前一層神經(jīng)元相連，最上一層為輸出層，最下一層為輸入層。與MP模型不同之處在于其聯(lián)結(jié)權(quán)值可變，因此它具有學(xué)習(xí)功能。 修正權(quán)值… _+d誤差 感知器感知器只有一層神經(jīng)元，這是由感知器學(xué)習(xí)規(guī)則所決定的，因?yàn)楦兄鲗W(xué)習(xí)規(guī)則只能訓(xùn)練單層神經(jīng)網(wǎng)絡(luò)。線性神經(jīng)網(wǎng)絡(luò)可以采用WidrowHoff學(xué)習(xí)規(guī)則來調(diào)節(jié)網(wǎng)絡(luò)的權(quán)值和閥值，其收斂速度和精度都有較大的改進(jìn)。正向傳播時，輸入樣本從輸入層傳入，經(jīng)各層傳入，經(jīng)各隱層逐層處理后，傳向輸出層。權(quán)值不斷調(diào)整的過程，也就是網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過程。一般習(xí)慣將單隱層前饋網(wǎng)絡(luò)稱為三層前饋網(wǎng)或三層感知器，所謂三層包括了輸入層、隱層和輸出層。下面分析各層信號之間的數(shù)學(xué)關(guān)系。顯然，調(diào)整權(quán)值的原則是使誤差不斷地減小，因此應(yīng)使權(quán)值調(diào)整量與誤差的負(fù)梯度成正比，即 …………………………（） ………………………（）式中負(fù)號表示梯度下降，常數(shù)表示比例系數(shù)，在訓(xùn)練中反映了學(xué)習(xí)速率。（1）增加動量項(xiàng)一些學(xué)者于1986年提出，標(biāo)準(zhǔn)BP算法在調(diào)整權(quán)值時，只按時刻誤差的梯度降方向調(diào)整，而沒有考慮時刻以前的梯度方向，從而使訓(xùn)練過程發(fā)生振蕩，收斂緩慢。目前，BP算法中都增加了動量項(xiàng)，以至于有動量項(xiàng)BP算法成為一種新的標(biāo)準(zhǔn)算法[13]。（4）引入陡度因子前面的分析指出，誤差曲面上存在著平坦區(qū)域。 可以看出，當(dāng)時， 坐標(biāo)壓縮了倍，神經(jīng)元的轉(zhuǎn)移函數(shù)曲線的敏感區(qū)段變長，從而可使絕對值較大的退出飽和值。如用網(wǎng)絡(luò)的權(quán)值和閥值總數(shù) 表征網(wǎng)絡(luò)信息容量與訓(xùn)練誤差之間應(yīng)滿足如下匹配關(guān)系 ………………………………………………………………（）上式表明網(wǎng)絡(luò)的信息容量與訓(xùn)練樣本之間存在著合理匹配關(guān)系。（2）訓(xùn)練樣本集的準(zhǔn)備訓(xùn)練數(shù)據(jù)的準(zhǔn)備工作是網(wǎng)絡(luò)設(shè)計和訓(xùn)練的基礎(chǔ)，數(shù)據(jù)選擇的科學(xué)性以及數(shù)據(jù)表示的合理性對于網(wǎng)絡(luò)設(shè)計具有極為重要的影響。一般來講，輸出量代表系統(tǒng)要實(shí)現(xiàn)的功能目標(biāo)，其選擇確定相對容易一些。提取的方法與解決的問題密切相關(guān)，下面僅討論幾種典型的情況。個輸入分量的下標(biāo)表示輸入值在波形中的位置，因此分量的編號是嚴(yán)格有序的。因?yàn)閳D象的像素點(diǎn)常數(shù)以萬計，不適合作為網(wǎng)絡(luò)的輸入，而且難以從中提取有價值的輸入輸出規(guī)律。對于數(shù)值類的輸出量，可直接用數(shù)據(jù)來表示，但由于網(wǎng)絡(luò)實(shí)際輸出只能是0~1或1~1之間的數(shù)，所以需要將期望輸出進(jìn)行尺度變換處理，有關(guān)的方法在樣本的預(yù)處理中介紹。②分布變換 尺度變換是一種線形變換，當(dāng)樣本的分布不合理時，線形變換只能統(tǒng)一樣本數(shù)據(jù)的變化范圍，而不能改變其分布規(guī)律。（7） 訓(xùn)練集的設(shè)計①訓(xùn)練樣本數(shù)的確定 一般說來訓(xùn)練樣本數(shù)越多，訓(xùn)練結(jié)果越能正確反映其類在規(guī)律，但樣本的收集整理往往受到客觀條件的限制。即使是同一類樣本也要照顧樣本的多樣性和類別的均勻性。當(dāng)各類樣本輪流集中輸入時，網(wǎng)絡(luò)的訓(xùn)練會出現(xiàn)振蕩使訓(xùn)練時間延長。從凈輸入的表達(dá)式可以看出，為了使個節(jié)點(diǎn)初始凈輸入在零點(diǎn)附近，有兩種辦法可采用。（2）隱節(jié)點(diǎn)數(shù)的設(shè)計隱節(jié)點(diǎn)的作用是從樣本中提取并存儲其內(nèi)在規(guī)律，每個隱節(jié)點(diǎn)有若干個權(quán)值都是增強(qiáng)網(wǎng)絡(luò)映射能力的一個參數(shù)。下面介紹幾個公式…………………………………………………（） ………………………………………… （）以上個式中為隱層節(jié)點(diǎn)數(shù)，為輸入層節(jié)點(diǎn)數(shù)，為輸出節(jié)點(diǎn)數(shù)，為1~10的常數(shù)。網(wǎng)絡(luò)性能的好壞主要看其是否具有很好的泛化能力，而對泛化能力的測試不能用訓(xùn)練集的數(shù)據(jù)進(jìn)行，而用訓(xùn)練集以外的測試數(shù)據(jù)來進(jìn)行檢測。而模糊系統(tǒng)是由那些現(xiàn)象引起的不確定性系統(tǒng)。模糊控制系統(tǒng)是一種自動控制系統(tǒng)，它是以模糊數(shù)學(xué)、模糊語言形式的知識表示和模糊邏輯推理為理論基礎(chǔ)，采用計算機(jī)控制技術(shù)構(gòu)成的一種具有閉環(huán)結(jié)構(gòu)的數(shù)字控制系統(tǒng)。模糊邏輯從含義上比其他傳統(tǒng)邏輯更接近人類的思想和語言，它能夠?qū)φ鎸?shí)世界的近似的、不確切的特征進(jìn)行刻劃。由于模糊控制器是采用數(shù)字計算機(jī)來實(shí)現(xiàn)的，所以，它應(yīng)該具備下列三個中重要功能：(1)把系統(tǒng)的偏差從數(shù)字量轉(zhuǎn)化為模糊量（模糊化過程、數(shù)據(jù)庫兩塊完成）。 模糊化過程模糊化過程主要完成：測