【正文】 日 期： 指導(dǎo)教師簽名： 日 期： 使用授權(quán)說明 本人完全了解 大學(xué)關(guān)于收集、保存、使用畢業(yè)設(shè)計（論文）的規(guī)定，即：按照學(xué)校要求提交畢業(yè)設(shè)計（論文）的印刷本和電子版本；學(xué)校有權(quán)保存畢業(yè)設(shè)計（論文）的印刷本和電子版，并提供 目錄檢索與閱覽服務(wù)；學(xué)校可以采用影印、縮印、數(shù)字化或其它復(fù)制手段保存論文；在不以贏利為目的前提下，學(xué)校可以公布論文的部分或全部內(nèi)容。 diagnose。仿真和實驗表明 ,其方法是有效的。 電 力電子電路模型具有很強的非線性 ， 通常對其進行在線故障診斷比較困難 ， 文章利用神經(jīng)網(wǎng)絡(luò)非線性映射特性 ， 由神經(jīng)網(wǎng)絡(luò)來學(xué)習(xí)及存儲電力電子電路的故障特征信號和故障類型 （ 或原因 ） 之間的映射關(guān)系 ， 并將其用于在線診斷 ， 從而達到對電力電子電路進行在線自動故障診斷的目的 。 fault diagnosis 1 畢業(yè)設(shè)計（論文）原創(chuàng)性聲明和使用授權(quán)說明 原創(chuàng)性聲明 本人鄭重承諾：所呈交的畢業(yè)設(shè)計（論文），是我個人在指導(dǎo)教師的指導(dǎo)下進行的研究工作及取得的成果。 作者簽名： 日 期： 2 第 1 章 緒論 神經(jīng)網(wǎng)絡(luò)概述 人工神經(jīng)網(wǎng)絡(luò) (簡稱神經(jīng)網(wǎng)絡(luò) ,NN)是由人工神經(jīng)元 (簡稱神經(jīng)元 )互聯(lián)組成的網(wǎng)絡(luò) ,它是從微觀結(jié)構(gòu)和功能上對人腦的抽象、簡化，是模擬人類智能的一條重要途徑，它反映人腦的若干基本特征，如并行處理、學(xué)習(xí)、聯(lián)想、模式分類、記憶等。涉及到電子科學(xué)和技術(shù)、信息與通信工程、計算科學(xué)和技術(shù)、電氣工程、控制科學(xué)和技術(shù)等諸多學(xué)科。第二個時期為低潮時期，開始于1969 年，結(jié)束于 1982 年 Hopfield 發(fā)表“神經(jīng)網(wǎng)絡(luò)和物理系統(tǒng)”。 啟蒙時期 1890 年，美國心理學(xué)家 William James 發(fā)表了第一部詳細論述人腦結(jié)構(gòu)及功能的專著《心理學(xué)原理》，對相關(guān)學(xué)習(xí)、聯(lián)想記憶的基本原理做了開創(chuàng)性研究 神 經(jīng)網(wǎng)絡(luò)的著名文章。 1958 年計算機科學(xué)家 Frank Rosenblatt 發(fā)表一篇有名的文章，提出了一種具有三層網(wǎng)絡(luò)特性的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，稱為“感知器”。 低潮時期 在 20 世紀(jì) 60 年代，掀起了神經(jīng)網(wǎng)絡(luò)研究的第一次熱潮。 1969 年，美國波士頓大學(xué)自適應(yīng)系統(tǒng)中心的 教授和他的夫人 提出了著名的共振模型。在 1986 年貝爾實驗室宣布制成神經(jīng)網(wǎng)絡(luò)芯片前不久，美國的 David 和 James 及其領(lǐng)導(dǎo)的提出了 PDP 網(wǎng)絡(luò)思想，其中涉及到神經(jīng)網(wǎng)絡(luò)的三個主要特征，即結(jié)構(gòu)、神經(jīng)元的傳遞函數(shù)和它的學(xué)習(xí)訓(xùn)練方法， PDP 這部書的最重要的貢獻是發(fā)展了多層感知機的反向傳播訓(xùn)練算法，把學(xué)習(xí)的結(jié)果反饋到中間層次的隱節(jié)點，改變其連接權(quán)值，以達到預(yù)期的學(xué)習(xí)目的。這次會議不久，由世界三位著名的神經(jīng)網(wǎng)絡(luò)學(xué)家，主持創(chuàng)辦了世界第一份神經(jīng)網(wǎng)絡(luò)雜志《 Neural Network》。從1987 年來，神經(jīng)網(wǎng)絡(luò)的理論、應(yīng)用、實現(xiàn)及開發(fā)工具均以令人振奮的速度快速發(fā)展。隨著人工神經(jīng)網(wǎng)絡(luò)在世界范圍內(nèi)的復(fù)蘇，國內(nèi)也逐漸掀起了研究熱潮。 人工神經(jīng)網(wǎng)絡(luò)的主要應(yīng)用領(lǐng)域 信息領(lǐng)域 神經(jīng)網(wǎng)絡(luò)作為一種新型智能信息處理系統(tǒng)，其應(yīng)用貫穿信息的獲取、傳輸、接接收與加工利用等各個環(huán)節(jié)，這里僅舉三個方面的應(yīng)用。神經(jīng)網(wǎng)絡(luò)不僅可以處理靜態(tài)模式如固定圖像、固定能譜等，還可以處理動態(tài)模式如視 頻圖像、連續(xù)語音等。（ 1）系統(tǒng)辨別 神經(jīng)網(wǎng)絡(luò)所有的非線形特性和學(xué)習(xí)能力，使其在系統(tǒng)辨別方面的有很大的潛力，為解決具有復(fù)雜的非線形、不確定性和不確知開辟了一條新的途徑。（ 3）智能檢測 所謂智能檢測一般包括干擾量的處理，傳感器輸入輸出特性的非線形補償、零點和量程的自動校正以及自動診斷等。利用神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶特性可設(shè)計出密鑰分散保管方案；利用神經(jīng)網(wǎng)絡(luò)的分類能力可提高密鑰的破解難度；利用神經(jīng)網(wǎng)絡(luò)還可設(shè)計出安全的保密開關(guān)，如語音開關(guān)、指紋開關(guān)等等。 此外，神經(jīng)網(wǎng)絡(luò)在宇宙飛船，汽車行業(yè)，銀行業(yè)，國防領(lǐng)域，電子領(lǐng)域，娛樂領(lǐng)域，金融領(lǐng)域，制造業(yè)，醫(yī)藥領(lǐng)域 ，石油和天然氣，機器人，語音領(lǐng)域，有價證券，電信領(lǐng)域，交通領(lǐng)域也有廣泛的應(yīng)用。因此，嚴(yán)格的說，預(yù)估補償器不能完全補償純滯后。 人工神經(jīng)元是一個多輸入、單輸出的非線性元件，它有三個基本要素： （ 1）一組連接權(quán)（對應(yīng)生物神經(jīng)元的突觸），連接強度由各連接權(quán)上的權(quán)值表示，權(quán)值為正表示激勵，為負(fù)表示抑制。) 為傳遞函數(shù)。 ? … 1X 2X Xn jW1W1j jW2W2j njWnj Uk )(?f jy j? 7 人工神經(jīng)網(wǎng)絡(luò) 結(jié)構(gòu) 人工神經(jīng)網(wǎng)絡(luò)是由大量的神經(jīng)元互連而成的網(wǎng)絡(luò)，按其拓?fù)浣Y(jié)構(gòu)來分，可以分成兩大類：層次網(wǎng)絡(luò)模型，互連網(wǎng)絡(luò)模型。 若按連接方式，也可以分為：前饋型網(wǎng)絡(luò)和反饋型網(wǎng)絡(luò)。 前饋型網(wǎng)絡(luò)的第 I層的輸入只能與第 I1 層輸出相連，輸入和輸出節(jié)點和外界相連，而其它中間層則為隱層。 若按神經(jīng)網(wǎng)絡(luò)的功能分類，目前常用的有如下分類： … … … … … … … … … 圖 (a) 圖 (b) 圖 (c) 神經(jīng)網(wǎng)絡(luò)分類 雙值輸入 有教師 Hamming 網(wǎng)絡(luò) Hopfield 網(wǎng)絡(luò) 連續(xù)輸入 無教師 —— Kohonen 網(wǎng)絡(luò) 有教師 單層感知器 無教師 —— Grossterg 網(wǎng)絡(luò)， Carpenter 網(wǎng)絡(luò) 8 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)方法 學(xué)習(xí)和記憶是人類智能器官的最主要的功能，模擬人腦神經(jīng)系統(tǒng)的學(xué)習(xí)功能是人工神經(jīng)網(wǎng)絡(luò)的核心任務(wù)。 (3)強化學(xué)習(xí) 如圖 (c)所示，該方式介于上述兩種情況之間，外部環(huán)境對系統(tǒng)輸出結(jié)果只給出評價信息，學(xué)習(xí)系統(tǒng)通過強化那些受到好的評價的動作來改善自身的性能。 圖 表示了兩個相連的神經(jīng)元之間的信號聯(lián)系 ，從神經(jīng)元 ui 到神經(jīng)元 uj 之間的聯(lián)結(jié)權(quán)值為 ijW ； uj 與 ui 被“激活”的程度 )(taj 、 )(tai 稱為活性度； uj 與 ui 的輸出分別為 jy與 iy ；教師的示教信號為 )(ttj 。在人工神經(jīng)網(wǎng)絡(luò)中，每一次學(xué)習(xí)，意味著一次權(quán)值 ijW 的調(diào)整，因此權(quán)值變化 Δ ijW 可以用下列函數(shù)式表示： ]),([)](),([ ijijjij WtyHtttaGW ??? ???????? ???? （ ） 采用不同的函數(shù) G 和 H，就有不同的學(xué)習(xí)規(guī)則。 函數(shù) H 仍與神經(jīng)元 ui 的輸出 )(tyi 成正比： )()),(( 2 tyWtyH iiji ?? ????? ?????????????? ???? （ ） 式中 2? 為正數(shù)。根據(jù)這個規(guī)則可以設(shè)計一個算法，即通過反復(fù)迭代運算， 直至求出最佳的 ijW 值，使 ? 達到最小。 不同狀態(tài)時實現(xiàn)聯(lián)結(jié)的概率來調(diào)整其間的權(quán)值： )( ?? ?? ijijij ppW ? 。在不同性的聯(lián)結(jié)機制中引入競爭。如果環(huán)境是非平穩(wěn)的（統(tǒng)計特征隨時間變化），通常的監(jiān)督學(xué)習(xí)沒有能力跟蹤這種變化，為解決此問題，需要網(wǎng)絡(luò) 有一定的自適應(yīng)能力，此時對每一不同輸入都作為一個新的例子對待。隱層的層數(shù)可以是一層或多層，前向網(wǎng)絡(luò)在神經(jīng)網(wǎng)絡(luò)中應(yīng)用十分廣泛，感知器、線性網(wǎng)絡(luò)、 BP 網(wǎng)絡(luò)都屬于這種類型。感知器 的學(xué)習(xí)規(guī)則如下： iii xtydtWtW ))(()()1( ???? ? () 其中 ?為學(xué)習(xí)率（ 0?1）， d 為期望輸出（又稱教師信號）， )(ty 是實際輸出。 線性神 經(jīng)網(wǎng)絡(luò) 線性神經(jīng)網(wǎng)絡(luò)是最簡單的一種神經(jīng)網(wǎng)絡(luò)，它由一個或多個線性神經(jīng)元構(gòu)成。該模型的結(jié)構(gòu)如圖 所示： 和感知器神經(jīng)網(wǎng)絡(luò)一樣，線性神經(jīng)網(wǎng)絡(luò)只能反映輸入和輸出樣本矢量間的線性映射關(guān)系，它也只能解決線性可分問題。若輸出層的實際輸出與期望的輸出（ 教師信號）不符，則轉(zhuǎn)入誤差的反向傳播階段。此過程一直進行到網(wǎng)絡(luò)輸出的誤差減少到可接受的程度，或進行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。三層前饋網(wǎng)中，輸入向量 Tni xxxxX ),( 21 ??? 為 ,如加入 10 ??x ,可為隱層神經(jīng)元引入閥值；隱層輸出向量 Tmj yyyyY ),( 21 ??? , 如加入 10 ??y ,可為輸出層神經(jīng)元引入閥值；輸出 層 輸 出 向 量 為 Tlk ooooO ),( 21 ??? 。 對于輸出層，有 )( kk fo ? lk ,2,1 ?? ????????? ???? （ ） ??? mj jjkk yw 0 lk ,2,1 ?? ????????? ???? （ ） 對于隱層，有 )( jj fy ? mk ,2,1 ?? ????????? ???? （ ） ??? mj iijj xv 0 mk ,2,1 ?? ?????? ???? ??? ?? ???? （ ） 以上兩式中，轉(zhuǎn)移函數(shù) )(xf 均為單極 Sigmoid 函數(shù) xexf ???1 1)(?????? ??? ????? ??????? ???? （ ） )(xf 具有連續(xù)、可導(dǎo)的特點，且有 ? ? ? ? ? ? x1 x2 xi xi+1 i 層 k 層 j 層 1yy1 2yy1 _ + 訓(xùn)練信號 td 調(diào)整權(quán)值 誤差 輸入層（ n 個） 隱層（ p 個） 輸出層（ q 個） 圖 BP 網(wǎng)絡(luò)結(jié)構(gòu)及反向?qū)W 習(xí) 14 )](1)[()( xfxfxf ??? ????????? ?????? ?? ???? （ ） 根據(jù)應(yīng)用需要，也可以采用雙極性 Sigmoid（或稱雙曲線正切函數(shù)） xxeexf ????? 11)(?????? ???? ???????? ? ?? ???? （ ） 式（ ） ~ 式（ ）共同構(gòu)成了三層前饋網(wǎng)的數(shù)學(xué)模型?？梢钥闯?BP 算法屬于 ? 學(xué)習(xí)規(guī)則類，這類算法通常被稱為誤差的梯度下降算法。為了提高網(wǎng)絡(luò)的訓(xùn)練速度，可以在權(quán)值調(diào)整公式中增加一動量項若用 w 代表某層權(quán)矩陣， X 代表某層輸入向量，則含有動量項的權(quán)值調(diào)整向量表達式為 )1()( ????? tWXtW ??? ????????? ???? （ ） 可以看出，增加動量項即從前一次權(quán)值調(diào)整量中取出一部分疊加到本次權(quán)值調(diào)整量中， ? 稱為動量系數(shù)，一般有 )1,0(?? 。 （ 2） 自適應(yīng)調(diào)節(jié)學(xué)習(xí)率 學(xué)習(xí)率 ? 也稱為步長，在標(biāo)準(zhǔn) BP 算法中定為常數(shù)，然而在實際應(yīng)用中，很難確定一個從始至終都合適的最佳學(xué)習(xí)率。權(quán)值調(diào)整進入平坦區(qū)的原因是神經(jīng)元進入了轉(zhuǎn)移函數(shù)的飽和區(qū)。當(dāng)1?? 時轉(zhuǎn)移函數(shù)恢復(fù)原狀，對較小的 具有較高的靈敏度。在解決實際問題時，訓(xùn)練樣本常常難以滿足以上要求。數(shù)據(jù)準(zhǔn)備工作包括原始數(shù)據(jù)的收集、數(shù)據(jù)分析、變量選擇和數(shù)據(jù)預(yù)處理等諸多步驟，下面分幾個方面介紹有關(guān)的知識。輸入量必須選擇那些對輸出影響大且能檢測或提取o 0 1 1?? 1?? 21 17 的變量，此外還 要求各輸入變量之間互不相關(guān)或相關(guān)性很小，這是輸入量選擇的兩條基本原則。 ① 文字符號輸入 在各類字符識別的應(yīng)用中，均以字符為輸入的原始對象。 ③ 函數(shù)自變量輸入 用多層前饋網(wǎng)見建立系統(tǒng)的數(shù)學(xué)模型屬于典型的非線形映射問題。在這類應(yīng)用中，一般根據(jù)識別的具體目的從圖象中提前一些有用的特征參數(shù)，再根據(jù)這些參數(shù)對輸入的貢獻進行篩選，這種特征提取屬于圖象處理的范疇。 （ 6） 輸入輸出數(shù)據(jù)的處理 ① 尺度變換 尺度變換也稱歸一化或標(biāo)準(zhǔn)化，是指通過變換的處理的將網(wǎng)絡(luò)的輸入、輸出數(shù)據(jù)限制在 [0， 1]或 [1， 1]區(qū)間類。適用于網(wǎng)絡(luò)訓(xùn)練的樣本分布應(yīng)比較均勻，相應(yīng)的樣本分布曲線應(yīng)比較平坦。此外，當(dāng)樣本多到一定程度時，網(wǎng)絡(luò)的精也難再提高，實踐表明，網(wǎng)絡(luò)訓(xùn)練所需的樣本數(shù)取決于輸入輸出非線性映射關(guān)系的復(fù)雜程度，映射關(guān)系越復(fù)雜，樣本中含的噪聲越大，為保證一定映射精度所需要的樣本數(shù) 就越多，而且網(wǎng)絡(luò)的規(guī)模就越多 [13][14]。按照這種“平均主義”原則選擇的樣本能使網(wǎng)絡(luò)在訓(xùn)練是見多識廣，而且可以避免網(wǎng)絡(luò)樣本數(shù)