【正文】 網絡訓練的基本思路是：把網絡學習時的輸出層出現(xiàn)的與“事實”不符的誤差，歸結為連接層中各節(jié)點間加權系數(shù)的“過錯”，通過把輸出層節(jié)點的誤差逐層向輸入層逆向傳播以“分攤”給各連接節(jié)點，從而可算出各連接節(jié)點的參考誤差，并根據此誤差對各加權系數(shù)進行相應的調整，使網絡適應要求的映射。采用LevenbergMarquardt優(yōu)化方法，可以使學習時間更短，在實際應用中效果較好。隨后，Goldfeld等首次將這一概念應用于BP算法中，因此有了BP網絡的Levenberg Marquardt優(yōu)化方法，其權重和閾值更新公式為： （311）其中為誤差對權值微分的雅可比矩陣，為誤差向量，為一個標量。一旦訓練達到了最大訓練次數(shù)或者網絡函數(shù)指標小于期望誤差，或超出規(guī)定計算的時間，都會使網絡停止學習。標準BP算法收斂速度慢的重要原因是學習速率選擇不當。這種方法所加入的動量項實質上相當于阻尼項，它減小了學習過程的振蕩趨勢，從而改善了收斂性，找到更優(yōu)的解。因此近十幾年來，許多研究人員對其做了深入的研究，提出了許多改進的算法，如使用動量項的加快離線訓練速度的方法、歸一化權值更新技術方法、快速傳播算法、δδ方法、擴展卡爾曼濾波法、二階優(yōu)化以及最優(yōu)濾波法等。（2）算法的選擇傳統(tǒng)的利用神經網絡診斷模擬電路方法一般是采用BP算法訓練的前饋神經網絡?？上仍O置較少的隱節(jié)點訓練網絡，然后逐漸增加隱節(jié)點數(shù)，用同一樣本集進行訓練，從中確定網絡誤差最小時對應的隱節(jié)點數(shù)。隱層節(jié)點數(shù)要通過在實驗中調整、比較、擇優(yōu)選取。本文所選為信號小波分解后的小波系數(shù)和小波包系數(shù)，即同一參數(shù)，歸一化需統(tǒng)一進行。例如電壓波形以一定的頻率采樣得到一定數(shù)目的采樣值成組的輸入網絡。由于本文提取的特征量個數(shù)較少，不需進行主成分分析，進行主成分分析的具體方法見文獻[40]。此外，為突出特征，也可以將特征量進行比例化，即將某一些分量乘以一個倍數(shù)。小波變換后提取諸如均值、方差、峰值、功率及包絡曲線最大值等特征量。對選取的小波系數(shù)進行主成分分析和歸一化處理，再通過神經網絡做故障診斷。用小波包分析提取特征量的步驟是：（1）首先對某模式故障采樣信號進行j層小波包分解，分別提取第j層從低頻到高頻的共個頻率成分的系數(shù)序列，即{，…，}。因此，用多分辨分析提取特征量的步驟是：（1）對采樣信號進行N層多分辨率分解，得到第1層到第N層的高頻小波分解系數(shù)序列{d1，d2，…，dN}；（2）構造特征值。由正交小波生成的小波級數(shù)表示為： （32）其中：，成為小波系數(shù)。在本文這項工作中，訓練神經網絡的數(shù)據樣本都是從與節(jié)點電壓相關的小波變換系數(shù)變換過來的。2．特征提?。喊ㄌ卣髁康奶崛〖疤幚怼Ｏ旅娣謩e對系統(tǒng)的各個主要功能單元的實現(xiàn)作詳細介紹。由于實際電路總是存在容差，且存在測量及觀察誤差等因素的影響，其實際值與理論值總存在著差異。這些特征量伴隨著故障種類作為輸入和輸出對在訓練階段提供給神經網絡。本章將針對模擬電路的單、軟故障診斷對基于小波的神經網絡診斷方法的總體方案、各部分的實現(xiàn)方法以及具體的技術環(huán)節(jié)做詳細的分析和討論。小波分解的一個非常重要的優(yōu)點就在于其分解后所得分量包含了原信號的所有特征，這一點是傳統(tǒng)數(shù)字濾波和FFT無法做到的。因此用BP網絡來分析故障特征，進行故障診斷非常合適。由于小波包具有這種精確刻畫高頻信號的能力，從而能更加精細地刻畫信號在不同頻帶的局部信息。（2）各小波包空間在繼續(xù)分解時，其算法和小波分解算法一樣，所以，信號經小波包分解后，可得到在各頻帶上的時域信號，但其長度減半。而小波包卻具有將隨增大而變寬的頻譜窗口進一步分割變細的優(yōu)良性質，從而克服了正交小波變換的不足。下面用圖表示式（244）的分解過程，圖26中對應的進行了分解。在多分辨率分析中。以上定義的函數(shù)集合為由所確定的小波包，由此，小波包是包括尺度函數(shù)和小波母函數(shù)在內的一個具有一定聯(lián)系的函數(shù)集合?，F(xiàn)在，希望進一步對小波子空間按照二進制分解進行頻率的細分，以達到提高頻率分辨率的目的。 小波包分析多分辨分析可以對信號進行有效的時頻分解，但由于其尺度函數(shù)是按二進制變化的，因此在高頻段其頻率分辨率較差，只能對信號的頻段進行指數(shù)等間隔劃分。（2）逼近性：。式中j=1，2，3，4代表小波分解的層數(shù)（即尺度數(shù)），V代表低頻部分，與尺度空間對應；W代表高頻部分，與小波空間對應。從函數(shù)空間的剖分上引入多分辨率的概念，即將平方可積的函數(shù)看成是某一逐級逼近的極限情況，每級逼近都是用某一低通函數(shù)對做平滑的結果，在逐級逼近時，平滑函數(shù)也做逐級伸縮，即“多分辨率”，亦即用不同分辨率來逐級逼近待分析函數(shù)。但它有自身的優(yōu)點：（1）計算簡單；（2）不但與正交，而且與自己的整數(shù)位移正交，即。在小波變換中，并不是隨便一個函數(shù)都可以成為小波基函數(shù)，但也不是唯一的，要滿足非常嚴格的限制條件才可以成為可用的小波函數(shù)。其重構公式為： （230）其中，C是一個與信號無關的常數(shù)。選擇適當?shù)姆糯蟊稊?shù)，在一個特定的位置研究一個函數(shù)或信號過程，然后再平移到另一個位置繼續(xù)研究，如果放大倍數(shù)過大，也就是尺度過小，我們就可按小步長移動一個距離；反之亦然。二 離散小波變換連續(xù)小波變換計算量大、存儲量大，主要用于理論分析方面。另外，它還要滿足平均值為零。將母小波伸縮和平移后得： （225）稱其為一個小波序列，其中a為伸縮因子，為平移因子又稱時移參數(shù)。小波分析與時頻分析的區(qū)別在于：時頻分析在時頻平面上表示非平穩(wěn)信號，小波分析描述非平穩(wěn)信號雖然也在二維平面上，但不是在時頻平面上，而是在所謂的時間——尺度平面上，在小波分析中，人們可以在不同尺度上來觀察信號，這種對信號分析的多尺度觀點是小波分析的基本特征。小波分析是泛函分析、Fourier分析、調和分析、數(shù)值分析的最完美結晶；特別是在信號處理、圖像處理、語音分析以及眾多非線性科學領域，它被認為是繼Fourier分析之后又一有效的時頻分析方法。圖23 BP算法程序流程圖Figure 23 Program flow diagram of BP algorithm 小波變換基本理論小波變換[36,37,38]是八十年代后期發(fā)展起來的應用數(shù)學分支，具有多分辨率分析（MultiResolution Analysis簡稱MRA）的特點，而且在時頻兩域都具有表征信號局部特征的能力。隨著“正向傳播”與“反向傳播”過程的反復交替進行，網絡的實際輸出逐漸向各自所對應的期望輸出逼近。對于p個樣本，全局誤差為： （28）2）輸出層權值的變化采用累計誤差BP算法調整，使全局誤差E變小，即 （29）式中為學習率。1．正向傳播如圖22所示，設BP網絡的輸入層有n個節(jié)點，隱層有q個節(jié)點，輸出層有m個節(jié)點，輸入層與隱層之間的權值為，隱層與輸出層之間的權值為，隱層的激活函數(shù)為，輸出層的激活函數(shù)為，則隱層節(jié)點的輸出為（將閾值寫入求和項中）： （25）輸出層節(jié)點的輸出為： （26）至此BP網絡就完成了n維空間向量對m維空間的近似映射。（2）網絡的期望輸出與網絡的實際輸出之差值由輸出層經隱層向輸入層逐層修正連接權的“反向傳播”。每一層的每個神經元（節(jié)點）的輸出經連接權值加權和作為下一層每個神經元的輸入，層與層之間沒有反饋。目前在模擬電路故障診斷中也多以BP網絡為主。 BP網絡的結構BP網絡（BackPropagation Network）是一種多層前向神經網絡，網絡權值的調整規(guī)則采用的是后向傳播學習算法，即BP學習算法。前向網絡由輸入層、中間層（或叫隱含層）和輸出層組成，中間層可以有若干層，每一層的神經元只接受前一層神經元的輸出。圖21 神經元結構模型Figure 21 Structure model of neuron 傳遞函數(shù)通常采用一些非線性函數(shù)，來表現(xiàn)神經網絡的非線性特征。神經網絡的基本單元是神經元，所以我們先從神經元談起。5．對模擬電路故障診斷方法進行實例仿真，完成電路的故障診斷任務，并能在較短的時間內獲得正確的診斷結果，證明該方法的可行性，并比較了多分辨分析和小波包分析提取故障特征進行神經網絡診斷的效果。利用小波和神經網絡相結合的方法檢測電路的故障將是一項很有前景的工作。這一部分首先選定了具體采用的診斷方法，詳細介紹了本課題研究方案的原理、組成及設計，最后進行了模擬電路故障診斷仿真實驗。通過構建以上的故障診斷系統(tǒng)就為本文最后搭建基于神經網絡的模擬電路故障診斷專家系統(tǒng)奠定了基礎。利用小波變換將每一個故障狀態(tài)所對應的節(jié)點電壓信號進行分解，然后對所產生的小波系數(shù)進行處理，提取出的最佳故障特征量作為輸入對神經網絡進行學習和訓練，神經網絡調整它的權值直到滿足要求。圖11為一個電路故障診斷系統(tǒng)的結構框圖。在專家系統(tǒng)方法中，知識是通過符號以某種數(shù)據結構來表示的，若采用神經網絡之間的連接及各連接權值的分布來表示特定的決策規(guī)則，這種方法可以較容易地表示專家知識。但它仍有許多局限性，如知識獲取的“瓶頸”問題、自學習能力弱、復雜系統(tǒng)知識庫維護不方便、推理效率低等。一方面，神經網絡的引入可以提高專家系統(tǒng)解決問題的能力，使系統(tǒng)具有采用單一方法所不具備的能力；利用神經網絡可以為專家系統(tǒng)提供模式識別能力、相關存儲能力以及信號處理能力；利用神經網絡的學習能力使專家系統(tǒng)能夠根據系統(tǒng)的數(shù)據、事例來學習新的知識與信息，進行規(guī)則的學習與調整；利用神經網絡的數(shù)字特性協(xié)助專家系統(tǒng)處理非線性和不確定性復雜信息；利用神經網絡協(xié)助專家系統(tǒng)提高推理效率。專家系統(tǒng)與神經網絡具有很多相似之處，它們具有相同的動機和目的，二者都是用來模擬人類的思維過程?，F(xiàn)有的專家系統(tǒng)一般還不具備自學習能力和聯(lián)想記憶的能力，一個專家系統(tǒng)往往要包含上萬甚至數(shù)萬條規(guī)則，使得維護和管理工作十分困難。3．推理能力弱。2．知識的“窄臺階效應”。但截至目前，專家系統(tǒng)仍存在以下幾個主要問題：1．知識獲取的“瓶頸”。專家系統(tǒng)所用規(guī)則多數(shù)是由專家提供的經驗總結而成，因此帶有很大程度的不精確性，甚至不能用顯性的公式描述出來。因此一個專家系統(tǒng)的擴充和完善主要是對知識庫來做的。所以專家系統(tǒng)所具有的能力往往可超過任意一位為它提供過經驗的專家，甚至具有任意一位專家都沒有的功能。七十年代后期開始出現(xiàn)一些其他類型的專家系統(tǒng)。70年代專家系統(tǒng)趨于成熟，專家系統(tǒng)的觀點也開始廣泛地被人們接受。同時人工智能研究者在知識表示、推理方法、搜索策略等方面也獲得了許多有益的成果。人工智能的問世是人類進行機器智能研究的一個重要轉折。小波分析具有空間局部化性質，因此，利用小波分析來分析信號的奇異性以及奇異性的位置和奇異度的大小是比較有效的[28]。信號中不規(guī)則的突變部分和奇異點往往包含有比較重要的信息，它是信號重要特征之一。在應用領域，特別是在信號處理、圖象處理、語音識別、模式識別、數(shù)據壓縮、故障診斷、量子物理等眾多領域中被認為是近年來在工具和方法上的重大突破[27]。專家系統(tǒng)以神經網絡的輸出結果 為依據進行反向不確定性推理，同時記錄下推理軌跡。目前而言，將其應用于模擬電路的故障診斷領域還是一個嶄新的、很有前途的研究方向。小波分析與神經網絡結合應用于模擬電路的故障診斷。如何根據實際電路對原始數(shù)據進行預處理以突出故障特征信息，以及如何優(yōu)選訓練樣本是需要深入研究的課題。經典的故障字典法需要進行繁瑣的模糊集分割處理，且一般只能診斷硬故障。神經網絡的研究已有半個多世紀的歷史，但它的發(fā)展并不是一帆風順的，而是經過兩起一落中間呈現(xiàn)馬鞍形的過程。1948年，Wiener發(fā)表的《控制論》以及Wiener的杰出工作對神經網絡的研究起到了重要的推動作用。到目前為止已經提出了多種基于神經網絡的模擬電路故障診斷方法，如BP神經網絡故障字典法已經能有效應用于濾波電路、模擬放大電路等非線性容差電路的故障診斷[17,18]，效果優(yōu)于傳統(tǒng)的故障字典法。電路與元件之間的非線性關聯(lián)使實時診斷難于實現(xiàn)，甚至有時會導致錯誤診斷[10]，文獻[11]基于支路屏蔽的原理，提出了一種可診斷模擬電路軟故障的故障字典法，為工程上故障字典法的應用開辟了一條新的途徑?；谝陨峡紤]，利用神經網絡的非線性映射特性、小波優(yōu)秀的特征提取特點，本文提出了將小波分析與神經網絡相結合的模擬電路故障診斷方法，并針對神經網絡和專家系統(tǒng)各自的特點提出將神經網絡和專家系統(tǒng)結合用于開發(fā)模擬電路故障診斷系統(tǒng)的思路。目前，人工神經網絡[6,7]作為信息軟處理的最新技術在診斷領域中得到了廣泛的應用。故障診斷技術經過了40多年的發(fā)展，人們已經認識到了智能診斷技術的重要性，智能診斷技術已成為當今世界的研究熱點之一[5]。近年來，隨著對非線性理論、先進算法、信號處理及智能控制等技術的研究，非線性系統(tǒng)的故障診斷技術有了很大的發(fā)展。近年來，世界各國許多電路理論工作者提出了各種不同的故障診斷原理和方法，如k故障診斷法、故障參數(shù)識別法、網絡識別法等。硬故障常導致系統(tǒng)癱瘓，軟故障一般引起系統(tǒng)性能異常，因而從理論上講，單個元器件就可能引起無窮多個故障。一般說來，數(shù)字電路出故障的可能性較小且診斷較為容易；而模擬電路故障率較高，原因復雜[4]。本文將就這一些問題展開研究探討，通過理論推導和實踐仿真摸索出模擬電路的軟故障診斷方法，從而為構建電路故障診斷系統(tǒng)奠定基礎。模擬電路的故障診斷問題不僅引起廣泛的關注[1]，而且是國內外專家設計和使用電子系統(tǒng)的一大難題，其中電路容差情況下的故障即軟故障診斷，也是困擾廣大科學工作者的難題。 secondly, set parameter of BP neural network, user can set hid level integer, study rate size and so on。關鍵詞 模擬電路；故障診斷；神經網絡；小波變換；專家系統(tǒng)The Study of Expert System Based on Neural Network of Analog Circuit Fault DiagnosisAbstractAlong with the rapid deve