【正文】 urrent Neural Network，簡稱RNN)也是目前一種常用的反饋網(wǎng)絡(luò)。反饋網(wǎng)絡(luò)在網(wǎng)絡(luò)的輸出層與隱含層之間或在隱含層與隱含層之間存在反饋連接,即網(wǎng)絡(luò)中的神經(jīng)元同時接收來自前一層神經(jīng)元的前饋輸入和來自后一層神經(jīng)元的反饋輸入。前饋網(wǎng)絡(luò)（又稱前向網(wǎng)絡(luò)）的特點(diǎn)是相鄰兩層之間的神經(jīng)元互相連接,各神經(jīng)元之間無反饋。每一層神經(jīng)元與前一層神經(jīng)元的輸出相連接,而同一層內(nèi)的神經(jīng)元互不連接。層狀結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)是由若干層構(gòu)成的,其中第一層是網(wǎng)絡(luò)的輸入層,最后一層是網(wǎng)絡(luò)的輸出層,在輸入層與輸出層之間的是網(wǎng)絡(luò)的隱含層。當(dāng)輸入為， 的表達(dá)式為 （5）第二種是正切sigmoid函數(shù)，即tansig函數(shù)，輸出取值范圍為（1,1），輸入為， 的表達(dá)式為： （6） 神經(jīng)網(wǎng)絡(luò)的構(gòu)成神經(jīng)網(wǎng)絡(luò)是由許多互相連接的神經(jīng)元構(gòu)成的網(wǎng)絡(luò)。常用激活函數(shù)的表達(dá)式為:（1）線性型神經(jīng)元函數(shù)連續(xù)取值,輸入有連接矩陣加權(quán)產(chǎn)生輸出,其激活函數(shù)表達(dá)式為: （2）線性激活函數(shù)可以獲得較大值域范圍。通常，稱一個神經(jīng)網(wǎng)絡(luò)是線性還是非線性是由神經(jīng)網(wǎng)絡(luò)神經(jīng)元所具有的激活函數(shù)的線性或非線性來決定的。為神經(jīng)元輸出, 為激活函數(shù)，也稱為傳遞函數(shù)。 神經(jīng)網(wǎng)絡(luò)原理 神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)單元神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本單元,它類似于生物體的神經(jīng)系統(tǒng)基本單元,神經(jīng)元是一個多輸入單輸出的結(jié)構(gòu),其功能是模擬生物神經(jīng)元最基本的特征，圖1為神經(jīng)網(wǎng)絡(luò)中的第個神經(jīng)元的結(jié)構(gòu)示意圖。（5）自適應(yīng)性由于神經(jīng)網(wǎng)絡(luò)經(jīng)過學(xué)習(xí)可以調(diào)整自身的突觸權(quán)值和閾值，從而具備適應(yīng)外界變化的能力。因此，神經(jīng)網(wǎng)絡(luò)的性能是一個緩慢變化的過程而不是災(zāi)難性的改變。（4）容錯性神經(jīng)網(wǎng)絡(luò)具有天生容錯的能力（也稱魯棒性），即其性能在不利于運(yùn)行的條件下是逐漸下降的，如果一個神經(jīng)元或者神經(jīng)元的連接被損壞了，則存儲模式的記憶能力將會降低。（3）泛化能力神經(jīng)網(wǎng)絡(luò)的泛化是指對不在訓(xùn)練樣本集中的數(shù)據(jù)，網(wǎng)絡(luò)也可以產(chǎn)生合理的輸出。（2）固有的并行結(jié)構(gòu)神經(jīng)網(wǎng)絡(luò)在結(jié)構(gòu)上是并行的，在信息處理順序上也是并行的，神經(jīng)網(wǎng)絡(luò)同一層內(nèi)的神經(jīng)元都是同時工作的。 神經(jīng)網(wǎng)絡(luò)的特點(diǎn)神經(jīng)網(wǎng)絡(luò)模擬了生物神經(jīng)系統(tǒng)的一些特征，從而具有一些與傳統(tǒng)數(shù)字計算機(jī)不同的特點(diǎn)，具體有下面幾點(diǎn)：（1）非線性映射從本質(zhì)上而言，神經(jīng)網(wǎng)絡(luò)就是一個非線性系統(tǒng)，可以實現(xiàn)從輸入空間到輸出空間的非線性映射，具有較強(qiáng)的非線性信息處理能力。吳佑壽提出了傳遞函數(shù)可調(diào)的神經(jīng)網(wǎng)絡(luò)，這對神經(jīng)網(wǎng)絡(luò)理論的發(fā)展具有十分重要的意義。在識別多模式時可以聯(lián)想到一個模式，采用全單極的形式，對互連權(quán)值實行二值化截取，同時把聯(lián)想存儲模型和WTA模型級聯(lián)起來，如此，提升了存儲容量和容錯性。在國內(nèi)，對神經(jīng)網(wǎng)絡(luò)的研究開始于20世紀(jì)80年代末，中科院的汪云九先生起到了先導(dǎo)作用[18]。（4）新的發(fā)展階段上世紀(jì)90年代，Narendra和Parthasarthy提出了推廣動態(tài)神經(jīng)網(wǎng)絡(luò)系統(tǒng)及其連接權(quán)的學(xué)習(xí)算法[16]，其具有非線性特性，增強(qiáng)了神經(jīng)網(wǎng)絡(luò)的魯棒性。BP算法從實踐上證明了神經(jīng)網(wǎng)絡(luò)的運(yùn)算能力很強(qiáng)，可以完成許多學(xué)習(xí)任務(wù)，解決許多具體問題。1986年，Rumelhart等人提出并行分布處理（PDP）的理論，同時提出了多層網(wǎng)絡(luò)的誤差反向傳播學(xué)習(xí)算法，簡稱BP算法[15]。在1984年他用此模型成功地解決了復(fù)雜度為NP的旅行商問題（TSP）。美國物理學(xué)家Hopfield在1982年提出了Hopfield神經(jīng)網(wǎng)絡(luò)模型 [14]，有力地推動了神經(jīng)網(wǎng)絡(luò)的研究。這些都是在20世紀(jì)70年代和20世紀(jì)80年代初進(jìn)行的工作。不過仍有不少學(xué)者繼續(xù)研究神經(jīng)網(wǎng)絡(luò)。Widrow在1960年提出了自適應(yīng)線性元件（Adaline）[8]，它是連續(xù)取值的線性網(wǎng)絡(luò)，主要應(yīng)用在自適應(yīng)系統(tǒng)中，這與當(dāng)時占主導(dǎo)地位的以符號推理為特征的傳統(tǒng)人工智能途徑完全不同，因而形成了神經(jīng)網(wǎng)絡(luò)研究的高潮。[6]神經(jīng)元之間突觸聯(lián)系強(qiáng)度可變的假設(shè)，即改變神經(jīng)元連接強(qiáng)度的Hebb規(guī)則，為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法奠定了基礎(chǔ)。 神經(jīng)網(wǎng)絡(luò)發(fā)展及其特點(diǎn) 神經(jīng)網(wǎng)絡(luò)發(fā)展過程神經(jīng)網(wǎng)絡(luò)的研究至今已有七十多年的歷史,下面分三點(diǎn)進(jìn)行闡述。 研究內(nèi)容與論文組織本文主要是利用神經(jīng)網(wǎng)絡(luò)進(jìn)行模擬電路故障診斷的研究，采用BP和GABP兩種網(wǎng)絡(luò)對模擬電路故障進(jìn)行了診斷，仿真效果表明基于神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷系統(tǒng)不但診斷速度快而且準(zhǔn)確度高，具有廣闊的應(yīng)用前景。提出了基于神經(jīng)網(wǎng)絡(luò)的五種模擬電路故障診斷的方法：一是提出了采用模糊神經(jīng)網(wǎng)絡(luò)對模擬電路進(jìn)行故障診斷的方法，但隸屬度函數(shù)的選取問題仍然是一個難點(diǎn)；二是采用遺傳算法對BP(BackPropargation) 網(wǎng)絡(luò)進(jìn)行輔助設(shè)計和優(yōu)化之后，再進(jìn)行模擬電路故障診斷的方法；三是構(gòu)造了一種新型神經(jīng)網(wǎng)絡(luò)電路故障診斷專家系統(tǒng)，但僅給出理論框架，離實驗還有一定的距離；四是分別使用小波變換和小波包變換對輸出電壓響應(yīng)的故障特征進(jìn)行提取，提出了基于小波變換和神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法；五是構(gòu)造模糊 BP 網(wǎng)絡(luò)故障分類器融合被診斷元件的2個物理量(溫度和電壓)，以確定故障元件。自80年代末以來，國內(nèi)相繼出版了楊士元[4]等人的專著。利用神經(jīng)網(wǎng)絡(luò)來完成故障狀態(tài)的分類和故障字典的查詢，既提高了故障診斷效率，同時利用神經(jīng)網(wǎng)絡(luò)所具有的泛化能力，使得實現(xiàn)對電路軟故障的診斷成為可能。1985年，[3]，模擬電路故障診斷理論從此形成了。但是這些方法不足之處在于要求電路具有較多的測試點(diǎn)，并且計算量大，難以在實際中得到應(yīng)用。1960年，[1]，研究出了無源線性集總電路元件可解性的必要條件，從此模擬電路故障診斷的理論研究開始了。以上六個方面的問題是模擬電路中普遍存在的問題，也是模擬電路故障診斷的難點(diǎn)。模擬電路的輸入與輸出之間的關(guān)系較為復(fù)雜并且模型化困難。其輸出響應(yīng)也容易受到因為工藝偏差而引起的電路元件參數(shù)變化的影響。5）抗干擾能力差。模擬電路中通常含有非線性元件，因此模擬電路龐大的計算量是不可避免的。電路中普遍存在的容差通?？傻刃橐粋€或者多個元件的“大故障”，這就容易導(dǎo)致電路故障的可測性變差。3）存在容差。2）診斷的信息量有限。 模擬電路故障診斷的發(fā)展與現(xiàn)狀相對于數(shù)字電路故障診斷而言，模擬電路故障診斷的發(fā)展較為緩慢，其中主要原因有以下六點(diǎn)：1）故障狀態(tài)的多樣性。綜上所述,工業(yè)生產(chǎn)對模擬電路提出了新的要求,微電子技術(shù)的快速發(fā)展對模擬電路的測試和診斷也提出迫切的要求,這就使得科技人員不得不進(jìn)一步探索模擬電路的測試和診斷上的新理論和新方法,研發(fā)新的測試和診斷設(shè)備以適應(yīng)時代的需求。第二，在無線電電子系統(tǒng)中, 數(shù)字電路不能完全取代模擬電路，數(shù)字電路的故障診斷方法也不能取代模擬電路的故障診斷方法。對于某些重要設(shè)備中的模擬電路，還要求進(jìn)行故障的預(yù)測，即對正常工作中的模擬電路進(jìn)行不斷的檢測，在元件發(fā)生故障前就進(jìn)行替換，以避免故障的發(fā)生。在模擬電路故障發(fā)生后,要求能及時將導(dǎo)致故障的原因診斷出來,以便檢修和替換。隨著電子技術(shù)的發(fā)展,模擬電路的集成程度越來越高,規(guī)模越來越大。在現(xiàn)代電子設(shè)備中，絕大部分電子設(shè)備故障是由于模擬電路故障導(dǎo)致的，可以說，模擬電路的可靠性幾乎決定了電子設(shè)備的可靠性。1 緒論隨著現(xiàn)代化大生產(chǎn)的發(fā)展，電子線路故障診斷技術(shù)的研究越來越重要。根據(jù)電子線路的特點(diǎn)可將電子線路故障診斷分為模擬電路的故障診斷和數(shù)字電路的故障診斷。 模擬電路故障診斷的背景意義目前，模擬電路在航天、通信、自動控制、家用電器等許多方面得到廣泛地應(yīng)用。因此，對模擬電路的工作的有效性、可靠性、可維修性等提出了更高的要求。對模擬電路的生產(chǎn)部門來說,同樣也要求能及時診斷出故障，以便改進(jìn)工藝,提高產(chǎn)品的合格率。根據(jù)電子技術(shù)的發(fā)展?fàn)顩r，由以下三點(diǎn)說明模擬電路故障診斷技術(shù)的緊迫性:第一，微電子學(xué)時代的到來,電子線路的復(fù)雜性和密集性明顯增加, 成千上萬個電路元器件集成在一個小芯片上,而對這些電路元器件的測試僅限于為數(shù)有限的引出端子之上，如此,通常的測量，微調(diào)的手段將不再實用甚至無濟(jì)于事。第三，現(xiàn)代電子系統(tǒng)復(fù)雜度的增加,系統(tǒng)的可靠性顯得更為重要,因此,必須提高電子系統(tǒng)的可靠性。所以，開展模擬電路故障診斷的研究是一項非常有意義的課題。模擬電路的輸入、輸出信號和元件參數(shù)都是連續(xù)的，電路中任何一個模擬元件都有可能具有無窮多種故障狀態(tài)，因此，很難對模擬電路故障進(jìn)行模擬和仿真。由于實際條件的限制，模擬電路中的電流通常不容易測量，可測量的電壓節(jié)點(diǎn)也往往是有限的，所以模擬電路供診斷的特征信息是有限的，這就容易造成故障定位的模糊性。實際應(yīng)用中的模擬電路元件都會有容差，即電路元件參數(shù)在其容差范圍內(nèi)有隨機(jī)的偏移。4）非線性問題。此外，模擬電路通常還包含大量的反饋回路，也增加了測試的復(fù)雜性。模擬電路對環(huán)境變化非常敏感，易受熱效應(yīng)和外界噪聲等環(huán)境因素的影響。6）故障模型化困難?？梢猿晒?yīng)用在數(shù)字電路故障診斷中的模型并不能適用于模擬電路故障診斷，而模擬電路故障診斷至今仍然缺乏有效的通用的故障模型。盡管存在這些困難，但仍然有許多研究者們致力于模擬電路故障診斷的研究。20世紀(jì)70年代出現(xiàn)了一些新的故障診斷原理和方法，其中最突出的成果是參數(shù)辨識法與故障字典法，1979年國際電氣與電子工程師協(xié)會（IEEE）為這兩項重要成果出版了模擬電路故障診斷的專輯[2]，使得模擬電路故障診斷領(lǐng)域得到進(jìn)一步的發(fā)展。20 世紀(jì)80年代提出了一種新的故障診斷方法，即故障驗證法，該方法的出現(xiàn)給故障診斷領(lǐng)域增添了新的活力，故障診斷的研究者們從故障診斷的實際出發(fā)，將研究的重點(diǎn)從求解全部元件值轉(zhuǎn)變到求解一部分的元件值，以此來確定故障元件或者故障區(qū)域，并將之分成故障元件求值與故障定位兩部分，大大減小了計算量，削弱了診斷條件。20世紀(jì)90年代初期，伴隨人工智能技術(shù)的發(fā)展，尤其是人工神經(jīng)網(wǎng)絡(luò)在不同領(lǐng)域里的廣泛運(yùn)用，故障診斷技術(shù)也向著智能化的方向發(fā)展。在國內(nèi)，對模擬電路的測試與故障診斷的研究一直都是被關(guān)注的研究方向。近年來發(fā)表了一系列關(guān)于應(yīng)用神經(jīng)網(wǎng)絡(luò)的模擬故障診斷的學(xué)術(shù)論文。本文采用兩種方法進(jìn)行模擬電路故障診斷研究：一種是基于BP神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷方法；另一種是先利用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)，然后再利用優(yōu)化后的網(wǎng)絡(luò)進(jìn)行模擬電路故障診的方法。本文的各章節(jié)組織安排如下：2 人工神經(jīng)網(wǎng)絡(luò)簡介人工神經(jīng)網(wǎng)絡(luò)(Art1ficial Neural Network,簡稱ANN)是模仿生物大腦的結(jié)構(gòu)和功能，由大量類似于生物神經(jīng)細(xì)胞的非線性處理單元（人工神經(jīng)元）相互聯(lián)接而成的網(wǎng)絡(luò)，簡稱神經(jīng)網(wǎng)絡(luò)。（1）發(fā)展初期（MP模型）[5]，從此開創(chuàng)了神經(jīng)網(wǎng)絡(luò)的研究。計算機(jī)學(xué)家Rosenblatt[7] 在1957年提出感知器（Perceptron）模型，第一次把神經(jīng)網(wǎng)絡(luò)研究從純理論的探討付諸于工程實踐。（2）低潮時期Minsky和Papert在1969年出版了一本關(guān)于感知器的書籍[9]，發(fā)現(xiàn)了感知器存在一些不足，如對于求解異或問題，因而研究工作趨向低潮。Grossberg[10]提出了自適應(yīng)共振理論；Kohonen提出了自組織映射網(wǎng)絡(luò)模型[11][12][13]；Fukushima提出了神經(jīng)認(rèn)知機(jī)網(wǎng)絡(luò)理論等。（3）第二次高潮時期進(jìn)入世紀(jì)80年代，神經(jīng)網(wǎng)絡(luò)研究再次高潮。他引入了“計算能量函數(shù)”的概念，給出了網(wǎng)絡(luò)穩(wěn)定性判據(jù)。Felemann和Balllard的連接網(wǎng)絡(luò)模型指出了傳統(tǒng)的人工智能計算與生物計算的區(qū)別，給出了并行分布的計算規(guī)則。這種算法根據(jù)學(xué)習(xí)的誤差大仙，把學(xué)習(xí)的結(jié)果反饋到中間層次的隱單元，改變他們的權(quán)系數(shù)矩陣，從而達(dá)到預(yù)期的檢測目的，解決了多層網(wǎng)絡(luò)的學(xué)習(xí)問題。BP網(wǎng)絡(luò)時迄今為止最常用、最普通的網(wǎng)絡(luò)。另外，在1995年，Jenkins提出了光學(xué)神經(jīng)網(wǎng)絡(luò)[17]，可以發(fā)揮光學(xué)的互連能力和并行處理能力，加強(qiáng)了神經(jīng)網(wǎng)絡(luò)的自適應(yīng)能力與學(xué)習(xí)能力，光學(xué)神經(jīng)網(wǎng)絡(luò)的神經(jīng)元之間的連接權(quán)不但數(shù)量大而且動態(tài)控制結(jié)合強(qiáng)度，可以實現(xiàn)高速運(yùn)算，極大地促進(jìn)神經(jīng)網(wǎng)絡(luò)的發(fā)展。1997年，申金媛提出了多目標(biāo)旋轉(zhuǎn)不變分類識別的新方法，也就是基于聯(lián)想存儲級聯(lián)WTA模型的旋轉(zhuǎn)不變識別[19]。1994年，廖曉昕對細(xì)胞神經(jīng)網(wǎng)絡(luò)提出了新的數(shù)學(xué)理論[20]，推動了該領(lǐng)域的發(fā)展。以上研究開拓了神經(jīng)網(wǎng)絡(luò)的應(yīng)用領(lǐng)域。工程界普遍面臨的問題就是尋求輸入空間到輸出空間之間的非線性關(guān)系模型，神經(jīng)網(wǎng)絡(luò)可以很好地模擬大部分無模型的非線性系統(tǒng)。因此，利用超大規(guī)模的集成硬件實現(xiàn)的神經(jīng)網(wǎng)絡(luò)可以大大提高信息處理速度。神經(jīng)網(wǎng)絡(luò)信息分布存儲的特征，使之對外界輸入信息和輸入模式具有聯(lián)想記憶的能力。由于神經(jīng)網(wǎng)絡(luò)信息分布式存儲的特性，在網(wǎng)絡(luò)的嚴(yán)重惡化之前這種破損是分散的。為確保神經(jīng)網(wǎng)絡(luò)的容錯性，在設(shè)計神經(jīng)網(wǎng)絡(luò)的算法時應(yīng)進(jìn)行正確的度量。神經(jīng)網(wǎng)絡(luò)的自適應(yīng)性主要體現(xiàn)在學(xué)習(xí)性、可訓(xùn)練性、自組織能力以及推理能力這四個方面。神經(jīng)元是一個多輸入、單輸出的非線性元件,其輸入輸出關(guān)系可以描述為 （1）其中，為的輸入信號, 為神經(jīng)元單元閾值, 為神經(jīng)元的連接輸入信號的權(quán)值，為輸入信號數(shù)目。激活函數(shù)不僅是一個神經(jīng)元的核心也是神經(jīng)網(wǎng)絡(luò)的核心，其特性曲線光滑且可導(dǎo)，它是神經(jīng)網(wǎng)絡(luò)具有非線性分類能力的根源。在實際應(yīng)用中,最常用的輸出函數(shù)是Sigmoid函數(shù)函數(shù),常用的有線性型、閾值型和S型(Sigmoid)等。(2)閾值型這是一種非線性模型,改函數(shù)有兩種不同取值情況：一種是當(dāng)輸入為，輸出值為+1或1時，的表達(dá)式為 （3）第二種情況是