【正文】 二是 優(yōu)化網(wǎng)絡(luò)的 權(quán)值和閾值；三是優(yōu)化神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則。選擇一個(gè)適合待解決問題的變異算子對 種群 進(jìn)行變異操作。首先初始化遺傳算法的初始運(yùn)行參數(shù)，主要有最大進(jìn)化代數(shù) M 、種群大小 N 、交叉概率 cp 、變異概率 mp 等；然后 隨機(jī) 產(chǎn)生 N 個(gè)個(gè)體作 為初始種群。由正態(tài)分布的特性可知，高斯變異也是重點(diǎn)搜索原個(gè)體附近某個(gè)局部區(qū)域。其具體操作過程是：首先，依次指定個(gè)體編碼串中的每個(gè)基因座為變異點(diǎn)；其次是對每一個(gè)變 異點(diǎn)，以變異概率從對應(yīng)基因的取值范圍內(nèi)取一隨機(jī)數(shù)來替代原有值。在遺傳算法中也引入了變異算子來產(chǎn)生新的個(gè)體。為了能夠進(jìn)行線性組合運(yùn)算，算術(shù)交叉的操作對象一般由浮點(diǎn)數(shù)編碼所表示的個(gè)體。 39。 單點(diǎn)交叉（ Onepoint Crossover）又稱為簡單交叉，它是指在個(gè) 體編碼串中只隨機(jī)設(shè)置一個(gè)交叉點(diǎn)然后在該點(diǎn)相互交換兩個(gè)配對個(gè)體的部分染色體。交叉算子的設(shè)計(jì)包括如何確定交叉點(diǎn)位置和如何進(jìn)行部分基因交換兩個(gè)方面的內(nèi)容。但另一方面，它也容易使得某個(gè)局部最優(yōu)個(gè)體不易被淘汰掉反而快速擴(kuò)散，從而使得算法的全局搜索能力不強(qiáng)。 在遺傳算法中，通過對個(gè)體進(jìn)行交叉、變異等遺傳操作而不斷產(chǎn)生出新的個(gè)體。 輪盤賭選擇方法（ Roulette Wheel Selection）是一種回放式隨機(jī)采樣方法。這樣就可以使得群體中個(gè)體的適應(yīng)度值不斷接近最優(yōu)解。 對于求最大值問題，做下列變換： m i n m a x( ) ( )( ( ) ) 0f x c f x cF it f t ???? ?? 其 他 （ 55） 式中， minc 為 ()fx的最小值估計(jì)，可以是一個(gè)合適的輸入值。種群的規(guī)模 N 可 以 人為確定 。 目前尚無一套嚴(yán)格又完整的知道理論及評價(jià)標(biāo)準(zhǔn)來幫助我們設(shè)計(jì)編碼方案，必須具體問題具體分析，采用不同的編碼方法。因?yàn)檫@種編碼方法使用的是決策變量的真實(shí)值，所以浮點(diǎn)數(shù)編碼方法也叫做真值編碼方法。 為了改 進(jìn)這個(gè) 特征， 人們提出 用格雷碼來對 個(gè)體進(jìn)行編碼。下面介紹幾種主要的編碼方法。 在遺傳算法中描述問題的可行解，也就是把問題的可行解空間轉(zhuǎn)換至遺傳算 18 法可以處理的搜索空間的方法就稱為編碼。 更 為 重要的是 遺傳算法 確定進(jìn)一步的搜索方向和搜索范圍 而不需要依靠目標(biāo)函數(shù)的導(dǎo)數(shù)值和其他輔助信息。 遺傳算法 則與之相反， 采用的 是同時(shí)處理種群 中多個(gè)個(gè)體的方法 ,也就是 對搜索空間的多個(gè)解 同時(shí) 進(jìn)行評估 ,這使遺傳算法具有良 好的全局搜索能力 ,該方法也是遺傳算法 特有的一種隱含 的 并行性 。遺傳算法是 通過 先對參數(shù)空間編碼再用隨機(jī)選擇作為工具使得 搜 索過程沿著 更高效的方向變化 。在 實(shí)際的問題 中，往往有很 大的搜索空間 ， 而 枚舉法不可能 搜索到 所有的情況。 為突出遺傳算法的優(yōu)越性，下面先介紹三種傳統(tǒng)的尋優(yōu)算法 類型 。進(jìn)化論認(rèn)為自然界中的 每一種 生物 都是在不斷發(fā)展的過程中逐漸變得更適應(yīng) 環(huán)境的 。通過多次 15 統(tǒng)計(jì)測試的輸出結(jié)果 ， 本文設(shè)計(jì)的 BP神經(jīng)網(wǎng)絡(luò)故障診斷系統(tǒng)的 正確率接近 100%。 倘若 期望 的 輸出與實(shí)際輸出一致，那么 表明 網(wǎng)絡(luò) 故障診斷 是 正確 的 ，反之則不正確 。 BP 網(wǎng)絡(luò)的傳遞函數(shù) 通常 采 用 logsigmoid 型函數(shù) logsig()、 tansigmoid 型函數(shù) tansig()以及純線性函數(shù) purelin()，本文在隱層中采用的激勵(lì)函數(shù)為 tansig函數(shù)，在輸出層中采用的激勵(lì)函數(shù)為 logsig 函數(shù) 。在 25組樣本中，第一組為正常狀態(tài)，第 2組至第 25組分別為功放電路的 24種單故障狀態(tài)。 本節(jié)將以一個(gè)功率放大器電路為例，對基于 BP神經(jīng)網(wǎng)絡(luò)的模擬電路故障 診斷 進(jìn)行分析 。 由于電路的輸入信號電壓 V17=、 直流電源 Vcc=12V、 直流負(fù)電源 Vee=12v 在電路工作正常與故障時(shí)取值都不變 ，因此在表中不予給出。 本文采集訓(xùn)練樣本的方式為：首先選擇功率放大器電路中標(biāo)明的 1～ 16 號可測節(jié)點(diǎn)作為電壓測試節(jié)點(diǎn)；然后在每一種故障狀態(tài)下，測量電路中 16 個(gè)可測節(jié)點(diǎn)的電壓值，并將測量數(shù)據(jù)保存在表 表 3 中。所以 當(dāng) 出現(xiàn)一定比例的神經(jīng)元或者 連接損壞 的情況時(shí)，僅 可能使系統(tǒng) 的整體性能有所下降，而很難使 整個(gè)系統(tǒng)完全失效， 因此 BP 網(wǎng)絡(luò) 具 有較強(qiáng)容錯(cuò)性。 而 BP 網(wǎng)絡(luò)的泛化能力 主要 依賴于網(wǎng)絡(luò)的設(shè)計(jì)。人工 神經(jīng)網(wǎng)絡(luò)體系 在結(jié)構(gòu)上有兩大特性：一是并行性的數(shù)據(jù)處理方式；二是 數(shù)據(jù)存儲的分布性 可以解決馮其基本原理是：權(quán)值和閾值的變化大小由不同的修正值決定。 其主要特點(diǎn)是 實(shí)現(xiàn) 起來簡單，學(xué)習(xí)時(shí)間長。 訓(xùn) 練 過 程 計(jì) 算 誤 差X 1X 2X 3輸 入權(quán) 值 修 正期 望 輸 出y 1y 2計(jì) 算 過 程輸 出輸 入 層 隱 層 輸 出 層 圖 3 BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)過程 (2) BP 算法 BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)規(guī)則的基本思想是：對網(wǎng)絡(luò)的權(quán)值和閾值的調(diào)整是向著函數(shù)下降最快的那個(gè)方向，即負(fù)梯度方向。網(wǎng)絡(luò)隱層神經(jīng)元個(gè)數(shù)的取值目前還沒有一個(gè) 確定的標(biāo)準(zhǔn) 來確定 ,其值通常是通過 反復(fù) 地試驗(yàn)試湊之后 ,將最適合網(wǎng)絡(luò)的隱層節(jié) 點(diǎn)數(shù)目作為最終選擇。它也是前向網(wǎng)絡(luò)的核心部分，體現(xiàn)了人工神經(jīng)網(wǎng)絡(luò)的精華。 8 無監(jiān)督學(xué)習(xí) 中，權(quán)值和閾值的調(diào)整只與網(wǎng)絡(luò)的輸入有關(guān)系，沒有有效的期望值。隨著神經(jīng)元 個(gè)數(shù) 的增加 ,互聯(lián)網(wǎng)絡(luò) 的結(jié)構(gòu)會(huì)快速 復(fù)雜化 ,將會(huì) 增加網(wǎng)絡(luò)的計(jì)算量 。按照 層與層之間 是否存在 反饋連接 ,又可以把層狀結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)分成兩種，即 前饋網(wǎng)絡(luò) 和 反饋網(wǎng)絡(luò) 。 在實(shí)際應(yīng)用中 ,最常用的輸出函數(shù)是 Sigmoid 函數(shù) 函數(shù) ,常用的 有線性型 、閾 值型 和S 型 (Sigmoid)等 。為確保神經(jīng)網(wǎng)絡(luò)的 容錯(cuò)性，在設(shè)計(jì) 神經(jīng) 網(wǎng)絡(luò) 的算法時(shí)應(yīng)進(jìn)行 正確的度量。 工程界普遍面臨的問題 就是 尋求輸入 空間 到輸 出 空間之間的非線性關(guān)系模型，神經(jīng)網(wǎng)絡(luò)可以 很好 地 模擬 大部分無模型的非線性系統(tǒng) 。另外， 在1995 年 ， Jenkins 提出了光學(xué)神經(jīng)網(wǎng)絡(luò) [17]， 可以 發(fā)揮 光學(xué) 的 互連能力和并行處理能力，加強(qiáng) 了神經(jīng)網(wǎng)絡(luò)的自適應(yīng)能力與學(xué)習(xí)能力 ，光學(xué)神經(jīng) 網(wǎng)絡(luò)的 神經(jīng)元之間的連接 權(quán)不但數(shù)量大 而且 動(dòng)態(tài)控制結(jié)合強(qiáng)度，可以實(shí)現(xiàn) 高速 運(yùn)算，極大地促進(jìn)神經(jīng)網(wǎng)絡(luò)的發(fā)展 。他引入了“計(jì)算能量函數(shù)”的概念，給出了網(wǎng)絡(luò)穩(wěn)定性判據(jù)。計(jì)算機(jī)學(xué)家 Rosenblatt[7] 在 1957 年提出感知器（ Perceptron）模型，第一次把神經(jīng)網(wǎng)絡(luò)研究從純理論的探討付諸于 4 工程實(shí)踐。 近年來發(fā)表了一系列關(guān)于應(yīng)用神經(jīng)網(wǎng)絡(luò)的模擬故障診斷的學(xué)術(shù)論文。 20 世紀(jì) 70 年代出現(xiàn)了一些新 的故障診斷 原理和方 法，其中最突出的成果是 參數(shù)辨識法 與故障字典法， 1979 年 國際 電氣與電子工程師協(xié)會(huì) （ IEEE）為這兩項(xiàng)重要成果 出版了模擬電路故障診斷 的 專輯 [2]，使得 模擬電路故障診斷領(lǐng)域 得到 進(jìn)一步 的 發(fā)展。模擬電路對環(huán)境變化非常敏感，易受 熱效應(yīng)和 外界 噪聲等 環(huán)境因素的影響。 由于實(shí)際條件的限制， 模擬電路中 的電流 通常 不 容易測量，可測量的電壓節(jié)點(diǎn)也往往是 有限 的，所以模擬電路供診斷的特征信息是有限的，這就容易造成故障定位的 模糊性。根據(jù)電子技術(shù)的發(fā)展?fàn)顩r，由以下三點(diǎn)說明模擬電路故障診斷技術(shù)的緊迫性 : 第一， 微電子學(xué)時(shí)代的到來 ,電子線路 的復(fù)雜性和密集性明顯 增加 , 成千上萬個(gè)電路元器件 集成在 一個(gè)小芯片上 ,而對這些電路元器件 的 測試僅限于為數(shù) 有限的引出 端子之上 ，如此 ,通常的測量 ，微調(diào)的 手段將 不再實(shí)用 甚至無濟(jì)于事 。 根據(jù)電子線路的特點(diǎn)可將 電子線路 故障診斷分為模擬電路的故障診斷和數(shù)字電路的故障診斷。 在 模擬 電路 故障發(fā)生 后 ,要求能及時(shí)將 導(dǎo)致 故障 的原因診斷 出來 ,以便檢修 和替換。 模擬電路故障診斷的發(fā)展與現(xiàn)狀 相對 于 數(shù)字電路 故障診斷 而言，模擬電路故障 診斷的發(fā)展較為緩慢，其中主要原因有以下六點(diǎn)： 1） 故障狀態(tài)的多樣性 。模擬電路中通常含有非線性元件，因此模擬電路龐大的計(jì)算量是不可避免的。 以上六 個(gè)方面的 問題是模擬電路中普遍存在的問題，也 是模擬電路故障診斷的難點(diǎn)。 利用神經(jīng)網(wǎng)絡(luò)來完成 故障狀態(tài)的分類和故障字典的查詢，既提高了故障診斷效率 ，同時(shí)利用 神經(jīng)網(wǎng)絡(luò) 所具有的泛化能力，使得實(shí)現(xiàn)對 電 路軟故障的診斷成為 可能。 神經(jīng)網(wǎng)絡(luò)發(fā)展及其特點(diǎn) 神經(jīng)網(wǎng)絡(luò)發(fā)展過程 神經(jīng)網(wǎng)絡(luò)的研究至今已有七十多年 的歷史 ,下面分三點(diǎn)進(jìn)行闡述。這些都是在20 世紀(jì) 70年代和 20 世紀(jì) 80 年代初進(jìn)行的工作。 BP 算法從實(shí)踐上證明了神經(jīng)網(wǎng)絡(luò)的運(yùn)算能力很強(qiáng)，可以完成許多學(xué)習(xí)任務(wù)，解決許多具體問題。吳佑壽提出了 5 傳遞函數(shù)可調(diào)的神經(jīng)網(wǎng)絡(luò)，這對神經(jīng)網(wǎng)絡(luò)理論的發(fā)展具有十分重要的 意義。 （ 4）容錯(cuò)性 神經(jīng)網(wǎng)絡(luò) 具有天生容錯(cuò)的能力（也稱魯棒性），即其性能在不利于 運(yùn)行 的 條件下 是 逐漸下降 的，如果一個(gè)神經(jīng)元或者神經(jīng)元的連接被 損壞了， 則存儲模式的記憶能力將會(huì)降低。 iy 為神經(jīng)元輸出 , ()f? 為 激活函數(shù)，也稱為傳遞函數(shù)。 層狀結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò) 是 由若干層 構(gòu)成的 ,其中 第一層是 網(wǎng)絡(luò)的輸入層 ,最后一層是網(wǎng) 絡(luò)的輸出層 ,在輸入層與輸出層之間的是 網(wǎng)絡(luò)的隱含層 。 此外 ,遞歸神經(jīng)網(wǎng)絡(luò) (Recurrent Neural Network，簡稱 RNN)也是目前一種常用的反饋網(wǎng)絡(luò)。如 ? ? ? ? ? ? ? ?1 1 2 2, , , , . . . , , , . . . , ,i i R Rp t p t p t p t，其中， ,iipt分別表示網(wǎng)絡(luò)的輸入和相應(yīng)的期望輸出。 3 基于 BP 神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷 BP 神經(jīng)網(wǎng)絡(luò) BP 網(wǎng)絡(luò)是一種多層前饋型神經(jīng)網(wǎng)絡(luò) ，它可以實(shí)現(xiàn)從輸入到輸出的任意非線性映射。 BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) BP神經(jīng)網(wǎng)絡(luò)通常 是 由輸入層 、 隱含層和輸出層組成 , 根據(jù)具體問題的需要，網(wǎng)絡(luò)可以含有多個(gè)隱層。由于網(wǎng)絡(luò)輸出誤差是 由網(wǎng)絡(luò) 的輸入、輸出以及期望輸出所決定的，而網(wǎng)絡(luò)的權(quán)值和閾值又是按照誤差來調(diào)整的，所以這三者的所有信息都存儲 在網(wǎng)絡(luò) 的權(quán)值和閾值中。 當(dāng)網(wǎng)絡(luò)輸出節(jié)點(diǎn)期望值為 lt ，輸出節(jié)點(diǎn)總數(shù)為 n 個(gè)，模型的計(jì)算公式為： （ 50） BP網(wǎng)絡(luò)學(xué)習(xí)算法的具體步驟如下： a) 網(wǎng)絡(luò)初始化，主要包括確定網(wǎng)絡(luò)各層的神經(jīng)元個(gè)數(shù)，設(shè)定目標(biāo)精度和迭代次數(shù)，進(jìn)行權(quán)值和閾值初始化； b) 輸入訓(xùn)練樣本集供 BP網(wǎng)絡(luò)學(xué)習(xí)； c) 計(jì)算網(wǎng)絡(luò)各層的輸出； d) 將網(wǎng)絡(luò)實(shí)際輸出值與期望值比較，求各層的輸出誤差； e) 如果實(shí)際誤差小于設(shè)置的誤差精度 或者迭代次數(shù)達(dá)到了預(yù)設(shè)的次數(shù)，則停止，否則，則繼續(xù)下一步； 10 f) 將計(jì)算誤差進(jìn)行反向反饋調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值； g) 重復(fù)進(jìn)行步驟 b）～ e） 。 另一種途徑為基于數(shù)值最優(yōu)化理論的學(xué)習(xí)算法，其中含有高斯 牛頓法、共軛梯度法和 LevenbergMarquardt方法。 該算法通常比啟發(fā)式學(xué)習(xí)算法中的其他算法 的收斂速度 要快 ,并且此算法簡單易行，占用內(nèi)存也較少。 BP 網(wǎng)絡(luò)能 成為一種 十分 有效的有監(jiān)督學(xué)習(xí)網(wǎng)絡(luò) 的原因是其 獲取知識的一種 十分 有效學(xué)習(xí)算法。對于 求解精確解 一類 的問題 ，其并不適用 。 （ 2）神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本集采集 本文利用 Multisim 仿真 軟件對 功率放大電路進(jìn)行仿真，由于電路中的節(jié)點(diǎn)電壓對電路中的故障狀態(tài)較為敏感，因此本文以電路中的各節(jié)點(diǎn)電壓的有效值作為模擬電路故障數(shù)據(jù)的特征參量，即在電路故障時(shí)，將電路中各節(jié)點(diǎn)的電壓值作 12 為體現(xiàn)該故障狀態(tài)的參量。 3）電阻 RL 表示揚(yáng)聲器。 在實(shí)際診斷時(shí)， 只需要 獲取 模擬 電路的實(shí)時(shí)特征，就可以從 所制作的 故障字典中查出此時(shí) 所 對應(yīng)的故障 狀態(tài)了 。由于電路的故障狀態(tài)是采用二進(jìn)制編碼 ， 因此 對于 N 個(gè)故障狀態(tài)的模式 ，需要將 滿足 不等式 122nnN? ??的 n 作為 BP網(wǎng)絡(luò) 輸出 層的 神經(jīng)元 個(gè) 數(shù) ，所以本例中的輸出層數(shù)目為 5。而彈性梯度下降法（ trainrp）就能避免這種影響。源序代碼參看附錄 A。 2)測試結(jié)果分析 本例中選取的是故障狀態(tài) 1 1 17 的樣本 ，將這六組樣本中的每一個(gè)數(shù)據(jù) 5%? 的容差構(gòu)成測試樣本。 遺傳算法 的引入 為 人工神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)與 訓(xùn)練提供了 一條 新的途徑 。 隨著 選擇、交叉、變異的循環(huán)進(jìn)行 ,適應(yīng)性強(qiáng)的染色體會(huì)被一代一代選出 并加以組合 ,進(jìn)而 不斷 地 產(chǎn)生出更好的個(gè)體 。二是它們 要求目標(biāo)函數(shù) 必須 是連續(xù)光滑的 ,并 需要導(dǎo)數(shù)的信息 。所以，隨機(jī)法的最終結(jié)果往往 不是最優(yōu)值 。遺傳算法的這種 對參數(shù)進(jìn) 17 行 編碼的操作方法 ,可以借鑒 生物的遺傳進(jìn)化過程 ,也可以 應(yīng)用遺傳操作算子 ,這使得遺傳算法可以應(yīng)用到廣泛的 領(lǐng)域 中去。 4) 遺傳算法直接把目標(biāo)函數(shù)值用作 搜索信息 。 遺傳算法的實(shí)現(xiàn) 基本遺傳操作 遺傳算法的基本遺傳操作主要由參數(shù)的編碼、種群初始化、適應(yīng) 度函數(shù)設(shè)計(jì)、遺傳算子操作構(gòu)成，下面將一一詳細(xì)地進(jìn)行介紹。 為解決這個(gè)問題而提出的格雷碼（ Gray Code），在相鄰整數(shù)之間漢明距離都為 1