【正文】 合 ,進(jìn)而 不斷 地 產(chǎn)生出更好的個體 ?；?遺傳 學(xué)認(rèn)為 ,基因 雜交和基因突變會 產(chǎn)生對 自然 環(huán)境 有更強適應(yīng)性 的后代 ,基因雜交和突變后的個體經(jīng)過 優(yōu)勝劣汰的自然選擇 后 ,適應(yīng)性強的基因就會被保留 下來 。 物種 中 的每 一個個體的基本特征為 后代所繼承 ,但 是 后代又不會 完全與父代相同 ,與父代的有差異特征如果能有利于后代 適應(yīng)環(huán)境 ,就被留存下來。 遺傳算法的 基本原理及其 特點 遺傳算法（ Geic Algorithm，簡稱 GA）的基本原理是以英國博物學(xué)家達(dá)爾文（ Darwin） 的進(jìn)化論 與奧地利遺傳學(xué)家孟德爾（ Mendel） 的基因遺傳學(xué)原理[25]為根據(jù)的。 遺傳算法 的引入 為 人工神經(jīng)網(wǎng)絡(luò)的設(shè)計與 訓(xùn)練提供了 一條 新的途徑 。 4 基于 GABP 算法的模擬電路故障診斷 神經(jīng)網(wǎng)絡(luò) 具有很強的學(xué)習(xí)能力 與 適應(yīng)能力 ， 在實際應(yīng)用中 ,大部分神經(jīng)網(wǎng)絡(luò)的模型 采用 的是 BP 神經(jīng)網(wǎng)絡(luò) ,BP 網(wǎng)絡(luò)是前饋網(wǎng)絡(luò)的主 要 部分 ,是 神經(jīng)網(wǎng)絡(luò)的精華 。 （ 6） BP 網(wǎng)絡(luò)故障診斷系統(tǒng)的輔助設(shè)計 為使本設(shè)計的故障診斷系統(tǒng)的更為完善，本文在細(xì)節(jié)方面做了進(jìn)一步的工作，主要有： 1）由于網(wǎng)絡(luò)期望輸出為一組五位的二進(jìn)制數(shù)，但實際輸出往往是五位浮點數(shù)，這使得在讀取故障點時不是很直觀，本文通過判決程序?qū)⒏↑c數(shù)轉(zhuǎn)化為二進(jìn)制數(shù)，然后將二進(jìn)制轉(zhuǎn)化為十進(jìn)制數(shù)，方便測試人員一眼即可讀出故障點。 從測試結(jié)果可以發(fā)現(xiàn) ，本設(shè)計的 BP 神經(jīng)網(wǎng)絡(luò)能夠準(zhǔn)確的診斷出功率放大器電路的故障狀態(tài)。 2)測試結(jié)果分析 本例中選取的是故障狀態(tài) 1 1 17 的樣本 ，將這六組樣本中的每一個數(shù)據(jù) 5%? 的容差構(gòu)成測試樣本。仿真輸出結(jié)果與期望輸出如表 4 所示，表中的數(shù)據(jù) 小數(shù)點后保留四位有效數(shù)字，例如在故障狀態(tài) 2 情況下，網(wǎng)絡(luò)仿真輸出為 ， ， ， ， 五位浮點數(shù)，與期望輸出 0， 0， 0， 1， 0五位二進(jìn)制數(shù)十分接近，即可判定為故障狀態(tài) 2 故障。 本例隨機從 25 組訓(xùn)練樣本中抽取六組樣本，將這六組樣本中的每一個值5%? 的容差作為測試樣本集。 將測試樣本輸入 到 BP 神經(jīng)網(wǎng)絡(luò)中， 即可 得出分類結(jié)果 。源序代碼參看附錄 A。在 ，調(diào)用 newff函數(shù)創(chuàng)建一個 BP神經(jīng)網(wǎng)絡(luò)，然后調(diào)用 train函數(shù)對所建網(wǎng)絡(luò)進(jìn)行訓(xùn)練。 由于本例所構(gòu)建的 BP網(wǎng)絡(luò)的期望輸出是一組二進(jìn)制數(shù)，故本文在輸出神經(jīng)元 14 后添加了一個判決函數(shù) ()fx，公式為 1 , 0 .5() 0 , 0 .5xfx x ??? ? ?? （ 52） 保證 BP 網(wǎng)絡(luò)的輸出為一組二進(jìn)制數(shù)，故障類型 如表 1 所示， 其輸出節(jié)點的二進(jìn)制 故障 編碼如 表 2和 表 3中的故障編碼所示 。因此， 本例采用的訓(xùn)練 算法為彈性梯度下降法。而彈性梯度下降法（ trainrp）就能避免這種影響。由于多層 BP網(wǎng)絡(luò)大部分使用的是 S型的激勵函數(shù)，這類函數(shù)又被稱為“擠壓”函數(shù)，它們可以將無限范圍內(nèi)的輸入壓縮至有限范圍的輸出，當(dāng)輸入值很大或 很小時，輸出 函數(shù)的斜率將會接近于 0。為加快網(wǎng)絡(luò)的收斂速度，訓(xùn)練樣本在輸入網(wǎng)絡(luò)之前進(jìn)行了歸一化處理。 （ 2）網(wǎng)絡(luò)訓(xùn)練樣本集 網(wǎng)絡(luò)訓(xùn)練樣本集如表 2和表 3所示，共有 25組樣本，每組有 16個不同節(jié)點的電壓值組成。由于電路的故障狀態(tài)是采用二進(jìn)制編碼 ， 因此 對于 N 個故障狀態(tài)的模式 ，需要將 滿足 不等式 122nnN? ??的 n 作為 BP網(wǎng)絡(luò) 輸出 層的 神經(jīng)元 個 數(shù) ，所以本例中的輸出層數(shù)目為 5。 如果待診斷的 模擬電路有 m 個 可 測試節(jié)點， 那么 BP神經(jīng)網(wǎng)絡(luò) 的 輸入層可以選擇 m 個神經(jīng)元。 （ 1） BP 網(wǎng)絡(luò)的構(gòu)建 根據(jù) 映射存在定理 可 確定 BP神經(jīng) 網(wǎng)絡(luò)的層數(shù) ，該定理的基本含義是： 任意連續(xù)函數(shù) 都 可由一個三層 BP神經(jīng) 網(wǎng)絡(luò) 來 逼近，對于 一般 的故障診斷問題，有一個或 者 兩個隱含層的 BP神經(jīng) 網(wǎng)絡(luò) 就 已經(jīng)夠用了， 所以 確定神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 主要 就是確定 網(wǎng)絡(luò) 隱含層 的 神經(jīng)元數(shù) 。 因此， 可知 用 BP神經(jīng)網(wǎng)絡(luò) 來 實現(xiàn)模擬電路 故障診斷的原理與故障字典法的 有很多 相似之處 。 在實際診斷時， 只需要 獲取 模擬 電路的實時特征，就可以從 所制作的 故障字典中查出此時 所 對應(yīng)的故障 狀態(tài)了 。 BP 網(wǎng)絡(luò)診斷模擬電路故障 用 BP網(wǎng)絡(luò)實現(xiàn)對模擬電路故障診斷相當(dāng)于在 BP網(wǎng)絡(luò)中建立故障字典。 （ 3）測試樣本集 模擬電路元件普遍存在容差，因此在故障狀態(tài)所測試的數(shù)據(jù)通常不會為恒定值。 電壓 值都 以毫伏（ mv）為單位，小數(shù)點后保留三位有效數(shù)字。 3）電阻 RL 表示揚聲器。 2）電阻 R3 和電位器 Rp1 在斷路狀態(tài)下 各節(jié)點電壓值相差無幾，所以作為一種故障狀態(tài)處理。完成上面兩步即完成了 BP 網(wǎng)絡(luò)訓(xùn)練樣本的采集工作，表 表 3 中的數(shù)據(jù)即為 BP 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本集。通過分析電路的拓?fù)浣Y(jié)構(gòu)，根據(jù)電路元件的故障率以及模擬電路故障診斷的經(jīng)驗，了解到功率放大器電路產(chǎn)生多故障（一個或多個元件同一時間出現(xiàn)故障）的概率極少，通常為單故障（一個元件故障），功率放大器電路的所有典型的故障狀態(tài)如表 1所示。 （ 2）神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本集采集 本文利用 Multisim 仿真 軟件對 功率放大電路進(jìn)行仿真，由于電路中的節(jié)點電壓對電路中的故障狀態(tài)較為敏感，因此本文以電路中的各節(jié)點電壓的有效值作為模擬電路故障數(shù)據(jù)的特征參量，即在電路故障時，將電路中各節(jié)點的電壓值作 12 為體現(xiàn)該故障狀態(tài)的參量。本文以功率放大器電路作為模擬電路故障診斷對象。 基于 BP 神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷實例 診斷電路選 擇與訓(xùn)練、測試樣本集的采集 （ 1）診斷電路選擇 功率放大器（ Power Amplifier）在整個音響系統(tǒng)中起到了組織、協(xié)調(diào)的樞紐作用，在某種程度上主宰著整個系統(tǒng)能否提供良好的音質(zhì)輸出。 BP 網(wǎng)絡(luò)是 一個 分布式 的 并行處理系統(tǒng)， 輸入 信息儲存在整個系統(tǒng)中， 網(wǎng)絡(luò)中的每一個神經(jīng)元以及 每 一 個連接 都對網(wǎng)絡(luò)的整體性能有貢獻(xiàn)，但是 這種貢獻(xiàn) 往往 又都是 比較微小的。對于 求解精確解 一類 的問題 ，其并不適用 。 4）適用范 圍。例如 利 用足夠的 且 具有代表性的樣本訓(xùn)練出的網(wǎng)絡(luò)的泛化能力較強。 泛化（又 稱推廣）能力 是指通過 訓(xùn)練后的 神經(jīng)網(wǎng)絡(luò)對沒有在訓(xùn)練樣本集中出現(xiàn) 過 的樣本 可以 做出正確反應(yīng)的 一種 能力。 BP 網(wǎng)絡(luò)能 成為一種 十分 有效的有監(jiān)督學(xué)習(xí)網(wǎng)絡(luò) 的原因是其 獲取知識的一種 十分 有效學(xué)習(xí)算法。 2） BP 算法 的采用。諾依曼體系中的“處理器 ——存儲器瓶頸”。 BP 網(wǎng)絡(luò)的應(yīng)用特點主要有下面幾點： 1）工作速度高。 該算法通常比啟發(fā)式學(xué)習(xí)算法中的其他算法 的收斂速度 要快 ,并且此算法簡單易行，占用內(nèi)存也較少。如果權(quán)值變化連續(xù)幾次都在同一個方向，則增加權(quán)值的變化量級。當(dāng)前兩次訓(xùn)練時導(dǎo)數(shù)的正負(fù)號沒有改變，權(quán)值和閾值的修正值隨著參數(shù) _delt inc 增加；當(dāng)前兩次訓(xùn)練時導(dǎo)數(shù)的正負(fù)號有改變，權(quán)值和閾值的修正隨著 _delt dec 減?。蝗绻麑?dǎo)數(shù)為零，則修正值不變。 將 彈性 梯度下降法作為 BP 網(wǎng)絡(luò)的訓(xùn)練函數(shù)時，網(wǎng)絡(luò)權(quán)值的調(diào)整僅由目標(biāo)函數(shù) 偏導(dǎo)數(shù)的符號 決定 ,而不必 考慮 函數(shù) 偏導(dǎo)數(shù)的幅值 。 另一種途徑為基于數(shù)值最優(yōu)化理論的學(xué)習(xí)算法，其中含有高斯 牛頓法、共軛梯度法和 LevenbergMarquardt方法。為 加快 BP 網(wǎng)絡(luò)的學(xué)習(xí)速度， 研究者們提出了許多改進(jìn)算法。 BP 網(wǎng)絡(luò)的學(xué)習(xí)過程 就是求 一 個 非線性函數(shù) 的全局最優(yōu)解的過程，倘若陷入局部最優(yōu)值，則 達(dá)不到學(xué)習(xí)目的。 （ 3） BP 算法特點 從本質(zhì)上來說 ， BP 算法 就是將樣本的輸入輸出問題轉(zhuǎn)變成 非線性優(yōu)化 的問題，其使用了優(yōu)化技術(shù)中的梯度下降算法，利 用迭代運算 來求解權(quán)值，就相當(dāng)于學(xué)習(xí)記憶 。 當(dāng)網(wǎng)絡(luò)輸出節(jié)點期望值為 lt ，輸出節(jié)點總數(shù)為 n 個，模型的計算公式為： （ 50） BP網(wǎng)絡(luò)學(xué)習(xí)算法的具體步驟如下： a) 網(wǎng)絡(luò)初始化，主要包括確定網(wǎng)絡(luò)各層的神經(jīng)元個數(shù)，設(shè)定目標(biāo)精度和迭代次數(shù)，進(jìn)行權(quán)值和閾值初始化； b) 輸入訓(xùn)練樣本集供 BP網(wǎng)絡(luò)學(xué)習(xí)； c) 計算網(wǎng)絡(luò)各層的輸出； d) 將網(wǎng)絡(luò)實際輸出值與期望值比較，求各層的輸出誤差； e) 如果實際誤差小于設(shè)置的誤差精度 或者迭代次數(shù)達(dá)到了預(yù)設(shè)的次數(shù)，則停止，否則，則繼續(xù)下一步； 10 f) 將計算誤差進(jìn)行反向反饋調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值； g) 重復(fù)進(jìn)行步驟 b）～ e） 。 本文以三層 BP 網(wǎng)絡(luò)為例進(jìn)行說明，設(shè)第 i 個輸入節(jié)點為 ix ，第 j 個隱層節(jié)點為 jy ，第 l 輸出節(jié)點為 lz 。 1k k k kx x g?? ?? （ 7） 其中， kx 表示為當(dāng)前網(wǎng) 絡(luò)的權(quán)值和閾值矩陣， kg 表示為當(dāng)前表現(xiàn)函數(shù)的梯度， k? 表示為網(wǎng)絡(luò)學(xué)習(xí)速度。 網(wǎng)絡(luò) 學(xué)習(xí) 過程 結(jié)束 以后，已被 學(xué)習(xí)的樣本 的 有效信息 會被存儲到 網(wǎng)絡(luò) 的權(quán)值中，當(dāng) 有相似 的 輸入時， BP 神經(jīng)網(wǎng)絡(luò)就會有 相近的輸出。由于網(wǎng)絡(luò)輸出誤差是 由網(wǎng)絡(luò) 的輸入、輸出以及期望輸出所決定的，而網(wǎng)絡(luò)的權(quán)值和閾值又是按照誤差來調(diào)整的，所以這三者的所有信息都存儲 在網(wǎng)絡(luò) 的權(quán)值和閾值中。 BP 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練 (1)BP 算法基本思想 BP 神經(jīng)網(wǎng)絡(luò) 主要由三大部分組成，即網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)、各層神經(jīng)元的傳遞函數(shù) (也稱激勵函數(shù) )和學(xué)習(xí)規(guī)劃。本論文選擇具有雙 隱層的 BP 神經(jīng)網(wǎng)絡(luò)進(jìn)行說明 ,其 拓?fù)浣Y(jié)構(gòu)如圖 2 所示 。網(wǎng)絡(luò)輸入層的神經(jīng)元個數(shù) 取 為 輸入向量的維數(shù) ,網(wǎng)絡(luò)輸出層神經(jīng)元的數(shù)目 取為 輸出向量的維數(shù) 。 BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) BP神經(jīng)網(wǎng)絡(luò)通常 是 由輸入層 、 隱含層和輸出層組成 , 根據(jù)具體問題的需要，網(wǎng)絡(luò)可以含有多個隱層。 分類：把輸入矢量所定義的合適方式進(jìn)行分類。 BP 網(wǎng)絡(luò)主要用于以下四方面： 函數(shù)逼近：用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個網(wǎng)絡(luò)以逼近一個函 數(shù)。目前，在人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用中，絕大部分的神經(jīng)網(wǎng)絡(luò)模型都采用 BP 網(wǎng)絡(luò)及其變化形式。 3 基于 BP 神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷 BP 神經(jīng)網(wǎng)絡(luò) BP 網(wǎng)絡(luò)是一種多層前饋型神經(jīng)網(wǎng)絡(luò) ，它可以實現(xiàn)從輸入到輸出的任意非線性映射。 Hebb 學(xué)習(xí)規(guī)則是一種典型的無監(jiān)督學(xué)習(xí)算法 。 在學(xué)習(xí)過程中 ,根據(jù) 某種規(guī)則 反復(fù)調(diào)整 網(wǎng)絡(luò)權(quán)值和閥值 ,直到趨于某種穩(wěn)定的狀態(tài) 。 誤差反向傳播算法 ，即 BP 算法是一種有監(jiān)督學(xué)習(xí)算法。如 ? ? ? ? ? ? ? ?1 1 2 2, , , , . . . , , , . . . , ,i i R Rp t p t p t p t，其中， ,iipt分別表示網(wǎng)絡(luò)的輸入和相應(yīng)的期望輸出。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法可分為有監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí)兩大類 。 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)機制 神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值反映了神經(jīng)網(wǎng)絡(luò)的 存儲 信息 ,在 神經(jīng) 網(wǎng)絡(luò) 的結(jié)構(gòu)和激勵 函數(shù)確定了以后 ,必須經(jīng)過學(xué)習(xí) ,使網(wǎng)絡(luò)權(quán)值和閾值的分布達(dá)到 某種輸入輸出關(guān)系的要求 。 因此 ,輸入信號 在各個 神經(jīng)元之間反復(fù)傳遞 ,從 初始狀態(tài)開始 ,直到趨于某一穩(wěn)定狀態(tài)或進(jìn)入周期振蕩 狀態(tài)為止 。 此外 ,遞歸神經(jīng)網(wǎng)絡(luò) (Recurrent Neural Network，簡稱 RNN)也是目前一種常用的反饋網(wǎng)絡(luò)。 反饋網(wǎng)絡(luò)在網(wǎng)絡(luò)的 輸出層與隱含層 之間或在隱含 層與隱含層之間存在 反饋連接 ,即網(wǎng)絡(luò)中的神經(jīng)元同時接收來自前一層神經(jīng)元 的 前饋輸入和來自后一層神經(jīng)元 的反饋輸入 。 前饋網(wǎng)絡(luò)（又稱 前向網(wǎng)絡(luò) ）的特點是相鄰兩層之間的神經(jīng)元互相 連接 ,各神經(jīng)元之間無 反饋 。每一層神經(jīng)元 與前一層神經(jīng)元 的輸出相連接 ,而同一層內(nèi)的神經(jīng)元互不連接。 層狀結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò) 是 由若干層 構(gòu)成的 ,其中 第一層是 網(wǎng)絡(luò)的輸入層 ,最后一層是網(wǎng) 絡(luò)的輸出層 ,在輸入層與輸出層之間的是 網(wǎng)絡(luò)的隱含層 。當(dāng)輸入為 x ， ()fx的表達(dá)式為 1() 1 xfx e?? ? （ 5） 第二種是正切 sigmoid 函數(shù)，即 tansig 函數(shù)，輸出取值范圍為（ 1,1），輸入為 x ， ()fx的表達(dá)式為： 7 () xxeefx ee???? ? （ 6） 神經(jīng)網(wǎng)絡(luò)的構(gòu)成 神經(jīng)網(wǎng)絡(luò)是由許多互相連接的神經(jīng)元構(gòu)成的網(wǎng)絡(luò)。常用 激活函數(shù) 的表達(dá)式為 : （ 1）線性型 神經(jīng)元 函數(shù) f 連續(xù)取值 ,輸 入 x 有連接矩陣 加權(quán) w 產(chǎn)生輸出 ,其激活函數(shù) 表達(dá)式 為 : ()f x kx? （ 2） 線性激活函數(shù)可以獲得較大值域范圍 。通常，稱一個神經(jīng)網(wǎng)絡(luò)是線性還是 非線性是由 神經(jīng) 網(wǎng)絡(luò)神經(jīng)元所具有 的激活函數(shù)的線性或非線性來決定的 。 iy 為神經(jīng)元輸出 , ()f? 為 激活函數(shù)，也稱為傳遞函數(shù)。 神經(jīng)網(wǎng)絡(luò)原理 神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu)單元 神經(jīng)元 是神經(jīng)網(wǎng)絡(luò)的基本單元 ,它類似于生物體的神經(jīng)系統(tǒng)基本單元 ,神經(jīng)元是一個多輸入單輸出 的 結(jié)構(gòu) ,其功能是模擬生物神經(jīng)元 最基本 的