【正文】 因此，改進遺傳算法使其優(yōu)化后的神經(jīng)網(wǎng)絡(luò)收斂速度更快更合理是一個十分值得研究的課題。3）借助遺傳算法來優(yōu)化神經(jīng)網(wǎng)絡(luò)具有一定的隨機性，網(wǎng)絡(luò)初始值的不同導(dǎo)致網(wǎng)絡(luò)收斂速度會有很大差異，如果要將之應(yīng)用于實際生產(chǎn)，則必須使網(wǎng)絡(luò)的收斂速度保持在一個適當?shù)姆秶鷥?nèi)。以下是本人在研究過程中期望進一步研究的問題：1）研究對于具體問題有具體方案來確定BP網(wǎng)絡(luò)的網(wǎng)絡(luò)層數(shù)與隱層節(jié)點數(shù)，而不是靠實驗者的經(jīng)驗與試驗來確定，因為實驗者確定的網(wǎng)絡(luò)層數(shù)與網(wǎng)絡(luò)隱層節(jié)點數(shù)往往不是最精確，最適合的。將神經(jīng)網(wǎng)絡(luò)應(yīng)用在模擬電路故障診斷中是非常誘人的一個研究課題?？紤]到傳統(tǒng)的BP算法存在的易收斂于局部最小值的缺陷，本文進一步地研究了基于GABP神經(jīng)網(wǎng)絡(luò)的模擬電路故障診斷，該算法中在確定的BP網(wǎng)絡(luò)進行拓撲結(jié)構(gòu)下，先利用GA算法優(yōu)化BP網(wǎng)絡(luò)中的權(quán)值和閾值，然后將優(yōu)化后的BP網(wǎng)絡(luò)進行模擬電路的故障診斷，該算法利用GA算法的全局搜索能力，很好地優(yōu)化了傳統(tǒng)BP網(wǎng)絡(luò)的缺陷。利用神經(jīng)網(wǎng)絡(luò)的自學習能力，可以快速地完成故障狀態(tài)的分類，大大地提高了模擬電路故障診斷的效率和準確率。因此，模擬電路故障診斷是提高模擬電路的可靠性以及當模擬電路出現(xiàn)故障時進行快速排查的重要手段。在通過多次的試驗統(tǒng)計后，網(wǎng)絡(luò)的故障診斷正確率接近100%，降低了陷入局部最小值的概率，驗證了遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的優(yōu)點。將測試樣本輸入已經(jīng)優(yōu)化后的BP網(wǎng)絡(luò)，測試輸出數(shù)據(jù)與期望輸出數(shù)據(jù)存放在表7中,表中的數(shù)據(jù)小數(shù)點后保留四位有效數(shù)字，現(xiàn)舉一例進行說明，當將第六組訓(xùn)練樣本（即故障狀態(tài)5下的16個電壓值）的容差的情況下，與期望輸出0，0，1，0，1五位二進制數(shù)十分接近，可判定為故障狀態(tài)5故障。由表中數(shù)據(jù)分析，網(wǎng)絡(luò)實際輸出值與期望輸出值非常接近，即誤差小，精度高，達到了設(shè)計的目的。值一般選擇在（，）。本文的變異算子選為非均勻變異算子。根據(jù)經(jīng)驗，的值一般選為（,1）,。進行交叉運算時，一次只能選擇一種交叉算子進行交叉操作，執(zhí)行均勻交叉與兩點交叉的比例為2:3。2）交叉運算交叉運算的基本思想是首先在種群中隨機選擇兩個個體進行，根據(jù)交叉概率來確定選擇的兩個個體是否交叉。輪盤賭法的基本思想是：計算群體中每一個個體的適應(yīng)度函數(shù)值，則第個個體的累計概率為 （）其中，然后，隨機產(chǎn)生一個（0,1）范圍內(nèi)的一個數(shù)，當時，則個體被選中進入下一代的種群。 （60）其中k為新的種群規(guī)模，其值通過上述商四舍五入的產(chǎn)生，m為初始種群大小，n為迭代次數(shù)，a為一個常數(shù)，決定最后一代的種群大小，本文設(shè)定為8。在本文中由于種群規(guī)模在30，迭代次數(shù)為15時就可以很好的達到故障診斷的精度要求，為降低系統(tǒng)的啟動時間，初始種群大小就設(shè)定為30，迭代次數(shù)（也稱進化代數(shù)）設(shè)定為15。種群規(guī)模對遺傳算法的效率影響明顯，選擇過大，雖然可增加種群的多樣性，更容易找到最優(yōu)解，但是會導(dǎo)致收斂時間過長，種群規(guī)模選擇過小，雖然可以加快收斂速度，但是對進化不利，易陷于局部最優(yōu)。(2) 種群初始化以及各代種群規(guī)模設(shè)定由于網(wǎng)絡(luò)的初始權(quán)值和閾值從較小的數(shù)值開始調(diào)整，可以有效預(yù)防網(wǎng)絡(luò)跳過一些較好的權(quán)值與閾值點，對網(wǎng)絡(luò)的性能有積極影響，經(jīng)過多次比較試驗，當BP網(wǎng)絡(luò)的連接權(quán)值和閾值的初始值的范圍設(shè)置為（,）時，網(wǎng)絡(luò)性能最好，所以就數(shù)據(jù)范圍設(shè)定為（,）。由于本設(shè)計對輸出結(jié)果的精度要求較高，遺傳搜索的空間較大，訓(xùn)練樣本數(shù)據(jù)的范圍也較大，若采用二進制編碼，則要求二進制碼串很長，GABP算法的解空間很大，容易導(dǎo)致計算過程十分漫長，因此本設(shè)計采用浮點數(shù)編碼方式。 （59）其中，表示輸入層節(jié)點數(shù)，表示第一層隱層節(jié)點數(shù)，表示第二層隱層節(jié)點數(shù)，表示輸出層節(jié)點數(shù)。 BP神經(jīng)網(wǎng)絡(luò)設(shè)計BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)以及激勵函數(shù)、訓(xùn)練函數(shù)、訓(xùn)練樣本以及測試樣本與第三章中BP網(wǎng)絡(luò)一致，在此就不再贅述。6)如果某個個體達到要求，則終止，否則重復(fù)2）～5）的步驟。4)根據(jù)適應(yīng)度函數(shù)值大小對種群進行選擇。2)構(gòu)造訓(xùn)練樣本集，其中每以個元素代表著一個結(jié)構(gòu)和連接權(quán)設(shè)定的或者預(yù)先確定的神經(jīng)網(wǎng)絡(luò)，然后對訓(xùn)練樣本集中的每一個元素分別用每個學習規(guī)則進行訓(xùn)練。目前人們對學習規(guī)則進行優(yōu)化的研究才剛剛開始，還沒有成功的例子。 優(yōu)化BP網(wǎng)絡(luò)的學習規(guī)則利用遺傳算法來優(yōu)化神經(jīng)網(wǎng)絡(luò)的學習規(guī)則,可以使神經(jīng)網(wǎng)絡(luò)應(yīng)用于具體的、復(fù)雜的問題。5）如果達到終止條件則輸出最優(yōu)解，否則重復(fù)進行步驟2）、3）、4）。3）進行遺傳操作（選擇、交叉、變異等）繁殖新一代種群。2) 輸入訓(xùn)練樣本對網(wǎng)絡(luò)進行訓(xùn)練,網(wǎng)絡(luò)實際輸出值與期望輸出值的差為網(wǎng)絡(luò)誤差，將誤差平方和的倒數(shù)作為適應(yīng)度函數(shù)。但目前廣泛使用的BP網(wǎng)絡(luò),是依靠梯度下降方法來完成網(wǎng)絡(luò)訓(xùn)練的,該方式對網(wǎng)絡(luò)的初始權(quán)值非常敏感,初始權(quán)值的不同會導(dǎo)致最終結(jié)果存在很大差異,而且訓(xùn)練過程中,一些參數(shù)(例如學習速率)的選取尚無理論指導(dǎo),它們的值完全憑借經(jīng)驗和試驗來確定,可這些參數(shù)的選取又關(guān)系到網(wǎng)絡(luò)能否收斂、網(wǎng)路收斂速度以及網(wǎng)路是否會陷入局部極值的關(guān)鍵問題。 優(yōu)化BP網(wǎng)絡(luò)的權(quán)值BP網(wǎng)絡(luò)權(quán)值（權(quán)值和閾值）的訓(xùn)練過程實際上是一種復(fù)雜函數(shù)的優(yōu)化問題,也就是通過反復(fù)地調(diào)整來尋找網(wǎng)絡(luò)最優(yōu)的連接權(quán)值。5)利用選擇、交叉、變異等遺傳操作,產(chǎn)生新一代的群體。3)計算每種網(wǎng)絡(luò)結(jié)構(gòu)下,輸出的誤差函數(shù)值,將誤差函數(shù)值的平方和的倒數(shù)作為個體適應(yīng)度值。其具體操作步驟如下:l)隨機生成種結(jié)構(gòu),對每種結(jié)構(gòu)進行編碼,編碼后的每一碼串對應(yīng)著一個網(wǎng)絡(luò)結(jié)構(gòu)，個碼串即種群。目前，還沒有系統(tǒng)的理論來指導(dǎo)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的設(shè)計，其結(jié)構(gòu)的確定主要依靠設(shè)計者以往的經(jīng)驗和試驗來確定。下面對這三種優(yōu)化方式逐一進行介紹。遺傳算法可以從三個方面對BP網(wǎng)絡(luò)進行優(yōu)化:一是優(yōu)化神經(jīng)網(wǎng)絡(luò)的拓撲結(jié)構(gòu)。 遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)BP神經(jīng)網(wǎng)絡(luò)是目前使用最廣泛的一種神經(jīng)網(wǎng)絡(luò)，但其具有學習收斂速度慢、易陷入局部最小值等缺點，因此許多研究者們努力尋求解決BP神經(jīng)網(wǎng)絡(luò)的這些缺點的方法。如果達到預(yù)設(shè)的最大代數(shù)則輸出最優(yōu)個體，終止運算，否則返回步驟2）繼續(xù)繁殖進化。經(jīng)過選擇、交叉、變異操作后便可得到一個適應(yīng)度更高的新種群。5) 變異操作。4) 交叉操作。3) 選擇操作。2) 評價每個個體的適應(yīng)度。遺傳算法的基本運算步驟如下:1) 初始化。四是不同個體間適應(yīng)環(huán)境能力不同,適應(yīng)能力強的個體繁殖能力強,適應(yīng)能力弱的繁殖能力弱。二是種群具有多樣性。高斯變異的具體操作過程與均勻變異類似。所謂高斯變異操作，是指進行變異操作時用符合均值為，方差為的正態(tài)分布的一個隨機數(shù)來替換原有的基因值。這種變異操作方法就稱為非均勻變異（Non Uniform Mutation）。以改進這個性能，以擾動后的結(jié)果作為變異后的新基因值。均勻變異操作特別適合應(yīng)用于遺傳算法的初級運行階段，它使得搜索點可以在整個搜索空間內(nèi)自由地移動，從而可以增加群體的多樣性，使算法處理更多的模式。均勻變異（Uniform Mutation）操作是指分別用符合某一范圍內(nèi)均勻分布的隨機數(shù)，以某一較小的概率來替換個體編碼串中各個基因座上的原有基因值。下面介紹幾種變異操作方法，它們適合于二進制編碼的個體和浮點數(shù)編碼的個體。交叉運算是產(chǎn)生新個體的主要方法，它決定了遺傳算法的全局搜索能力；而變異運算只是產(chǎn)生新個體的輔助方法，但它也是必不可少的一個步驟，因為它決定了遺傳算法的局部搜索能力。遺傳算法中所謂的變異運算，是指將個體染色體編碼串中的某些基因座上的基因值用該基因座的其他等位基因來替代，從而形成一個新的個體。變異（Mutation）是以較小的概率對個體編碼串上的某個或某些位值進行改變。3) 變異在生物的遺傳和自然進化過程中，其細胞分裂復(fù)制環(huán)節(jié)有可能因為某些偶然因素的影響而產(chǎn)生一些復(fù)制差錯，這樣會導(dǎo)致生物的某些基因發(fā)聲某種變異，從而產(chǎn)生出新的染色體，表現(xiàn)出新的生物性狀。遺傳算法的收斂性主要取決于其核心操作交叉算子的收斂性。假設(shè)在兩個個體、之間進行交叉算術(shù)交叉，則交叉運算后所產(chǎn)生的新個體為 （58）其中，可以是一個常數(shù)（此時所進行的交叉運算稱為均勻算術(shù)交叉），可以是一個由進化代數(shù)所決定的變量（此時所進行的交叉運算稱為非均勻算術(shù)交叉）。算術(shù)交叉(Arithmetic Crossover)是指由兩個個體的線性組合而產(chǎn)生出兩個新的個體。需要說明的是，一般情況下不使用多點交叉算子，因為它有可能破壞好的模式。多點交叉是指在個體編碼中隨機設(shè)置多個交叉點，然后進行基因交換。圖9所示為兩點交叉運算示意圖。 圖8 單點交叉示意圖兩點交叉(Twopoint Crossover)是指在個體編碼串中隨機設(shè)置了兩個交叉點，然后再進行部分基因交換。單點交叉的具體操作過程為：首先對每一對相互配對的個體，隨機設(shè)置某一基因座之后的位置為交叉點，若染色體的長度為，則共有個可能的交叉點位置，然后對每一對相互配對的個體，依設(shè)定的交叉概率在其交叉點出相互交換兩個個體的部分染色體，從而產(chǎn)生新的個體。下面介紹幾種適合于二進制編碼個體或浮點數(shù)編碼個體的交叉算子。交叉操作是在這些配對個體組中的兩個個體之間進行的。遺傳算法中個，在交叉運算之前必須對群體中的個體進行配對。遺傳算法中所謂的交叉運算，是指對兩個相互配對的染色體按某種方式相互交換其部分基因，從而形成兩個新的個體。交叉運算產(chǎn)生子代，子代繼承了父代的基本特征。模仿這個環(huán)節(jié)，遺傳算法中使用交叉算子來產(chǎn)生新的個體。從而產(chǎn)生出新的的個體或物種。所以，該方法一般要與其他一些選擇操作方法配合起來使用，方可有良好的結(jié)果。該策略使得實施可保證迄今為止所得到的的最優(yōu)個體不會被交叉、變異等遺傳運算所破壞，它是遺傳算法收斂性的一個重要保證條件。最優(yōu)保存策略進化模型的具體操作過程是：首先，找出當前群體中適應(yīng)度最高的個體和適應(yīng)度最低的個體；其次，若當前群體中最佳個體的適應(yīng)度比總的迄今為止的最好個體的適應(yīng)度還要高，則以當前群體中的最佳個體作為新的迄今為止的最好個體；最后，用迄今為止的最好個體替換掉當前群體中的最差個體。而這卻不是我們所希望發(fā)生的，因為它會降低群體的平均適應(yīng)度，并且對遺傳算法的運行效率、收斂性都有不利的影響，所以，我們希望適應(yīng)度最好的個體要盡量保留到下一代群體中。雖然隨著群體的進化過程會產(chǎn)生越來越多的優(yōu)良個體。在隨機競爭選擇中，每次按輪盤賭選擇機制選取一對個體，然后讓這兩個個體進行競爭，適應(yīng)度高的被選中，如此反復(fù)，直到選滿為止。圖7所示為輪盤賭選擇示意圖。每個個體就像圓盤中的一個扇形部分，扇面的角度和個體的適應(yīng)度值成正比，隨機撥動圓盤，當圓盤停止轉(zhuǎn)動時指針所在扇面對應(yīng)的個體被選中，輪盤賭式的選擇方法由此得名。所有選擇是從當前種群中根據(jù)個體的適應(yīng)度值，按某種準則挑選出好的個體進入下一代種群。下面介紹幾種常用的選擇算子。遺傳算法中選擇操作就是用來確定如何從父代群體中按某種方法選取哪些個體遺傳到下一代群體中的一種遺傳運算，用來確定重組或交叉?zhèn)€體，以及被選個體將產(chǎn)生多少個子代個體。選擇算子確定的好壞，直接影響到遺傳算法的計算結(jié)果。選擇操作建立在對個體的適應(yīng)度進行評價的基礎(chǔ)之上。遺傳算法使用選擇算子（又稱為復(fù)制算子，Reprodu ction Operator）來對群體中 的個體進行優(yōu)勝劣汰操 作；根據(jù)每個個體的適應(yīng)度值大小選擇，適應(yīng)度較高的個體被遺傳到下一代群體中的概率較大；適應(yīng)度較高的個體被遺傳到下一代群體中的概率較小。這部分同時 也是遺傳算法的主體部分。這種方法 與第二種方法類似。這種方法是第一種方法的改進， 可以 稱為“ 界限構(gòu)造法 ”，但 這種方法有時存 在界限值預(yù) 先估計困難、不可能精確的問題。2）對于求最小值的問題，做下列轉(zhuǎn)換： （54）式中，為一個適當?shù)南鄬Ρ容^大的數(shù)，是的最大值估計，可以是一個合適的輸入值。總的來說，適應(yīng)函數(shù)為種群進化的擇優(yōu)提供了依據(jù)。（3）確定適應(yīng)度函數(shù)度量個體適應(yīng)度的函數(shù)稱為適應(yīng)度函數(shù)（Fitness Function），遺傳算法中定義一個適應(yīng)性函 數(shù)是評估個體優(yōu) 劣的手段，評估的標 準隨所研究的問題 的不同而 不同，它往往是由 目標函數(shù)轉(zhuǎn)化 而來，要求和目 標函數(shù)有一樣 的極值點和可行解域，并且 值域為非負，這樣就 能夠?qū)⒛繕撕?數(shù)極小值問題，轉(zhuǎn) 變?yōu)榍筮m應(yīng) 度函數(shù)極大值問 題，易于遺傳操作。種群 規(guī)模取得越大， 可供選擇 的面就越寬, 就越容易得到更好的 結(jié)果，但是, 如果種群規(guī)模選 取過大,優(yōu)化速度就 會減慢。 遺傳算法的任務(wù) 就是仿效生物 進化的過程對種 群進行優(yōu)勝劣汰, 最后選出符合 優(yōu)化要求的種 群和個體。在有些場合， 允許生成致死基因 的編碼，必然會導(dǎo)致 冗余的搜索，但總的 計算量可能反而 減小，從而可以 更有效地找出最優(yōu)解。c) 非冗余性（Non redundancy）:染色體和 候選解一一對應(yīng)。評估編碼策略常用的三個規(guī)范為：a) 完備性（Completeness）：問題空間中的所有點（候選解）都能作為遺傳算法空間中的點（染色體）表現(xiàn)。g) 便于處理復(fù)雜 的決策變量約束條件。e) 便于遺傳 算法與經(jīng)典優(yōu)化 方法的混合使用。c) 便于較大 空間的遺傳搜索。浮點數(shù)編碼方法的優(yōu)點有一下幾點：a) 適合于在遺傳 算法中表示范 圍較大的數(shù)。所謂浮點數(shù)編碼方法，是指個體的每個個體的每個基因值用某一范圍內(nèi)的一個浮點數(shù)來表示，個體的編碼長度等于其決策變量的個數(shù)。人們在一些經(jīng)典算法的研究中所總結(jié)出的一些寶貴經(jīng)驗也就無法在這里加以利用，也不便于處理非平凡約