【正文】 的在線和離線指標(biāo)則 仍是目前衡量遺傳算法優(yōu)化性能的主要手段 。 20 世紀(jì) 80 年代開(kāi)始，遺傳算法進(jìn)入了興旺發(fā)展時(shí)期 。 1985 年在美國(guó)卡耐基此外，每年夏季在美國(guó)斯坦福大學(xué)召開(kāi)有關(guān)遺傳算法程序設(shè)計(jì)的國(guó)際會(huì)議 (The Annual Conference of Geic Programming)。 (3)、設(shè)計(jì) VLSI 布局，通信網(wǎng)絡(luò)設(shè)計(jì)，噴氣發(fā)動(dòng)機(jī)設(shè)計(jì) 。 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 3 (7)、機(jī)器人 路徑規(guī)劃 。 神經(jīng)網(wǎng)絡(luò)已被廣泛應(yīng)用于智能控制、系統(tǒng)優(yōu)化、信號(hào)及信息處理、模式識(shí)別等領(lǐng)域 ， 迄今研究和引用最多的是多層向前神經(jīng)網(wǎng)絡(luò) (BP 神經(jīng)網(wǎng)絡(luò) )， BP 神經(jīng)網(wǎng)絡(luò)是 1986 年由 Rumelhart 和Meceland 所提出 ， 是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò) ， 是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一 。 若輸出層的實(shí)際輸出與期望的輸出不符 ， 則轉(zhuǎn)入誤差的反向傳播階段 。 由于人工神經(jīng)網(wǎng)絡(luò)具有自適應(yīng)學(xué)習(xí)能力和記憶聯(lián)想能力 ， 使得它成為解決復(fù)雜的非線性問(wèn)題提供了有力的工具 ， 尤其是 BP 算法 ， 具有簡(jiǎn)單和可 塑的優(yōu)點(diǎn) [15]。 一般的處理方法是將 GA 和 BP結(jié)合 ， 按照不同的先后次序輪流迭代運(yùn)算 ， 這種處理方法主要是易于陷入局部極值點(diǎn) ， 不能保證收斂到全局最優(yōu) 。選擇操作的任務(wù)就是按某種方法從父代群體中選取一些個(gè)體遺傳到下一代群體 [14]。 由于此方法是基于概率選擇，存在統(tǒng)計(jì)誤差。其具體操作如下： (1)、對(duì)群體中的所有個(gè)體按其適應(yīng)度大小進(jìn)行排序； 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 6 (2)、根據(jù)具體求解問(wèn)題，設(shè)計(jì)一個(gè)概率分配表，將各個(gè)概率值按上述排列次序分配給各個(gè)個(gè)體。 隨機(jī)聯(lián)賽選擇 基本思想：每次選擇 N 個(gè)個(gè)體之中適應(yīng)度最高的個(gè)體遺傳到下一代群體中。 下面介紹幾種常用的適用于二進(jìn)制編碼或?qū)崝?shù)編碼方式的交叉算子。 算術(shù)交叉 它是指由兩個(gè)個(gè)體的線性組合而產(chǎn)生出新的個(gè)體。1 1 239。當(dāng)交叉算子與變異算子 相互配合時(shí)，共同完成對(duì)搜索空間的全局搜索和局部搜索，從而使得 GA 以良好的搜索性能完成最優(yōu)化問(wèn)題的尋優(yōu)過(guò)程。 均勻變異 (一致變異 ) 分別用符合某一范圍內(nèi)均勻分布的隨機(jī)數(shù)，以某一較小的概率來(lái)替換個(gè)體編碼串中各個(gè)基因座上的原有基因值。 非均勻變異 均勻變異操作取某一范圍內(nèi)均勻分布的隨機(jī)數(shù)來(lái)替換原有基因值，可使得個(gè)體在搜索空間內(nèi)自由移動(dòng)，但另一方面，它卻不便于對(duì)某一重點(diǎn)區(qū)域進(jìn)行局部搜索。 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 8 遺傳算法基本思想 進(jìn)化論認(rèn)為每一物種在不斷的發(fā)展過(guò)程中都是越來(lái)越適應(yīng)環(huán)境 。 遺傳算法將問(wèn)題的求解表示成用編碼變異兩種基因操作產(chǎn)生出新一代的更適應(yīng)環(huán)境的“染色體”種群 。 下面是遺傳算法的流程： (1)、初始化群體； (2)、計(jì)算群體上每個(gè)個(gè)體的適應(yīng)度值； (3)、按由個(gè)體適應(yīng)度值所決定的某個(gè)規(guī)則選擇將進(jìn) 入下一代的個(gè)體； (4)、按交叉概率進(jìn)行交叉操作； (5)、按變異概率進(jìn)行變異操作； (6)、沒(méi)有滿足某種停止條件，則轉(zhuǎn)第 (2)步，否則進(jìn)入 (7)； (7)、輸出種群中適應(yīng)度值最優(yōu)的染色體作為問(wèn)題的滿意解或最優(yōu)解 。 解析法 解析法尋優(yōu)是研究最多的一種，它一般又可分為間接法和直接法 。 這兩個(gè)缺點(diǎn)，使得解析尋優(yōu)方法的性能較差 。 出于效率的考慮，搜索到一定程度便終止 。 (1)、遺傳算法以決策變量的編碼作為運(yùn)算對(duì)象 。 傳統(tǒng)的優(yōu)化算法不僅需要利用目標(biāo)函數(shù)值，而且往 往需要目標(biāo)函數(shù)的導(dǎo)數(shù)值等其他一些輔助信息才能確定搜索方向 。 單個(gè)搜索點(diǎn)所提供的搜索信息畢竟不多，所以搜索效率不高，有時(shí)甚至使搜索過(guò)程陷于局部最優(yōu)解而停滯不前 。 (4)、遺傳算法使用概率搜索技術(shù)，而非確定性規(guī)則 。 遺傳算法的初始串集本身就帶有大量與最優(yōu) 解甚遠(yuǎn)的信息，通過(guò)選擇、交叉、變異操作能迅速排除與最優(yōu)解相差極大的串，這是一個(gè)強(qiáng)烈的濾波過(guò)程，并且是一個(gè)并行濾波機(jī)制 。 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 12 第三章 神經(jīng)網(wǎng)絡(luò) 人工神經(jīng)網(wǎng)絡(luò)發(fā)展 1958 年美國(guó)計(jì)算機(jī)學(xué)家羅森布拉特 (Frank Rosenblatt)提出了一種具有三層網(wǎng)絡(luò)特性的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，稱為“ 感知機(jī)” (Perception),這或許是世界上第一個(gè)真正優(yōu)秀的人工神經(jīng)網(wǎng)絡(luò) [7]。 70 年代后期，由于傳統(tǒng)模型距離人類自身的真實(shí)模型較遠(yuǎn)，表現(xiàn)出了極大的局限性。他引入了“計(jì)算能量函數(shù)”的概念，給出了網(wǎng)絡(luò)穩(wěn)定性判據(jù)。 神經(jīng)網(wǎng)絡(luò)基本原理 神經(jīng)元模型 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 13 神經(jīng)網(wǎng)絡(luò)的基本處理單元是神經(jīng)元，大量神經(jīng)元的并行工作造就了生物神經(jīng)系統(tǒng)驚人的識(shí)別能力 [13]。 (3)、求和單元：用于求取 輸入信號(hào)的加權(quán)和 (線性組合 )，即 1pi kii X W ????? () (4)、非線性激活函數(shù)：它是神經(jīng)元 輸入和輸出之間的變換函數(shù)，起到一個(gè)非線性映射的作用，并將神經(jīng)元輸出幅度限制在一定范圍內(nèi) (一般限制在 (0,1) 或( 1, 1)?? 之間 )。圖中， 12{ , , , }inX x x x? ???為神經(jīng)元輸入信號(hào)， iS 為平移信號(hào)， i? 為神經(jīng)元閾值， ijW 為 j? 到 i? 連接的權(quán)值。由于神經(jīng)元之間的信號(hào)連接強(qiáng)度取決于突觸狀態(tài)，因此在 MP 模型中，神經(jīng)元的每個(gè)突觸 的活動(dòng)強(qiáng)度用權(quán)值模擬。正向傳播時(shí)，輸入樣本從輸入層傳入，經(jīng)各隱層逐層處理后，傳向輸出層。 BP 網(wǎng)絡(luò)分為輸入層 (Input layer)、隱含層 (Hidden layer)、輸出層 (Output layer)。如果輸出層得不到 期望的輸出，則轉(zhuǎn)入反向傳播，將誤差信號(hào)沿原來(lái)的連接通道返回，通過(guò)修改各層神經(jīng)元的權(quán)值，使得誤差信號(hào)最小。 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 16 圖 BP網(wǎng)絡(luò)結(jié)構(gòu)圖 BP算法 BP 算法推導(dǎo)過(guò)程 設(shè) BP 網(wǎng)絡(luò)的輸入層有 m 個(gè)神經(jīng)元，輸出層有 n 個(gè)神經(jīng)元，中間層有 p個(gè)神經(jīng)元，網(wǎng)絡(luò)的訓(xùn)練樣本有 N對(duì)，則網(wǎng)絡(luò)的設(shè)置如下： 輸入樣本向量： 12( , , , )knA x x x? 期望輸出向量： 12( , , , )Y y y y? 網(wǎng)絡(luò)的實(shí)際輸出向量： 12? ? ? ?( , , , )knY y y y? 網(wǎng)絡(luò)中間各層的加權(quán)輸入： 12( , , , )knS s s s? 網(wǎng)絡(luò)中間各層的輸出： 12( , , , )B b b b? 輸出層各層的加權(quán)輸入： 12( , , , )knL l l l? 輸入層至中間層的連接權(quán)： 1jW 中間層至輸出層的連接權(quán)： jtV 中間層各單元的閾值： j? 輸出層各單元的閾值： tr 其中： 1,2, ,im? ； 1,2, ,jp? ； 1,2, ,tn? ； 1,2, ,kN? 激活函數(shù)采用 Simgod 型函數(shù)： 1() 1xfx e?? ?，其導(dǎo)數(shù)為： 39。 (3)、利用輸入 kA ，連接權(quán)和閾值 j? 計(jì)算中間層格神經(jīng)元的輸出： ()jjb f s? ，其中 jsP? 1,2, ,jp? () (4)、利用 jb ，連接權(quán) jtv 和閾值 tr 計(jì)算輸出 層各神經(jīng)元的輸出： ? ()tty f l? ，其中1pt jt j tjl v b r???? 1,2, ,tn? () (5)、利用 kY ，網(wǎng)絡(luò)實(shí)際輸出 ?kY ，計(jì)算輸出層各單元的校正誤差： ? ? ?(1 )( )t t t t td y y y y? ? ?，其中 1,2, ,tn? () 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 19 (6)、利用jtv、jb、 ?ty 計(jì)算隱層各單元的校正誤差： 1 ? ? ?(1 ) (1 ) ( )nj j j t t t t jtte b b y y y y v?? ? ? ??，其中 1,2, ,jp? () (7)、利用 td 、jb、jtv和 tr 計(jì)算隱層到輸出層之間的新連接權(quán)： ( 1) ( )ji ij t jv L v L d b?? ? ? () ( 1) ( )t t tr L r L d?? ? ? () (8)、利用 je 、 ix 、 ijw 和 j? 計(jì)算輸入層到隱層之間的新連接權(quán)： ( 1 ) ( )ij ij j iw L w L e x?? ? ? () ( 1) ( )j j jL L e? ? ?? ? ? () (9)、選取第 2 組訓(xùn)練樣本，重復(fù) 38 的計(jì)算過(guò)程，直到全部 N個(gè)樣本訓(xùn)練完成。圖 BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練流程。 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 20 第二、 網(wǎng)絡(luò)中隱節(jié)點(diǎn)個(gè)數(shù)的選取尚無(wú)明確的定義。 (1)、 附加動(dòng)量的 BP 算法 附加動(dòng)量的引入可使網(wǎng)絡(luò)權(quán)值的變化不僅反映局部的梯度信息，而且反映誤差曲面最近的變化趨勢(shì)。 (2)、 學(xué)習(xí)速率可變的 BP 算法 在標(biāo)準(zhǔn) BP 算法中，學(xué)習(xí)速率在 訓(xùn)練過(guò)程中始終保持恒定。 (3)、 彈性 BP 算 法 在彈性 BP 算法中，當(dāng)訓(xùn)練發(fā)生振蕩時(shí)，權(quán)值的變化量將減?。划?dāng)在幾次迭代過(guò)程中權(quán)值均朝一個(gè)方向變化時(shí)，權(quán)值的變化量將增大。 目前，遺傳算法主要用于優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)值。目前，人們?cè)谠O(shè)計(jì)網(wǎng)絡(luò)結(jié)構(gòu)時(shí)，或干脆預(yù)先確定，或采取遞增或遞減的探測(cè)方法。因此遺傳算法更適合于各種復(fù)雜的結(jié)構(gòu)優(yōu)化問(wèn)題 [12]。 首先，用遺傳算法對(duì)初始權(quán)值分布進(jìn)行優(yōu)化 ，在解空間中找出一個(gè)較好的搜索空間； 然后，再用 BP 算法在這個(gè)較小的解空間中搜索出最優(yōu)解。其權(quán)值通常用梯度法來(lái)確定，因此經(jīng)常經(jīng)過(guò)多次反復(fù)試驗(yàn)卻很難找到最優(yōu)的權(quán)值，加之實(shí)際問(wèn)題的求解空間往往是極其復(fù)雜的多維曲面存在多個(gè)局部極值點(diǎn)，使得 BP算法陷入局部極值點(diǎn)的可能性增大。 (1)、初始化種群 P ，包括交叉規(guī)模、交叉概率 cP 、突變概率 mP 以及對(duì)任一ijWIH 和 jiWHO 初始化；在編碼中，采用實(shí)數(shù)進(jìn)行編碼，初始化種群取 30； (2)、計(jì)算每一個(gè)個(gè)體評(píng)價(jià)函數(shù)，并將其排序；可按下式概率值選擇網(wǎng)絡(luò)個(gè)體： 1Ns i iip f f?? ? 種群 改進(jìn) BP網(wǎng)絡(luò) 作為初始權(quán)值和閾值 后代種群 遺傳操作 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 24 其中 if 為個(gè)體 i 的適配值， 可用誤差平方和 E來(lái)衡量，即： ( ) 1 ( )f i E i? 2( ) ( )kkpkE i V T???? (3)、 以概率 cP 對(duì)個(gè)體 iG 和 1iG? 交叉操作，產(chǎn)生新個(gè)體 39。jG ； (5)、 將新個(gè)體插入到種群 P 中，并計(jì)算新個(gè)體的評(píng)價(jià)函數(shù)； (6)、 如果找到了滿意的個(gè)體， 則結(jié)束，否則轉(zhuǎn) (3)。 在建立的故障診斷系統(tǒng)的諸多神經(jīng)子網(wǎng)絡(luò)中，有一儀表網(wǎng)絡(luò)，其輸入輸出符號(hào)定義如下： x1: 電壓表 1是否指示正確 0 正確 1 不正確 x2: 漏電表顯示是否漏電 0 不漏電 1 漏電 x3： 電壓表 2是否指示正確 0 正確 1 不正確 x4： 壽命鐘是否有顯示 0 有顯示 1 無(wú)顯示 x5： 溫度表 p6是否損壞 0 未損壞 1 損壞 重慶郵電大學(xué)本科畢業(yè)設(shè)計(jì)（論文） 25 y1： 調(diào)壓旋鈕 BP1,BP2是否有故障 0 沒(méi)有 1 有 y2： 計(jì)算機(jī)組合與系統(tǒng)地是否絕緣 0 絕緣 1 不絕緣 y3： 壽命鐘是否損壞 0 未損壞 1 損壞 y4： CZ/CT等是否不通 0 通暢 1 不通 據(jù)此建立神經(jīng)網(wǎng)絡(luò)，它具有 5個(gè)輸入神經(jīng)元， 4個(gè)輸出神經(jīng)元，隱含神經(jīng)元數(shù)取為 6個(gè)。 用 GA直接訓(xùn)練 BP 網(wǎng)絡(luò)的權(quán)值算 法 經(jīng)過(guò)大約 600代的搜索后染色體的平均適應(yīng)度趨于穩(wěn)定 ,誤差平方和曲線和適應(yīng)度曲線見(jiàn)圖 。 混合 GABP算法 考慮到 BP算法尋優(yōu)具有精確性，但易陷入局部極小、收斂速度慢的缺點(diǎn)，而遺傳算法具有很強(qiáng)的宏觀搜索能力， 可避免局部極小，若將兩者結(jié)合起來(lái)就會(huì)發(fā)揮各自的優(yōu)勢(shì)。1iG? ，沒(méi)有進(jìn)行交叉操作的個(gè)體直接