【正文】 double o=。 } } /********** 產(chǎn)生下一代群體 ************/ void nextpopulation(void) 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） { selectionoperator()。 } } } /********** 變形的 Sigmoid 函數(shù) ************/ double sigmoid(double z) { double zout。i++) { for(j=0。i=IN。 evaluatepopulation()。 /*樣本網(wǎng)絡(luò)輸出 */ void check(void)。 /*樣本輸出值 */ }samp[SIZE]= { {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） {,},{,},{,},{,},{,}}。 int pop=40。 本文的每個權(quán)值的串長度取值為 10神經(jīng)網(wǎng)絡(luò)定義為 2 個輸入節(jié)點， 5 個隱節(jié)點， 1 個輸出節(jié)點， 2 個閾值節(jié)點，所以總共有 21 個權(quán)值，所以染色體串的長度為 10 21。 2．遺傳算法在網(wǎng)絡(luò)設(shè)計中的應(yīng)用 用遺傳算法設(shè)計一個優(yōu)秀的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，首先是要解決網(wǎng)絡(luò)結(jié)構(gòu)的編碼問題；然后才能以選擇、交叉、變異操作得出最優(yōu)結(jié)構(gòu)。評價一個學(xué) 習(xí)算法的標(biāo)準(zhǔn)是：簡單性、可塑性和有效性。因為在所有的個體一樣時，交叉是無法產(chǎn)生新的個體的，這時只能靠變異產(chǎn)生新的個體。常用的交叉算子有： 算術(shù)交叉算子。 排序法以種群中染色體適應(yīng)值的大小順序來確定各個染色體的生存概率，而不是以適應(yīng)值的數(shù)值大小來確定， 該方法克服了基于適應(yīng)值進(jìn)行選擇。 {2)根據(jù)個體的生存概率進(jìn)行隨機(jī)選擇。 如果目標(biāo)函數(shù)是求最小值問 題，可通過適當(dāng)轉(zhuǎn)換，如 : fit(x)=cf(x), c ≥ fmax 選擇運算是推動進(jìn)化的直接動力。 浮點編碼與二進(jìn)制編碼相比有以下優(yōu)點 :① 精度依賴于所使用的機(jī)器，與編碼本身無關(guān)，比二進(jìn)制要靈活、方便； ② 浮點編碼能夠表達(dá)很大的區(qū)域，而二進(jìn)制編碼必須以犧牲精度來增加表達(dá)區(qū)域； ③ 容易設(shè)計出封閉的 、動態(tài)的遺傳算子，容易處理非常規(guī)約束。 (1)一維染色體編碼。 遺傳算法的步驟 標(biāo)準(zhǔn)遺傳算法主要通 過遺傳操作 (交叉與變異 )對種群中的個體施加結(jié)構(gòu)重組處理，通過選擇操作不斷優(yōu)化群體中的個體結(jié)構(gòu)，從而搜索到最優(yōu)結(jié)構(gòu)的個體，達(dá)到逼近問題的最優(yōu)解的目的。經(jīng)過 存優(yōu)去劣的自然淘汰，適應(yīng)性高的基因結(jié)構(gòu)得以保存下來。從上面公式也可以知道，如果網(wǎng)絡(luò)的層數(shù)較多時，所用的計算量就相當(dāng)可觀，故而收 斂速度不快。取期望輸出和實際輸出之差的平方和 為誤差函數(shù)，則有： ? ?? i mi YiXe )(21 （ 211） 其中： Yi 是輸出單元的期望值；它也在這里用作教師信號； miX 是實際輸出；因為第 m層是輸出層。江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） 因此，感知機(jī)學(xué)習(xí)算法不能用于多層神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)。 ]有多種形式，其中最常見的有階躍型、線性型和 S型三種形式，這三種形式如圖 2— 3 所示。 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） 第二章 神經(jīng)元網(wǎng)絡(luò) 及 BP 算法 神經(jīng)網(wǎng)絡(luò)概述 神經(jīng)網(wǎng)絡(luò)是大量的簡單神經(jīng)元按一定規(guī)則連 接構(gòu)成的網(wǎng)絡(luò)系統(tǒng)。其中，選擇、交叉和變異構(gòu)成了遺傳算法的遺傳操作；參數(shù)編碼、初始群體的設(shè)定、適應(yīng)度函數(shù)的設(shè)計、遺傳操作設(shè)計、控制參數(shù)設(shè)定五個要素組成了遺傳算法的核心內(nèi)容。 由于遺傳算法使用適應(yīng)值這一信息進(jìn)行搜索，并不 需要問題導(dǎo)數(shù)等與問題直接相關(guān)的信息。 遺傳算法的產(chǎn)生及特點 遺傳算法是根據(jù)生物進(jìn)化思想而啟發(fā)得出的一種全局優(yōu)化算法， 并且 遺傳算法是模擬達(dá)爾文的遺傳選擇和自然淘汰的生物進(jìn)化過程的計算模型。mutation breeding。 neural work。 神經(jīng)網(wǎng)絡(luò)和遺傳算法都是比較先進(jìn)的計算方法，它們已成功地應(yīng)用于工業(yè)、經(jīng)濟(jì)管理、交通運輸、工業(yè)設(shè)計等領(lǐng)域，解決了許多問題。傳統(tǒng)優(yōu)化算法是從單個初始值迭代求最優(yōu)解的；容易誤入局部最優(yōu)解。 遺傳算法是模擬達(dá)爾文的遺傳選擇和自然淘汰的生物進(jìn)化過程的計算模型。 本課題任務(wù)主要是 在監(jiān)督學(xué)習(xí)中， 利用 C語言編程，研究通過 GA 算法直接訓(xùn)練神經(jīng)網(wǎng)絡(luò)和訓(xùn)練初始權(quán)值的方法。 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） 圖 22 神經(jīng)元的數(shù)學(xué)模型 在圖 2— 2 中， 1X ， 2X ，??， nX 是神經(jīng)元的輸入，即是來自前級 n 個神經(jīng)元的軸突的信息 W 是 i 神經(jīng)元的閥值； 11W ， 12W ??， nW1 分別是 i 神經(jīng)元對 1X ， 2X ，??，nX 的權(quán)系數(shù)，也即突觸的傳遞效率； iY 是 i 神經(jīng)元的輸出； f[ 在這里，并不要求過于嚴(yán)格去爭論和區(qū)分算法和模型兩者 的有關(guān)異同。 BP 算法的數(shù)學(xué)表達(dá) BP 算法實質(zhì)是求取誤差函數(shù)的最小值問題。 把 imX 和期望輸出 iY 進(jìn)行比較．如果兩者不等，則產(chǎn)生誤差信號 e，接著則按下面公式反向傳播修改權(quán)系數(shù)： 11 ?? ???????? kjj ijkikjkiij XWUXdW ? （ 232） 其中 ))(1( imimimimi YXXXd ??? （ 233） ? ??? i lkiikikiki dWXXd 1)1( （ 234） 上面公式中，求取本層 kd1 時，要用到高一層的 11?kd ；可見，誤差函數(shù)的求取是從輸出層開始，到輸入層的反向傳播過程。它認(rèn)為遺傳以密碼方式存在細(xì)胞中，并以基因形式包含在染色體內(nèi)。串結(jié)構(gòu)空間對應(yīng)于遺傳學(xué)中的基因型 (Genotype)的集合。 (2 )最小字符集編碼規(guī)則。 3)浮點編碼。 將目標(biāo)函數(shù)轉(zhuǎn)換成適應(yīng)度一般要遵循下面兩個基本原則。隨機(jī)采樣方法首先根據(jù)各染色體個體的適應(yīng)值評價出其生存概率，再由生存概率確定每個染色體的實際繁殖數(shù)量。對適應(yīng)度函數(shù)進(jìn)行調(diào)整的意義在于 :①使種群中染色體的適應(yīng)值之間保持合理的差距 :②限制某些超級染色體的繁殖速度，以滿足早期限制競爭，后期鼓勵競爭的要求。多點交 叉不能有效地保存重要的模式。 對其的第 1， 4位置的基因進(jìn)行變異，則有 S39。 圖 遺傳算法的執(zhí)行過程 算法的停止條件最簡單的有如下二種：（ 1）完成了預(yù)先給定的進(jìn)化代數(shù)則停止；（ 2）群體中的最優(yōu)個體在連續(xù)若干代沒有改進(jìn)或平均適應(yīng)度在連續(xù)若干代基本沒有改進(jìn)時停止。 1．遺傳算法在網(wǎng)絡(luò)學(xué)習(xí)中的應(yīng)用 在神經(jīng)網(wǎng)絡(luò)中，遺傳算法可用于網(wǎng)絡(luò)的學(xué)習(xí)。 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） 遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò) C 語言實現(xiàn) 用 遺傳算法 訓(xùn)練神經(jīng)網(wǎng)絡(luò) 的要求 用遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)并用 C 語言編程實現(xiàn)以下函數(shù)已知訓(xùn)練樣本如下表所示，要求設(shè)計圖中所示的神經(jīng)網(wǎng)絡(luò)。 double pc=。/*群體數(shù)組 */ /********** 訓(xùn)練樣本結(jié)構(gòu)及處理系數(shù) ************/ double XS=。 /*當(dāng)代進(jìn)化情況報告 */ void SampleChang(void)。 while(generationmaxgeneration) { generation++。 for(j=0。 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） double o_h[SIZE][HN]。l++) =+o_h[i][l]*w_o_h[l][j]。139。)(leng1i)。iSIZE。 } /********** 群體的評價 ************/ void evaluatepopulation(void) { objectvalue()。 */ return(zout)。 for(l=0。 } for(i=0。 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） outputtextreport()。 int i。 /*產(chǎn)生下代群體 */ void evaluatepopulation(void)。 /*當(dāng)前遺傳代數(shù) */ int best_index。在 BP算法中，初始權(quán)值一般取 ～ 之間均勻分布的隨機(jī)數(shù)。 (2)參數(shù)化編碼法 參數(shù)化編碼采用的編碼較 為抽象，編碼包括網(wǎng)絡(luò)層數(shù)、每層神經(jīng)元數(shù)、各層互連方式等信息。當(dāng)然，使用 GA 可以把神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)優(yōu)化和權(quán)值學(xué)習(xí)合并起來一起求解，但這對計算機(jī)的處理能力要求很高。同生物界一樣，遺傳算法中變異發(fā)生的概率很低。2= ax2+(1a)x1 隨機(jī)數(shù) a屬于 [0 ,1]，從而保證了 x39。 對于選中用于繁殖下一代的個體，隨機(jī)地選擇兩個個體的相同位置，按交叉概率 P。 確定采樣的基本思想是 :保證最好的染色體被選擇進(jìn)入下一代。一般來講，在進(jìn)化的初始階段，宜采用較小的選擇壓力，盡量保持種群個體的多樣性 。在很多實際問題中，解本身就是以二維或多維的形式存在的，為了使問題的表達(dá)更直觀，可直接采用多維染色體編碼。二進(jìn)制編碼是將問題空間的候選解轉(zhuǎn)換為遺傳空間的各位數(shù)值為 “0” 或 “1” 的字符串。問題空間中的所有點都能作為遺傳空間中的點 (染色體 )來表現(xiàn)。 二、群體 (Population) 個體的集合稱為群體，串是群體的元素 三、群體大小 (Population Size) 在群體中個體的數(shù)量稱為群體的大小。對于沒有隱層的神經(jīng)網(wǎng)絡(luò)，可取 ijiij XXYW ???? )(? （ 236） 其中： iY 為期望輸出； jX 為輸出層的實際輸出； iX 為輸入層的輸入。下面求 ijWe?? ；有 ijkikikij WUUeWe ?????? ? . （ 214） 由于 jikjWXWWU Xijikjijijki?????? ??? ? |1)( 1 (215) 故而 1. ????? ? kjUeWe Xkiij (216) 從而有 江西理工大學(xué) 20xx 屆本科生畢業(yè)設(shè)計（論文） 1. ?? ?? ? ????? kjU eW eij XW kiij ?? (217) 令 kiUekid ??? （ 218） 則有學(xué)習(xí)公式： 1.. ???? kjkiij XdW ? （ 219） 從公式 (29)可知在公式 (217)中，有 其中：η為學(xué)習(xí)速率，即步 長，一般取 01 間的數(shù)。 BP 算法是目前最廣泛用的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法之一，在自動控制中是最有用的學(xué)習(xí)算法。 對于用 s型激發(fā)函數(shù)，它的輸出是非線性的；故這種神經(jīng)元稱非線性連續(xù)型模型。神經(jīng)網(wǎng)絡(luò)是由大量神經(jīng)元廣泛互連形成大規(guī)模并行處理和分布式的信息存儲的復(fù)雜網(wǎng)絡(luò)系統(tǒng)。但是，近年來，隨著人工智能應(yīng)用領(lǐng)域的不斷拓廣，傳統(tǒng)的基于符號處理機(jī)制的人工智能方法在知識表示、處理模式信息及解決組合爆炸等方面所碰到的問題已變得越來越突出，有不少問題需要在復(fù)雜而龐大的搜索空間中尋找最優(yōu)解或準(zhǔn)優(yōu)解。故而，遺傳算法有很高的容錯能力。其中，選擇、交叉和變異構(gòu)成了遺傳算法的遺傳操作；參數(shù)編碼、初始群體的設(shè)定、適應(yīng)度函數(shù)的設(shè)計、遺傳操作設(shè)計、控制參數(shù)設(shè)定五個要素組成了遺傳算法的核心內(nèi)容。對本研究提供過幫助和做出過貢獻(xiàn)的個人或集體，均已在文中作了明確的說明并表示了謝意。 本課題將在對神經(jīng)網(wǎng)絡(luò)、遺傳算法等進(jìn)行基礎(chǔ)理論研究的前提下，注重對遺傳算法的 C語言實現(xiàn)進(jìn)行研究，同時對 GA在優(yōu)化和神經(jīng)網(wǎng)絡(luò)訓(xùn)練等方面的應(yīng)用和實現(xiàn)進(jìn)行較深入的探討。本人授權(quán) 大學(xué)可以將 本學(xué)位論文的全部或部分內(nèi)容編入有關(guān)數(shù)據(jù)庫進(jìn)行檢索，可以采用影印、縮印或掃描等復(fù)制手段保存和