【正文】 索所有可行解的范圍。 江西理工大學 20xx 屆本科生畢業(yè)設計（論文） 遺傳算法訓練神經(jīng)網(wǎng)絡 C 語言實現(xiàn) 用 遺傳算法 訓練神經(jīng)網(wǎng)絡 的要求 用遺傳算法訓練神經(jīng)網(wǎng)絡并用 C 語言編程實現(xiàn)以下函數(shù)已知訓練樣本如下表所示，要求設計圖中所示的神經(jīng)網(wǎng)絡。 (3)繁衍生長法 這種方法不是在“染色體”中直接編碼神經(jīng)網(wǎng)絡的結構，而是把一些簡單的生長語法規(guī)則編碼入“染色體”中；然后，由遺傳算法對這些生長語法規(guī)則不斷進行改變，最后生成適合所解的問題的神經(jīng)網(wǎng)絡。 1．遺傳算法在網(wǎng)絡學習中的應用 在神經(jīng)網(wǎng)絡中，遺傳算法可用于網(wǎng)絡的學習。遺傳算法是基于生物進化機理的數(shù)學算法系統(tǒng)，許多實踐已經(jīng)證明遺傳算法是進行全局搜索的有效工具。 圖 遺傳算法的執(zhí)行過程 算法的停止條件最簡單的有如下二種：（ 1）完成了預先給定的進化代數(shù)則停止；（ 2）群體中的最優(yōu)個體在連續(xù)若干代沒有改進或平均適應度在連續(xù)若干代基本沒有改進時停止。 變異算子的作用效果在于 :一方面，遺傳算法具有局部搜索的能力，使遺傳江西理工大學 20xx 屆本科生畢業(yè)設計（論文） 算法能夠搜索到精確解 。 對其的第 1， 4位置的基因進行變異，則有 S39。2，屬于 D。多點交 叉不能有效地保存重要的模式。這個過程反映了隨機信息交換；目的在于產(chǎn)生新的基因組合，也即產(chǎn)生新的個體。對適應度函數(shù)進行調整的意義在于 :①使種群中染色體的適應值之間保持合理的差距 :②限制某些超級染色體的繁殖速度，以滿足早期限制競爭，后期鼓勵競爭的要求?；旌喜蓸油瑫r具備隨機采樣和確定采樣的特征。隨機采樣方法首先根據(jù)各染色體個體的適應值評價出其生存概率，再由生存概率確定每個染色體的實際繁殖數(shù)量。選擇可以通過以下三個方面進行描述 :（ 1）采樣空間。 將目標函數(shù)轉換成適應度一般要遵循下面兩個基本原則。這個初始的群體也就是問題假設解的集合。 3)浮點編碼。② 編碼簡單，便于進行交叉、變異等遺傳操作，且物理概念清晰 。 (2 )最小字符集編碼規(guī)則。遺傳空間中的染色體能對應所有問題空間中的候選解。串結構空間對應于遺傳學中的基因型 (Genotype)的集合。例如有一個串 S＝ 1011，則其中的 1， 0， 1， 1這 4個元素分別稱為基因。它認為遺傳以密碼方式存在細胞中，并以基因形式包含在染色體內。 在實際應用中，只有一般化的 Delta 法則公式（ 236） 或公式 (235)才有意義。 把 imX 和期望輸出 iY 進行比較．如果兩者不等，則產(chǎn)生誤差信號 e，接著則按下面公式反向傳播修改權系數(shù)： 11 ?? ???????? kjj ijkikjkiij XWUXdW ? （ 232） 其中 ))(1( imimimimi YXXXd ??? （ 233） ? ??? i lkiikikiki dWXXd 1)1( （ 234） 上面公式中，求取本層 kd1 時，要用到高一層的 11?kd ；可見，誤差函數(shù)的求取是從輸出層開始，到輸入層的反向傳播過程。 kikikiki UXXeUekid ????? ? ?? . （ 220） 從公式 (29)可知在公式 (220)中，有 )(39。 BP 算法的數(shù)學表達 BP 算法實質是求取誤差函數(shù)的最小值問題。中間層有單層或多層，由于它們和外界沒有直接的聯(lián)系，故也稱為隱層。 在這里，并不要求過于嚴格去爭論和區(qū)分算法和模型兩者 的有關異同。 ??? ?? ?? ?? ?? ne tif ne tifne tf )( （ 27） 其小，β、γ、θ均為非負實數(shù)。 江西理工大學 20xx 屆本科生畢業(yè)設計（論文） 圖 22 神經(jīng)元的數(shù)學模型 在圖 2— 2 中， 1X ， 2X ，??， nX 是神經(jīng)元的輸入，即是來自前級 n 個神經(jīng)元的軸突的信息 W 是 i 神經(jīng)元的閥值； 11W ， 12W ??， nW1 分別是 i 神經(jīng)元對 1X ， 2X ，??，nX 的權系數(shù)，也即突觸的傳遞效率； iY 是 i 神經(jīng)元的輸出； f[神經(jīng)元之間的相互作用通過連接的權重體現(xiàn) ， 神經(jīng)元的輸出是其輸入的函數(shù)。 本課題任務主要是 在監(jiān)督學習中， 利用 C語言編程，研究通過 GA 算法直接訓練神經(jīng)網(wǎng)絡和訓練初始權值的方法。因此，研究能在搜索過程中自動獲得和積累有關搜索空間的知識，并能自適應地控制搜索過程，從而得到最優(yōu)解或準有解的通用搜索算法一直是令人矚目的課題。 遺傳算法是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型。 這說明遺傳算法是采用隨機方法進行最優(yōu)解搜索，選擇體現(xiàn)了向最優(yōu)解迫近，交叉體現(xiàn)了最優(yōu)解的產(chǎn)生，變 異體現(xiàn)了全局最優(yōu)解的 覆蓋 。傳統(tǒng)優(yōu)化算法是從單個初始值迭代求最優(yōu)解的；容易誤入局部最優(yōu)解。 江西理工大學 20xx 屆本科生畢業(yè)設計（論文） 遺傳算法作為一種快捷、簡便、容錯性強的算法，在各類結構對象的優(yōu)化過程中顯示出明顯的優(yōu)勢。 神經(jīng)網(wǎng)絡和遺傳算法都是比較先進的計算方法，它們已成功地應用于工業(yè)、經(jīng)濟管理、交通運輸、工業(yè)設計等領域，解決了許多問題。 作者簽名： 日 期： 江西理工大學 20xx 屆本科生畢業(yè)設計（論文） 學位論文原創(chuàng)性聲明 本人鄭重聲明：所呈交 的論文是本人在導師的指導下獨立進行研究所取得的研究成果。 neural work。 因此，研究能在搜索過程中自動獲得和積累有關搜索空間的知識，并能自適應地控制搜索過程，從而得到最優(yōu)解或準有解的通用搜索算法一直是令人矚目的課題。mutation breeding。本人完全意識到本聲明的法律后果由本人承擔。 遺傳算法的產(chǎn)生及特點 遺傳算法是根據(jù)生物進化思想而啟發(fā)得出的一種全局優(yōu)化算法， 并且 遺傳算法是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型。搜索過程是從一組解迭代到另一組解，采用同時處理群體中多個個體的方法，降低了陷入局部最優(yōu)解的可能性，并易于并行化 。 由于遺傳算法使用適應值這一信息進行搜索，并不 需要問題導數(shù)等與問題直接相關的信息。對分布并行遺傳算法的研究表明 ,只要通過保持多個群體和恰當控制群體間的相互作用來模擬并行執(zhí)行過程 ,即使不使用并行計算機 ,也能提高算法的執(zhí)行效率。其中，選擇、交叉和變異構成了遺傳算法的遺傳操作；參數(shù)編碼、初始群體的設定、適應度函數(shù)的設計、遺傳操作設計、控制參數(shù)設定五個要素組成了遺傳算法的核心內容。根據(jù)環(huán)境的變化，對權值進行調整，改善系統(tǒng)的行為。 江西理工大學 20xx 屆本科生畢業(yè)設計（論文） 第二章 神經(jīng)元網(wǎng)絡 及 BP 算法 神經(jīng)網(wǎng)絡概述 神經(jīng)網(wǎng)絡是大量的簡單神經(jīng)元按一定規(guī)則連 接構成的網(wǎng)絡系統(tǒng)。大規(guī)模并行處理指能同時處理與決策有關的因素． 采用某種學習算法從訓練樣本中學習，并將獲取的知識存儲在網(wǎng)絡各單元之間的連接權中，神經(jīng)網(wǎng)絡和基于符號的傳統(tǒng) K9技術相比，具有直觀性、并行性和抗噪性。 ]有多種形式，其中最常見的有階躍型、線性型和 S型三種形式，這三種形式如圖 2— 3 所示。 BP學習算法 反向傳播 算法也稱 BP 算法。江西理工大學 20xx 屆本科生畢業(yè)設計（論文） 因此，感知機學習算法不能用于多層神經(jīng)網(wǎng)絡的學習。這也是說，改變隱層的權系數(shù)，可以改變整個多層神經(jīng)網(wǎng)絡的性能。取期望輸出和實際輸出之差的平方和 為誤差函數(shù)，則有： ? ?? i mi YiXe )(21 （ 211） 其中： Yi 是輸出單元的期望值；它也在這里用作教師信號； miX 是實際輸出；因為第 m層是輸出層。當取 f為非對稱 Sigmoid 函數(shù)時，有： )e x p (1 1)( kiUkiUf ??? （ 222） 則有 )1())(1)((39。從上面公式也可以知道，如果網(wǎng)絡的層數(shù)較多時，所用的計算量就相當可觀，故而收 斂速度不快。 Darwin進化論最重要的是適者生存原理。經(jīng)過 存優(yōu)去劣的自然淘汰，適應性高的基因結構得以保存下來。基因位置由串的左向右計算，例如在串 S＝ 1101 中， 0 的基因位置是 3。 遺傳算法的步驟 標準遺傳算法主要通 過遺傳操作 (交叉與變異 )對種群中的個體施加結構重組處理，通過選擇操作不斷優(yōu)化群體中的個體結構，從而搜索到最優(yōu)結構的個體，達到逼近問題的最優(yōu)解的目的。 對于很多問題很難設計出同時滿足上面三條要求的編碼方案，但是完備性是必須滿足的一項。 (1)一維染色體編碼。② 二進制編碼的染色體長度與問題空間的區(qū)域大小和精度要求直接相關，對于大區(qū)間、高精度的問題，染色體的長度會很長，搜索空間也會很大，這樣的搜索相當困難 。 浮點編碼與二進制編碼相比有以下優(yōu)點 :① 精度依賴于所使用的機器，與編碼本身無關，比二進制要靈活、方便； ② 浮點編碼能夠表達很大的區(qū)域，而二進制編碼必須以犧牲精度來增加表達區(qū)域； ③ 容易設計出封閉的 、動態(tài)的遺傳算子，容易處理非常規(guī)約束。問題的最優(yōu)解將通過這些初始假設解進化而求出。 如果目標函數(shù)是求最小值問 題，可通過適當轉換，如 : fit(x)=cf(x), c ≥ fmax 選擇運算是推動進化的直接動力。三者對于選擇壓力以至于遺傳算法的性能都有很大的影 響。 {2)根據(jù)個體的生存概率進行隨機選擇。正比選擇的缺點是在進化的早期，一些超級染色體會充斥選擇過程，容易失去種群染色體的多樣性 。 排序法以種群中染色體適應值的大小順序來確定各個染色體的生存概率，而不是以適應值的數(shù)值大小來確定， 該方法克服了基于適應值進行選擇。只有一個交叉點位置，任意挑選經(jīng)過選擇操作后種群的兩個個體作為交叉對象，隨機產(chǎn)生一個交叉點位置，兩個個體在交叉點位置互換部分基因碼，形成兩個子個體。常用的交叉算子有： 算術交叉算子?？赡芨静划a(chǎn)生后代。因為在所有的個體一樣時，交叉是無法產(chǎn)生新的個體的，這時只能靠變異產(chǎn)生新的個體。 使用變異算子的目的只有兩個：一是保持遺傳算法的多樣性，以防止出現(xiàn)早熟現(xiàn)象；二是 加強遺傳算法的局部隨機搜索能力。評價一個學 習算法的標準是：簡單性、可塑性和有效性。這類研究現(xiàn)在還無法確定其廣泛應用的有效性。 2．遺傳算法在網(wǎng)絡設計中的應用 用遺傳算法設計一個優(yōu)秀的神經(jīng)網(wǎng)絡結構，首先是要解決網(wǎng)絡結構的編碼問題；然后才能以選擇、交叉、變異操作得出最優(yōu)結構。神經(jīng)網(wǎng)絡由于有分布存儲等特點，一般難以從其拓撲結構直接理解其功能。 本文的每個權值的串長度取值為 10神經(jīng)網(wǎng)絡定義為 2 個輸入節(jié)點， 5 個隱節(jié)點， 1 個輸出節(jié)點， 2 個閾值節(jié)點，所以總共有 21 個權值，所以染色體串的長度為 10 21。 選擇方式： 這里不采用比例選擇方式，而使用親代度量 S決定群體中每個個體被選中的概率 [14]，群體中的個體以 下式 所示的概率成為親代染色體。 int pop=40。 /*個體適應度 */ }。 /*樣本輸出值 */ }samp[SIZE]= { {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, {,},{,},{,},{,},{,}, 江西理工大學 20xx 屆本科生畢業(yè)設計（論文） {,},{,},{,},{,},{,}}。 /*尋找最佳和最差個體 */ void performevolution(void)。 /*樣本網(wǎng)絡輸出 */ void check(void)。 evaluatepopulation()。 evaluatepopulation()。 for(i=0。i=IN。iOUT。i++) { for(j=0。 } for(j=0。 } } } /********** 變形的 Sigmoid 函數(shù) ************/ double sigmoid(double z) { double zout。i++) { for(j=0。 } } /********** 產(chǎn)生下一代群體 ************/ void nextpopulation(void) 江西理工大學 20xx 屆本科生畢業(yè)設計（論文） { selectionoperator()。 int i。 double o