【正文】 78 例 設(shè)論域 U={20, 30, 40, 50, 60}給出的是年齡 ， 請確定一個刻畫模糊概念 “ 年輕 ” 的模糊集 F。 編號 個體串（染色體） 交叉對象 交叉位 子代 適應(yīng)值 S’ 21 11001 S’ 22 3 11010 676 S’ 22 10010 S’ 21 3 10001 289 S’ 23 11001 S’ 24 4 11000 576 S’ 24 11110 S’ 23 4 11111 961 遺傳算法 6. 遺傳算法應(yīng)用簡例 (10/10) 對第 2代種群，其交叉情況如表 411所示。為解決這一問題，需要采用變異操作。 68 (4) 選擇操作 假設(shè)采用輪盤賭方式選擇個體，且依次生成的 4個隨機(jī)數(shù)（相當(dāng)于輪盤上指針?biāo)傅臄?shù)）為 、 、 ，經(jīng)選擇后得到的新的種群為： S’01=10010 S’02=11001 S’03=01101 S’04=11001 其中，染色體 11001在種群中出現(xiàn)了 2次，而原染色體 01000則因適應(yīng)值太小而被淘汰 遺傳算法 6. 遺傳算法應(yīng)用簡例 (3/10) 69 (5) 交叉 假設(shè)交叉概率 Pi為 50%，則種群中只有 1/2的染色體參與 交叉。 例如，用二進(jìn)制串 00000來表示 x=0,11111來表示 x=31等。該方法是用另外一個在規(guī)定范圍內(nèi)的隨機(jī)實數(shù)去替換原變異位置上的基因值，產(chǎn)生一個新的個體。變異也是生物遺傳和自然進(jìn)化中的一種基本現(xiàn)象，它可增強(qiáng)種群的多樣性。假設(shè)兩個父代的個體串分別是 X=x1 x2 … x i … x j … xk … x n和 Y=y1 y2 … y i … y j … y k … y n， 隨機(jī)設(shè)定第 i、 j、 k位為三個交叉點（其中 ijkn），則將構(gòu)成兩個交叉段。根據(jù)個體編碼方法的不同，遺傳算法中的交叉操作可分為二進(jìn)制交叉和實值交叉兩種類型 。而相對適應(yīng)度的定義為： 其中， P(xi)是個體 xi的相對適應(yīng)度，即個體 xi被選中的概率； f(xi)是個體 xi的原始適應(yīng)度；是種群的累加適應(yīng)度。即有關(guān)系： （ ） 式中， xi(i=1,…,n) 為當(dāng)前代中的染色體， M是指將當(dāng)前的最大適應(yīng)度放大為平均值的 M倍?？梢?， fmax (x) 是會隨著進(jìn)化代數(shù)的增加而不斷變化的。通常，一個個體的適應(yīng)度值越大，它被遺傳到下一代種群中的概率也就越大。這種編碼方法要求兩個連續(xù)整數(shù)的編碼之間只能有一個碼位不同，其余碼位都是完全相同的。 遺傳算法 2. 遺傳算法的基本結(jié)構(gòu) (2/2) 47 常用的遺傳編碼算法有霍蘭德二進(jìn)制碼、格雷碼（ Gray Code）、實數(shù)編碼和字符編碼等。 個體 （ Individual）：個體是指種群中的單個元素，它通常由一個用于描述其基本遺傳結(jié)構(gòu)的數(shù)據(jù)結(jié)構(gòu)來表示。目前，進(jìn)化計算已成為人工智能領(lǐng)域的又一個新的研究熱點。至此，進(jìn)化計算的 三大分支基本形成 。通常，適應(yīng)性強(qiáng)的基因會不斷增多，而適應(yīng)性差的基因則會逐漸減少。 進(jìn)化計算概述 1. 進(jìn)化計算及其生物學(xué)基礎(chǔ) (2/3) 40 ② 變異理論 變異是指子代和父代之間，以及子代的各個不同個體之間產(chǎn)生差異的現(xiàn)象。 ① 遺傳理論 遺傳 是指父代（或親代）利用遺傳基因?qū)⒆陨淼幕蛐畔鬟f給下一代（或子代），使子代能夠繼承其父代的特征或性狀的這種生命現(xiàn)象。由于神經(jīng)元之間為對稱連接，且神經(jīng)元自身無連接，因此有 ??????jijiww jiij 若若03. Hopfield網(wǎng)絡(luò)模型 離散 Hopfield網(wǎng)絡(luò)模型 (1/2) 由該連接權(quán)值所構(gòu)成的連接矩陣是一個零對角的對稱矩陣。 BP網(wǎng)絡(luò)實現(xiàn)了明斯基的多層網(wǎng)絡(luò)的設(shè)想，是當(dāng)今神經(jīng)網(wǎng)絡(luò)模型中使用最廣泛的一種。因此，多層感知器可以實現(xiàn)非線性可分問題的分類。 (0,1) (0,0) (1,0) 圖 或運算問題圖示 (1,1) 1. 感知器模型 單層感知器 (5/7) 28 例 “非”運算（ 172。 若假設(shè)各神經(jīng)元的閾值分別是 θj，j=1,2,…,m ，則各神經(jīng)元的輸出 yj, j=1,2,..,m分別為 ?? ??? n 1i jiijj m,...,2,1j)x(fy ?w 其中，由所有連接權(quán)值 wji構(gòu)成的連接權(quán)值矩陣 W為： ???????????????nmn2n12m22211m1211W?????? 在實際應(yīng)用中，該矩陣是通過大量的訓(xùn)練示例學(xué)習(xí)而形成的 1. 感知器模型 單層感知器 (2/7) 25 使用感知器的主要目的是為了對外部輸入進(jìn)行 分類 。例如： 傳統(tǒng)的感知機(jī)模型；具有誤差反向傳播功能的反向傳播網(wǎng)絡(luò)模型；采用多變量插值的徑向基函數(shù)網(wǎng)絡(luò)模型；建立在統(tǒng)計學(xué)習(xí)理論基礎(chǔ)上的支撐向量機(jī)網(wǎng)絡(luò)模型；采用反饋聯(lián)接方式的反饋網(wǎng)絡(luò)模型；基于模擬退火算法的隨機(jī)網(wǎng)絡(luò)模型。 x1 X2 Xn y1 Ym 隱含層 輸出層 輸入層 圖 多層前饋網(wǎng)絡(luò)結(jié)構(gòu) … … … 權(quán)值 權(quán)值 1. 前饋網(wǎng)絡(luò) 多層前饋網(wǎng)絡(luò) (3/3) 多層前饋網(wǎng)絡(luò)的輸入層的輸出向量是第一隱含層的輸入信號，而第一隱含層的輸出則是第二隱含層的輸入信號，以此類推，直到輸出層。 σ f(θ) 1 T 1 2. 人工神經(jīng)網(wǎng)絡(luò)簡介 常用的人工神經(jīng)元模型 f(θ) 1 σ 0 0 f(θ) σ 1 0 f(θ) 0 σ 16 人工神經(jīng)網(wǎng)絡(luò)是一種對人工神經(jīng)元進(jìn)行互聯(lián)所形成的網(wǎng)絡(luò)，它是對生物神經(jīng)網(wǎng)絡(luò)的模擬。 1( ) ( )n iiiy f f w x???? ? ??1n iii wx??2. 人工神經(jīng)網(wǎng)絡(luò)簡介 人工神經(jīng)元的結(jié)構(gòu) 圖 MP神經(jīng)元模型 人工神經(jīng)元是一個具有多輸入，單輸出的非線性器件。 1. 生物神經(jīng)系統(tǒng)簡介 (1) 生物神經(jīng)元的結(jié)構(gòu) (2) 生物神經(jīng)細(xì)胞及工作方式 (3) 突觸聯(lián)結(jié) (4) 突觸傳遞方式 2. 人工神經(jīng)網(wǎng)絡(luò)簡介 9 結(jié)構(gòu)： 胞體 軸突 樹突 突觸 長度： 最長 1米 狀態(tài)： 抑制 興奮 細(xì)胞體 軸突 樹突 突觸 1. 生物神經(jīng)系統(tǒng)簡介 生物神經(jīng)元的結(jié)構(gòu) 10 細(xì)胞結(jié)構(gòu) 細(xì)胞膜，細(xì)胞質(zhì)，細(xì)胞核 神經(jīng)遞質(zhì)傳遞 乙酰膽堿、兒茶酚胺類、氨基酸等 信號跨膜轉(zhuǎn)導(dǎo) 離子通道 基本狀態(tài)： 抑制： 70毫伏 興奮： +40 毫伏 靜息膜電位： 70毫伏 動作電位： +40 毫伏 工作方式： 刺激疊加 瞬間沖動 細(xì)胞膜 細(xì)胞質(zhì) 細(xì)胞核 1. 生物神經(jīng)系統(tǒng)簡介 神經(jīng)細(xì)胞及工作方式 11 1. 生物神經(jīng)系統(tǒng)簡介 突觸聯(lián)結(jié)方式 12 1. 生物神經(jīng)系統(tǒng)簡介 突觸傳導(dǎo) 突觸后膜 突觸間隙 突觸前膜 神經(jīng)微管 線粒體 突觸小泡 存儲顆粒 突觸傳導(dǎo)由電變化和化學(xué)變化兩個過程完成。 5 CNN CPR CI ANN APR AI BNN BPR BI 人類知識 (+)傳感輸入 知識 (+)傳感數(shù)據(jù) 計算 (+)傳感器 B~生物的 A~符號的 C~數(shù)值的 復(fù)雜性 復(fù)雜性 輸入 層次 貝慈德克的智能的 3個層次 計算智能與人工智能的關(guān)系 6 第二種觀點 是大多數(shù)學(xué)者所持有的觀點，其代表人物是艾伯哈特（ ）。此外， IEEE還出版了一些與計算智能有關(guān)的刊物。 綜合解釋 從貝慈德克的定義和上述學(xué)科范疇可以看出以下兩點： 第一， 計算智能是借鑒仿生學(xué)的思想，基于生物神經(jīng)系統(tǒng)的結(jié)構(gòu)、進(jìn)化和認(rèn)知對自然智能進(jìn)行模擬的。它主要借鑒仿生學(xué)的思想，基于人們對生物體智能機(jī)理的認(rèn)識，采用數(shù)值計算的方法去模擬和實現(xiàn)人類的智能。 2 什么是計算智能 研究領(lǐng)域 神經(jīng)網(wǎng)絡(luò) 是一種對人類智能的結(jié)構(gòu)模擬方法，它是通過對大量人工神經(jīng)元的廣泛并行互聯(lián)，構(gòu)造人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)去模擬生物神經(jīng)系統(tǒng)的智能機(jī)理的。 在此之后， WCCI大會就成了 IEEE的一個系列性學(xué)術(shù)會議，每 4年舉辦一次。 在該圖中， 底層是計算智能（ CI） ，它通過數(shù)值計算來實現(xiàn)，其基礎(chǔ)是CNN； 中間層是人工智能（ AI） ，它通過人造的符號系統(tǒng)實現(xiàn)，其基礎(chǔ)是ANN； 頂層是生物智能（ BI） ，它通過生物神經(jīng)系統(tǒng)來實現(xiàn)，其基礎(chǔ)是 BNN。 基于神經(jīng)網(wǎng)絡(luò)的連接學(xué)習(xí)機(jī)制放到機(jī)器學(xué)習(xí)部分討論。人工神經(jīng)網(wǎng)絡(luò)是對人腦神經(jīng)系統(tǒng)的簡化、抽象和模擬，具有人腦功能的許多基本特征。 S型 (Sibmoid) 這是一種連續(xù)的神經(jīng)元模型，其輸入輸出特性常用指數(shù)、對數(shù)或雙曲正切等 S型函數(shù)表示。 20 多層前饋網(wǎng)絡(luò) 是指那種除擁有輸入、輸出層外，還至少含有一個、或更多個隱含層的前饋網(wǎng)絡(luò)。 反饋網(wǎng)絡(luò) 則不同，它的每個神經(jīng)元的輸入都有可能包含有該神經(jīng)元先前輸出的反饋信息，即一個神經(jīng)元的輸出是由該神經(jīng)元當(dāng)前的輸入和先前的輸出這兩者來決定的，這就有點類似于人類的短期記憶的性質(zhì)。當(dāng)輸入信息的加權(quán)和大于或等于閾值時，輸出為 1，否則輸出為 0或 1。 其中，輸出為 1的用實心圓，輸出為 0的用空心圓。 (0,1) (0,0) (1,0) 圖 異或運算問題圖示 (1,1) 1. 感知器模型 單層感知器 (77) 30 (2) 多層感知器 多層感知器是通過在單層感知器的輸入、輸出層之間加入一層或多層處理單元所構(gòu)成的。 1. 感知器模型 多層 感知器 (2/2) 32 誤差反向傳播 (Error Back Propagation)網(wǎng)絡(luò)通常簡稱為 BP(Back Propagation)網(wǎng)絡(luò)，是由美國加州大學(xué)的魯梅爾哈特和麥克萊蘭在研究并行分布式信息處理方法，探索人類認(rèn)知微結(jié)構(gòu)的過程中，于 1985年提出的一種網(wǎng)絡(luò)模型。 離散 Hopfield網(wǎng)絡(luò)的結(jié)構(gòu) 離散 Hopfield網(wǎng)絡(luò)是在非線性動力學(xué)的基礎(chǔ)上由若干基本神經(jīng)元構(gòu)成的一種單層全互連網(wǎng)絡(luò)，其任意神經(jīng)元之間均有連接，并且是一種對稱連接結(jié)構(gòu)。 進(jìn)化計算 38 進(jìn)化計算是一種模擬自然界生物進(jìn)化過程與機(jī)制進(jìn)行問題求解的自組織、自適應(yīng)的隨機(jī)搜索技術(shù)。 染色體的形狀是一種雙螺旋結(jié)構(gòu)，構(gòu)成染色體的主要物質(zhì)叫做 脫氧核糖核酸 (DNA)，每個基因都在 DNA長鏈中占有一定的位置。遺傳和變異是生物進(jìn)化的兩種基本現(xiàn)象，優(yōu)勝劣汰、適者生存是生物進(jìn)化的基本規(guī)律。 1965年德國數(shù)學(xué)家雷切伯格（ Rechenberg）等人提出了一種只有單個個體參與進(jìn)化，并且僅有變異這一種進(jìn)化操作的 進(jìn)化策略 。 進(jìn)化計算概述 2. 進(jìn)化計算的產(chǎn)生與發(fā)展 (1/2) 42 (3) 發(fā)展階段 這一階段是從 20世紀(jì) 90年代至今。 進(jìn)化計算概述 3. 進(jìn)化計算的基本結(jié)構(gòu) 44 遺傳算法的基本思想是從初始種群出發(fā)，采用優(yōu)勝劣汰、適者生存的自然法則選擇個體，并通過雜交、變異來產(chǎn)生新一代種群，如此逐代進(jìn)化，直到滿足目標(biāo)為止。其函數(shù)值是遺傳算法實現(xiàn)優(yōu)勝劣汰的主要依據(jù) 遺傳操作 （ Geic Operator）：遺傳操作是指作用于種群而產(chǎn)生新的種群的操作。 二進(jìn)制編碼存在的主要缺點 是漢明（ Hamming）懸崖。由于實數(shù)編碼使用的是變量的真實值，因此這種編碼方法也叫做真值編碼方法。這就往往需要對原始適應(yīng)函數(shù)進(jìn)行某種變換，將其轉(zhuǎn)換為標(biāo)準(zhǔn)的度量方式，以滿足進(jìn)化操作的要求，這樣所得到的適應(yīng)度函數(shù)被稱為標(biāo)準(zhǔn)適應(yīng)度函數(shù) fNormal(x)。 適應(yīng)度函數(shù)的加速變換有兩種基本方法 線性加速 的適應(yīng)度函數(shù)的定義如下： f’(x)=αf(x)+β 其中， f(x)是加速轉(zhuǎn)換前的適應(yīng)度函數(shù)； f’(x)是加速轉(zhuǎn)換后的適應(yīng)度函數(shù)； α和 β是轉(zhuǎn)換系數(shù) ,它們應(yīng)滿足如下條件： ① 變化后得到的新的適應(yīng)度函數(shù)平均值要等于原適應(yīng)度函數(shù)的平均值。 ① 比例選擇 比例選擇方法（ Proportional Model）的基本思想是：各