【正文】 , , ) [ ( ) ( ) ]U A BxXyYz R X Y Z x y? ? ? ???? ? ?? (46) 4)解模糊 解模糊的方法有重心法、最大隸屬度法、中位數(shù)方法等，其中較常用的是重心法，也即控制量可由輸出 Ui的隸屬度函數(shù)加權(quán)平均得到，計(jì)算公式為 11()()NiiiNiiUUuU???????? (47) 模糊控制器設(shè)計(jì)步驟 模糊控制器一般是靠軟件編程實(shí) 現(xiàn)的，實(shí)現(xiàn)模糊控制一般設(shè)計(jì)步驟如下： (1)確定模糊控制器的輸入變量和輸出變量 (即控制量 )。 (3)進(jìn)行模糊化和解模糊化 。 (5)編制模糊控制算法的應(yīng)用程序 。人工神經(jīng)網(wǎng)絡(luò)可以忽略過程或系統(tǒng)的具體物理參數(shù)，根據(jù)系統(tǒng)的運(yùn) 行或?qū)嶒?yàn)數(shù)據(jù)，建立輸入和輸出狀態(tài)之間的非線性映射關(guān)系。 自從 80年代以來，神經(jīng)網(wǎng)絡(luò)的研究出現(xiàn)了突破性的進(jìn)展。神經(jīng)網(wǎng)絡(luò)的發(fā)展簡史如下： 時(shí) 間 貢獻(xiàn)者 ANN 模 型 1943 McCuiioch MP 模型 1957 Rosenblatt 感知器（ Percentron） 1962 Widrow 自 適應(yīng) 線性元件（ Adaline） 1969 Minsky 《 Perceptrons》 1972 Fukushima 認(rèn)知機(jī) 模型 19741985 Rumelhart 等反傳模型， BP 算法 1978 Grossberg 自 適應(yīng) 共振理論（ ART） 1980 Kohonen 自組織 映射 1982 Hopfield 反饋網(wǎng)絡(luò) 1985 Hinton 等 玻爾茲曼 機(jī) 1986 HechtNielsen 對(duì)傳模型 1988 ChuaYang 細(xì)胞網(wǎng)絡(luò)模型 神經(jīng)網(wǎng)絡(luò)特點(diǎn) (1)具有自適應(yīng)能力 它主要是根據(jù)所提供的數(shù)據(jù)，通過學(xué)習(xí)和訓(xùn)練，找出輸入和輸出間的內(nèi)在聯(lián)系，從而求得問題的解答，而不是依靠對(duì)問題的先驗(yàn)知識(shí)和規(guī)則，因而它具有很好的適應(yīng)性。同樣它能夠處理那些有噪聲或不完全的數(shù)據(jù)，從而顯示了很好的容錯(cuò)能力。 (3)非線性映射能力 現(xiàn)實(shí)的問題是非常復(fù)雜的，各個(gè)因數(shù)之間互相影響，呈現(xiàn)出復(fù)雜的非線性關(guān)系。 (4)高度并行處理 神經(jīng)網(wǎng)絡(luò)處理是高度并行的，因此用硬件實(shí)現(xiàn)的神經(jīng)網(wǎng)絡(luò)的處理速度可遠(yuǎn)遠(yuǎn)高于通常計(jì)算機(jī)的處理速度。如函數(shù)映射是功能建模的一個(gè)典型例子。例如用神經(jīng)網(wǎng)絡(luò)來控制一個(gè)工業(yè)過程便是這樣一個(gè)例子。某些情況下神經(jīng)網(wǎng)絡(luò)會(huì)存在嚴(yán)重的缺點(diǎn)。其次有時(shí)很難估計(jì)神經(jīng)網(wǎng)絡(luò)給出的結(jié)果。它們對(duì)于輸出結(jié)果的影響也是非常復(fù)雜的。這一方面是由于需要收集、分析和處理大量的訓(xùn)練數(shù)據(jù)，同時(shí)還 需要相當(dāng)?shù)慕?jīng)驗(yàn)來選擇合適的參數(shù)。執(zhí)行時(shí)間取決于連接權(quán)的個(gè)數(shù)，它大體和節(jié)點(diǎn)數(shù)的平方成正比。 人工神經(jīng)網(wǎng)絡(luò) BP算法網(wǎng)絡(luò)模型由幾層組成，各個(gè)層次之間的神經(jīng)元相互連接，同一層內(nèi)的各個(gè)神經(jīng)元互不連接。在信號(hào)的向前傳遞過程中網(wǎng)絡(luò)的權(quán) 值是固定不變的，每一個(gè)神經(jīng)元 的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。 (2)誤差信號(hào)反向傳播：網(wǎng)絡(luò)的實(shí)際輸出與期望輸出之間的差值即為誤差信號(hào)，誤差信由輸出端開始逐層向前傳播，這是誤差信號(hào)的反向傳播。通過權(quán)值的不斷修正使網(wǎng)絡(luò)的實(shí)際輸出更接近期望輸出。 BP 算法基本流程圖如圖 (51)所示： 初 始 化加 輸 入 和 期 望 輸 出計(jì) 算 隱 層 和 輸 出 層 的 值調(diào) 節(jié) 輸 出 層 和 隱 含 層 連 接 權(quán) 值改 變 訓(xùn) 練 樣 本訓(xùn) 練 樣 本 終 止迭 代 次 數(shù) 加 1迭 代 終 止是否否是 圖 BP 算法流程圖 M M M MMMM M1x2xmxMximWjiWpjW1y2ypyPyM輸 入 層 第 一 隱 含 層 第 二 隱 含 層 輸 出 層 圖 神經(jīng)網(wǎng)絡(luò) 設(shè)輸入層有 M個(gè)輸入信號(hào)，其中任一個(gè)輸入信號(hào)用 m表示；第 1隱層有 I個(gè)神經(jīng)元，其中任一神經(jīng)元用 i表示；第 2隱層有 J個(gè)神經(jīng)元，其中任一神經(jīng)元用 j表示；輸出層有 P個(gè)神經(jīng)元，其中任一神經(jīng)元用 p表示。 輸入為 ],[ 21 MmT xxxxX ??? 。,[ 21 PpT yyyyY ??? 加權(quán)矩陣依次為 ? ? ? ? ? ? 。 創(chuàng) ； 神經(jīng)元的輸入用 u 表示，激勵(lì)輸出用 v 表示， u、 v 的上標(biāo)表示層，下標(biāo)表示層中的某個(gè)神經(jīng)元，如 1iu 表示第一隱層的第 i 個(gè)神經(jīng)元的輸入。 由工作信號(hào)的正向傳播過程可得： 第一層輸入 ： ??? Mm mimi xWu 11 ； Ii ,3,2,1 ?? 第一層輸出為： 111Mi im m imv f W x ???????????； Ii ,3,2,1 ?? 第二層的輸出為： 2 1 21Ij ji i jiv f W v ???????????； Jj ,3,2,1 ?? 輸出層輸出為： 3 2 3 3 2 311,PPp p j j p p p p j j pppv f W v y v f W v????? ? ? ?? ? ? ? ?? ? ? ?? ? ? ???； Pp ,3,2,1 ?? 對(duì)于一個(gè)給定的輸入 X，期望輸出為 ],[ 21 pdddD ?? 。 BP 算法中權(quán)值的修正量與誤差與權(quán)值的偏微分成正比 .即： )( )( )( nW nEnW pjpj ??? 與成正比 因?yàn)? )( )()( )()( )()( )()( )(33 nWnunu nyny nene nEnW nEpjpppppppj ??????????? (52) 又 ,1)( )(),()( )( ??????? ny nenene nE pppp ? ? 3323 ( ) ( )( ) , ( )( ) ( )pppjp p jy u nf u n v nu W n????? 則 3() ( ) ( ( ) ) ( )() p p ppjEn e n f u n e nWn? ???? (53) 設(shè)局部梯度 333 () ( ( ) ) ( )p p ppEn f u n e nu? ? ?? ? ?? （n ） (54) )(nWpj 的修正量為 )()()( )())( )(()( )()( 2333 nvnnWnunu nEnW nEnW jppjpppjpj???? ???????????? 上式中， h 是學(xué)習(xí)步長， )(3np? 可由式（ 54）求得， )(2nvj 可由信號(hào)的正向傳 播過程求得。 )(nWpj 為第二隱層與輸出層之間 的任一節(jié)點(diǎn)之間的權(quán)值，已由式 （ 55） 求得。 )(nWji 為第一隱含層與第二隱含層之間任一節(jié)點(diǎn)之間的權(quán)值，已經(jīng)由式（ 512）求得。 ②學(xué)習(xí)方式 : 增量型學(xué)習(xí)方法效果好，累積型學(xué)習(xí)方法速度快?？赏ㄟ^調(diào)節(jié) Sigmoid函數(shù)的斜率或采用其它激勵(lì)單元來改善網(wǎng)絡(luò)的學(xué)習(xí)性能。 BP 網(wǎng)絡(luò)的設(shè)計(jì) 要設(shè)計(jì)一個(gè)神經(jīng)網(wǎng)絡(luò)必須綜合考慮各方面的因素，如網(wǎng)絡(luò)的層數(shù)，每層的神經(jīng)元的個(gè)數(shù)，層與層間的轉(zhuǎn)換函數(shù)，網(wǎng)絡(luò)的初始 權(quán)值，網(wǎng)絡(luò) 學(xué)習(xí)速率的選取等。下面介紹各因素的選擇原則如下： (1)網(wǎng)絡(luò)的層數(shù) 增加層數(shù)主要可以更進(jìn)一步地降低誤差 ，提高精度，但同時(shí)也使網(wǎng)絡(luò)復(fù)雜化，從而增加了網(wǎng)絡(luò)權(quán)值的訓(xùn)練時(shí)間。能不能僅用具有非線性激活函數(shù)的單層網(wǎng)絡(luò)來解決問題呢？ 結(jié)論是：沒有必要或效果不好。這在結(jié)構(gòu)實(shí)現(xiàn)上，要比增加更多的隱含層要簡單得多。 (3)初始權(quán)值的選取 一般取初始權(quán)值在 (1， 1)之間的隨機(jī)數(shù)。大的學(xué)習(xí)速率可能導(dǎo)致系統(tǒng)的不穩(wěn)定。所以在一般情況下，傾向于選取較小的學(xué)習(xí)速率以保證系統(tǒng)的穩(wěn)定性。 (5)期望誤差的選取 在設(shè)計(jì)網(wǎng)絡(luò)的訓(xùn)練過程中，期望誤差值也應(yīng)當(dāng) 通過對(duì)比訓(xùn)練后確定一個(gè)合適的值。一般情況下，作為對(duì)比，可以同時(shí)對(duì)兩個(gè)不同期望誤差值的網(wǎng)絡(luò)進(jìn)行訓(xùn)練，最后通過綜合因素的考慮來確定采用其中一個(gè)網(wǎng)絡(luò)。這里包括原始數(shù)據(jù)的收集、數(shù)據(jù)分析、變量選擇和數(shù)據(jù)的預(yù)處理，只有經(jīng)過這些步驟后，才能對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行有效的學(xué)習(xí)與訓(xùn) 練。例如，兩個(gè)輸入具有很大的相關(guān)性，則只要取其中一個(gè)作為輸入，這就需要對(duì)原始數(shù)據(jù)進(jìn)行充分統(tǒng)計(jì)分析，檢驗(yàn)他們之間的相關(guān)性。這時(shí)就需要對(duì)他們進(jìn)行相關(guān)性分析，找出其中一二個(gè)最主要的量作為輸入。尺度變換常常將他們變換到 [1 1]或 [0 1]的范圍。 通過對(duì)數(shù)據(jù)的預(yù)處理分析還可以檢驗(yàn) 其是否具有周期性、固定變化趨勢或其它關(guān)系。 例如在過程控制中，采用溫度的增量導(dǎo)數(shù)比用溫度值本身更能說明問題，也更容易找出數(shù)據(jù)間的實(shí)質(zhì)聯(lián)系。如計(jì)算數(shù)據(jù)的和、差、倒數(shù)、乘冪、求根、對(duì)數(shù)、平均、滑動(dòng)平均以及傅立葉變換等。 對(duì)一個(gè)復(fù)雜問題應(yīng)該選擇多少數(shù)據(jù)，這也是一個(gè)很關(guān)鍵的問題。所以一般 來說，取得的數(shù)據(jù)越多，學(xué)習(xí)和訓(xùn)練的結(jié)果就越能準(zhǔn)確反映輸入和輸出之間的關(guān)系。 當(dāng)然選太少的數(shù)據(jù)將可能得不到正確的結(jié)果。其中網(wǎng)絡(luò)大小最關(guān)鍵。一個(gè)經(jīng)驗(yàn)規(guī)則是：訓(xùn)練模式應(yīng)該是連接權(quán)總數(shù)的 5 至 10 倍。最簡單的是：將收集到的可用數(shù)據(jù)隨機(jī)地分成兩部分 ，譬如說其中的三分之二用于網(wǎng)絡(luò)的訓(xùn)練，另外的三分之一用于將來的測試，隨機(jī)選取的目的是為了盡量減少這兩部分?jǐn)?shù)據(jù)的相關(guān)性。相反數(shù)據(jù)稀薄不均甚至互相覆蓋勢必要增加數(shù)據(jù)量。若主要用于模式分類尤其是現(xiàn)行可分情況 ，則可以選用較為簡單的感知器網(wǎng)絡(luò)；若主要用于函數(shù)估計(jì)，則可以用 BP 網(wǎng)絡(luò)。一般是從 已有的網(wǎng)絡(luò)類型中選擇一種比較簡單的又能滿足要求的網(wǎng)絡(luò)，若新設(shè)計(jì)一個(gè)網(wǎng)絡(luò)類 型來滿足問題的要求往往比較困難。以 BP 網(wǎng)絡(luò)為例，需選擇網(wǎng)絡(luò)的層數(shù)、每層的節(jié)點(diǎn)數(shù)、初始權(quán)值、域值、學(xué)習(xí)算法、數(shù)值修改頻度、節(jié)點(diǎn)變換函數(shù)及參數(shù)、學(xué)習(xí)速率及其動(dòng)量因子等參數(shù)。 對(duì)于具體問題若確定了輸入和輸出變量后，網(wǎng)絡(luò)輸入層和輸出層的個(gè)數(shù)也便確定了。剩下的問題是如何選擇隱層的節(jié)點(diǎn)數(shù)。具體的選擇可有如下兩種方法： a 先設(shè)置較少的節(jié)點(diǎn)，對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，并測試網(wǎng)絡(luò)的逼近誤差，然后逐漸增加節(jié)點(diǎn)數(shù)，直到測試的誤差不再有明顯的減少為止。引入第二項(xiàng)的作用相當(dāng)于引入一個(gè)“遺忘”項(xiàng)，其目的是為使訓(xùn)練后的連接權(quán)系數(shù)盡量小。利用該學(xué)習(xí)算法，在訓(xùn)練過程中只有那些確實(shí)必要的連接權(quán)才予以保留，而那些不很必要的連接將逐漸衰減為零，最后可去掉那些聯(lián)想不大的連接權(quán)和相應(yīng) 節(jié)點(diǎn)，從而得到適當(dāng)規(guī)模的網(wǎng)絡(luò)結(jié)構(gòu)。對(duì)所有樣本數(shù)據(jù)正向運(yùn)行一次并反轉(zhuǎn)修改連接權(quán)一次成為一次訓(xùn)練。 特別應(yīng)該注意的一點(diǎn)是，并非訓(xùn)練的次數(shù)越多，越能得到正確的輸入輸出的映射關(guān)系。 由于所收集的數(shù)據(jù)都是包含噪聲的，訓(xùn)練的次數(shù)過多，網(wǎng)絡(luò)將包含噪聲的數(shù)據(jù)都記 錄下來。 網(wǎng)絡(luò)的功能主要由它的泛化能力來衡量，他并不是用對(duì)訓(xùn)練數(shù)據(jù)的擬合程度來衡量，而是要用一組獨(dú)立的數(shù)據(jù)來加以測試和檢驗(yàn)。 如圖 ： 圖 誤差隨訓(xùn)練次數(shù)變化的曲線 從誤差曲線可以看出，在用測量數(shù)據(jù)進(jìn)行檢驗(yàn)時(shí)，均方誤差開始逐漸減少，當(dāng)訓(xùn)練次數(shù)再增加時(shí)，測試檢驗(yàn)誤差反而增加。 對(duì)于網(wǎng)絡(luò)隱層節(jié)點(diǎn)的個(gè)數(shù)的選擇如果采用試驗(yàn)方法，也必須將訓(xùn)練和測試相結(jié)合，最終也用測試誤差來衡量網(wǎng)絡(luò)的性能。 網(wǎng)絡(luò)的節(jié)點(diǎn)數(shù)對(duì)于網(wǎng)路的泛化能力有很大的影響。選擇節(jié)點(diǎn)數(shù)的原則是：選擇盡量少的節(jié)點(diǎn)以實(shí)現(xiàn)盡量好的泛化能力。從模糊控制的角度來看，二級(jí)倒立擺與一級(jí)倒立擺的區(qū)別在于：一級(jí)倒立擺的模糊規(guī)則可以根據(jù)實(shí)際的經(jīng)驗(yàn)來確定。而二級(jí)倒立擺的困難在于：它的模糊控制規(guī)則很難確定，比如說，給定二級(jí)倒立擺的某一位置，很難確定用 多大的力來使它穩(wěn)定，甚至連力的方向都不能確定。但是，如果模糊規(guī)則不完整，系統(tǒng)就有可能失控。 除此之外，從二級(jí)倒立擺的狀態(tài)空間表達(dá)式中可以看到，它有六個(gè)狀態(tài)變量，如果設(shè)計(jì)一個(gè)六維模糊控制器 (六輸入一輸出 )，那么模糊規(guī)則會(huì)非常的復(fù)雜 (甚至產(chǎn)生“規(guī)則爆炸” )，很不利于完整模糊規(guī)則的制定。 綜上所述，