【文章內(nèi)容簡介】 、專家系統(tǒng)、智能接口、 神經(jīng)心理學(xué)、心理學(xué)和認(rèn)知科學(xué)研究等等。 PID 控制要取得較好的控制效果，就必須通過調(diào)整好比例、積分、微分三種控制作用，形成控制量中既有相互配合又相互制約的關(guān)系。這種關(guān)系不一定是簡單的線性組合，從變化無窮的非線性組合中可以找出最佳關(guān)系。神經(jīng)網(wǎng)絡(luò)所具有的任意非線性表達(dá)能力，可以通過對系統(tǒng)性能的學(xué)習(xí)來實(shí)現(xiàn)具有最佳組合的 PID 控制。因此基于神經(jīng)網(wǎng)絡(luò)的 PID 不僅能適應(yīng)環(huán)境變化，且有較強(qiáng)的魯棒性 ]4[ 。 6 2 神經(jīng)網(wǎng)絡(luò) 神經(jīng)網(wǎng)絡(luò)的基本概念和 特點(diǎn) 人工神經(jīng)網(wǎng)絡(luò) (ANN， Artificial Neural Network)，又稱并行分布處理模型或連接機(jī)制模型，是基于模仿人類大腦的結(jié)構(gòu)和功能而構(gòu)成的一種信息處理系統(tǒng)或計算機(jī)系統(tǒng)。神經(jīng)網(wǎng)絡(luò)系統(tǒng)是指利用工程技術(shù)手段，模擬人腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和功能的一種技術(shù)系統(tǒng)，它是一種大規(guī)模并行的非線性動力學(xué)系統(tǒng)。由于它是由人工方式構(gòu)造的網(wǎng)絡(luò)系統(tǒng)，因此也稱為人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)?；谌斯ど窠?jīng)網(wǎng)絡(luò)的控制簡稱為神經(jīng)網(wǎng)絡(luò)控制 ]7[ 。 人工神經(jīng)網(wǎng)絡(luò)的以下幾個突出的優(yōu)點(diǎn)使它近年來引起人們的極大關(guān) 注： （ 1）能逼近任意 L2 上的非線性函數(shù)； （ 2）信息的并行分布式處理與存儲； （ 3）可以多輸入、多輸出； （ 4）便于用超大規(guī)模集成電路或光學(xué)集成電路系統(tǒng)實(shí)現(xiàn)，或用現(xiàn)有的計算機(jī)技術(shù)實(shí)現(xiàn)； （ 5）能進(jìn)行學(xué)習(xí)，以適應(yīng)環(huán)境的變化； 人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn)和優(yōu)越性，主要表現(xiàn)在三個方面： 第一 ， 具有自學(xué)習(xí)功能。例如實(shí)現(xiàn)圖像識別時，只在先把許多不同的圖像樣板和對應(yīng)的應(yīng)識別的結(jié)果輸入人工神經(jīng)網(wǎng)絡(luò)，網(wǎng)絡(luò)就 會通過自學(xué)習(xí)功能，慢慢學(xué)會識別類似的圖像。自學(xué)習(xí)功能對于預(yù)測有特別重要的意義。預(yù)期未來的人工神經(jīng)網(wǎng)絡(luò)計算機(jī)將為人類提 供 經(jīng)濟(jì)預(yù)測、市場預(yù)測、效益預(yù)測，其應(yīng)用前途是很遠(yuǎn)大的。 第二，具有聯(lián)想存儲功能。用人工神經(jīng)網(wǎng)絡(luò)的反饋網(wǎng)絡(luò)就可以實(shí)現(xiàn)這種聯(lián)想。 第三，具有高速尋找優(yōu)化解的能力。尋找一個復(fù)雜問題的優(yōu)化解，往往需要很大的計算量，利用一個針對某問題而設(shè)計的反饋型 人工神經(jīng)網(wǎng)絡(luò)，發(fā)揮計算機(jī)的高速運(yùn)算能力 ，可能很快找到優(yōu)化解。 人工神經(jīng)網(wǎng)絡(luò)構(gòu)成的基本原理 神經(jīng)網(wǎng)絡(luò)是由一個或多個神經(jīng)元組成的信息處理系統(tǒng)。對于具有 m 個輸入節(jié)點(diǎn)和 z 個輸出節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)，輸入輸出關(guān)系可以看作是 m維歐氏空間到 n維歐氏空間的映射模型 ，用數(shù)學(xué)形式表示為 f： Y=f(x)，其中 x， Y 分別為輸入、輸出向量。網(wǎng)絡(luò)實(shí)際輸出與期望輸出之間的誤差是衡量所構(gòu)造的網(wǎng)絡(luò)模型的性能指標(biāo)。神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本處理單元，一般表現(xiàn)為一個多輸入、單輸出的非線性運(yùn)算器件，網(wǎng)絡(luò)結(jié)構(gòu)可以由單個神經(jīng)元的基本結(jié)構(gòu)展現(xiàn)出來，主要包括三個基本要素： ① 一組連接 (對應(yīng)于生物神經(jīng)元的突觸 )，連接強(qiáng)度由各連接上的權(quán)值表示，權(quán)值為正表示激活，為負(fù)表示抑制； ② 一個求和單元，用于求取各輸入信號的加權(quán)和 (線性組合 )； ③ 一個激活函數(shù)，起到非線性映射作用并將神經(jīng)元的輸出值幅度限制在一定范圍內(nèi)。此外 還有一個附加的輸入，稱作閾值或偏置。自動控制理論 7 經(jīng)歷了經(jīng)典控制理論、現(xiàn)代控制理論，進(jìn)入了智能控制理論的新階段。 PID 控制是迄今為止最通用的控制方法，各種 DCS、智能調(diào)節(jié)器等均采用該方法或其較小的變形來控制 (至今在全世界過程控制中 84％仍是純 PID 調(diào)節(jié)器，若改進(jìn)型包含在內(nèi)則超過 90％ )，盡管自1940 年以來，許多先進(jìn)控制方法不斷推出，但 PID 控制以其結(jié)構(gòu)簡單，對模型誤差具有魯棒性及易于操作等優(yōu)點(diǎn)，故仍廣泛應(yīng)用于各種工業(yè)過程控制中。在本章，首先對 PID 控制方法進(jìn)行簡要的概述，然后回顧了傳統(tǒng)的常規(guī) PID 控制系統(tǒng)一 模擬 PID 控制系統(tǒng)和數(shù)字PID 控制系統(tǒng)。在分析傳統(tǒng)的常規(guī) PID 控制存在的優(yōu)缺點(diǎn)的基礎(chǔ)上，給出了一些改進(jìn)型 PID控制器。 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 人工神經(jīng)網(wǎng)絡(luò)是以工程技術(shù)手段來模擬人腦神經(jīng)元網(wǎng)絡(luò)的結(jié)構(gòu)與特性的系統(tǒng)。我們利用人工神經(jīng)元可以構(gòu)成各種不同拓?fù)浣Y(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)，它是生物神經(jīng)網(wǎng)絡(luò)的一種模擬和近似。就神經(jīng)網(wǎng)絡(luò)的主要連接形式而育，目前己有數(shù)十種不同的神經(jīng)網(wǎng)絡(luò)模型，其中前饋網(wǎng)絡(luò)和反饋型網(wǎng)絡(luò)是兩種典型的結(jié)構(gòu)模型。 前饋網(wǎng)絡(luò) 前饋型神經(jīng)網(wǎng)絡(luò) (Feed forward neural work)， 又稱前饋網(wǎng)絡(luò)。如圖所示，神經(jīng)元分層排列，有輸入層、隱層 (亦稱中間層，可有若干層 )和輸入層，每一層的神經(jīng)元只接受前一層神經(jīng)元的輸入。從學(xué)習(xí)的觀點(diǎn)看前饋網(wǎng)絡(luò)是一種強(qiáng)有力的學(xué)習(xí)系統(tǒng)，其結(jié)構(gòu)簡單而且易于編程 :從系統(tǒng)的觀點(diǎn)，前饋網(wǎng)絡(luò)是一靜態(tài)非線性映射，通過簡單非線性處理單元的復(fù)合映射，可獲得復(fù)雜的非線性處理能力。但從計算的觀點(diǎn)看，缺乏豐富的動力學(xué)行為。大部分前饋網(wǎng)絡(luò)都是學(xué)習(xí)網(wǎng)絡(luò)，它們的分類能力和模式識別能力一般都強(qiáng)于反饋網(wǎng)絡(luò)，典型的前饋網(wǎng)絡(luò)有感知器、 BP 網(wǎng)絡(luò)等。 圖 21 前饋型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 反饋 網(wǎng)絡(luò) 反饋型神經(jīng)網(wǎng)絡(luò) (feedback neural work)，又稱反饋網(wǎng)絡(luò)，它的結(jié)構(gòu)如下圖所示。若總節(jié)點(diǎn) (神經(jīng)元 )數(shù)為 N，則每個節(jié)點(diǎn)有 N 個輸入和一個輸出，也就是說，所有節(jié)點(diǎn)都是一樣的，它們之間都可以相互連接。反饋型神經(jīng)網(wǎng)絡(luò)是一種非線性動學(xué)系統(tǒng)，它需要工作一段時間才能達(dá)到穩(wěn)定。 Hopfield 神經(jīng)網(wǎng)絡(luò)是反饋網(wǎng)絡(luò)中最簡單且應(yīng)用廣泛的模型，它具有 8 聯(lián)想記憶 (content addressable memory ,CAM)的功能， Hopfield 神經(jīng)網(wǎng)絡(luò)還可以用來解決快速尋優(yōu)問題。在反饋網(wǎng)絡(luò)中，輸入信號決定 反饋系統(tǒng)的初始狀態(tài)，然后系統(tǒng)經(jīng)過一系列的狀態(tài)轉(zhuǎn)移后，逐漸收斂于平衡狀態(tài)。這樣的平衡狀態(tài)就是反饋網(wǎng)絡(luò)經(jīng)計算后輸出的結(jié)果，由此可見，穩(wěn)定性是反饋網(wǎng)絡(luò)中最重要的問題之一。如果能找到網(wǎng)絡(luò)的 Lyapunov 函數(shù)，則能保證網(wǎng)絡(luò)從任意的初始狀態(tài)都能收斂到局部最小點(diǎn)。反饋神經(jīng)網(wǎng)絡(luò)中所有節(jié)點(diǎn)都是計算單元，同時也可接收輸入，并向外界輸出。 圖 22 反饋型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu) 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式 通過向環(huán)境學(xué)習(xí)獲取知識并改進(jìn)自身性能是神經(jīng)網(wǎng)絡(luò)的一個重要特點(diǎn)，在一般情況下，性能的改進(jìn)是按某種預(yù)定的度量通過調(diào)節(jié)自身參數(shù) (如 權(quán)值 )隨時間逐步達(dá)到的，根據(jù)環(huán)境提供信息的多少，神經(jīng)網(wǎng)絡(luò)共有三種學(xué)習(xí)方式： ① 監(jiān)督學(xué)習(xí) (有教師學(xué)習(xí) )； ② 非監(jiān)督學(xué)習(xí) (無教師學(xué)習(xí) )； ③ 再勵學(xué)習(xí) (強(qiáng)化學(xué)習(xí) )。 監(jiān)督學(xué)習(xí) (有教師學(xué)習(xí) ) 為了使神經(jīng)網(wǎng)絡(luò)在實(shí)際應(yīng)用中解決各種問題，必須對它進(jìn)行訓(xùn)練。這種訓(xùn)練的過程需要有教師示教，提供數(shù)據(jù)，又稱樣板數(shù)據(jù)。在訓(xùn)練過程中又需要教師的監(jiān)督，故這種有教師的學(xué)習(xí)又稱有監(jiān)督式學(xué)習(xí)。在這種學(xué)習(xí)中學(xué)習(xí)的結(jié)果，即網(wǎng)絡(luò)的輸出有一個評價的標(biāo)準(zhǔn)，網(wǎng)絡(luò)將實(shí)際輸出和評價標(biāo)準(zhǔn)進(jìn)行比較，由其誤差信號來調(diào)節(jié)系統(tǒng)權(quán)值。評價標(biāo)準(zhǔn)是由外界提供給網(wǎng)絡(luò) 的，相當(dāng)于有一位知道正確結(jié)果的教師示教給網(wǎng)絡(luò)，故這種學(xué)習(xí)又稱為教師示教學(xué)習(xí)。在這種學(xué)習(xí)中網(wǎng)絡(luò)的連接權(quán)值常根據(jù)規(guī)則進(jìn)行調(diào)整。 非監(jiān)督學(xué)習(xí) (無教師學(xué)習(xí) ) 無教師學(xué)習(xí)是一種自組織學(xué)習(xí)，即網(wǎng)絡(luò)的學(xué)習(xí)過程完全是一種自我學(xué)習(xí)的過程，不存在外部教師的示教，也不存在外部環(huán)境的反饋指示網(wǎng)絡(luò)應(yīng)該輸出什么或者是否正確，故又稱之為無監(jiān)督學(xué)習(xí)。所謂自組織學(xué)習(xí)就是網(wǎng)絡(luò)根據(jù)某種規(guī)則反復(fù)地調(diào)整連接權(quán)以響應(yīng)輸入模式的激勵，直到網(wǎng)絡(luò)最后形成某種有序狀態(tài)。自組織學(xué)習(xí)是靠神經(jīng)元本身對輸入模式的不斷適應(yīng)，抽取輸入信號的規(guī)律（如統(tǒng)計規(guī)律 )。一旦網(wǎng)絡(luò)顯現(xiàn)出輸入數(shù)據(jù)的統(tǒng)計特征，網(wǎng)絡(luò)就實(shí)現(xiàn)了對輸入特征的編碼，即把輸入特征 “記憶 ”下來，而且在記憶之后，當(dāng)它再出現(xiàn)時，能把它識別出來。自組織學(xué)習(xí)能對網(wǎng)絡(luò)的學(xué)習(xí)過程進(jìn)行度量，并優(yōu)化出其中的自由參數(shù)。可以認(rèn)為，這種學(xué)習(xí)的評價準(zhǔn)則隱含于網(wǎng)絡(luò)內(nèi)部。神經(jīng)網(wǎng)絡(luò)的這種自組織特性來源于其結(jié) 9 構(gòu)的可塑性。 再勵學(xué)習(xí) (強(qiáng)化學(xué)習(xí) ) 再勵學(xué)習(xí)是介于上述兩種情況之間的一種學(xué)習(xí)方法。外部環(huán)境對系統(tǒng)輸出的結(jié)果給出評價信息 (獎或懲 )而不是給出正確答案。學(xué)習(xí)系統(tǒng)通過強(qiáng)化那些受獎的動作來改善自身的性能。 RBF 神經(jīng) 網(wǎng)絡(luò) RBF 神經(jīng)網(wǎng)絡(luò)的發(fā)展簡史 Broomhead 和 Lowe 最早將 RBF 用于神經(jīng)網(wǎng)絡(luò)設(shè)計之中。他們在 1988 年發(fā)表的論文《 Multivariable functional interpolation and adaptive works》中初步探討了 RBF 用于神經(jīng)網(wǎng)絡(luò)設(shè)計與應(yīng)用于傳統(tǒng)插值領(lǐng)域的不同特點(diǎn)，進(jìn)而提出了一種三層結(jié)構(gòu)的 RBF 神經(jīng)網(wǎng)絡(luò)。Moody 和 Darken 在 1989 年發(fā)表文章《 Fast learning in work of locallytunedprocessing units》，提出一種含有局部響應(yīng)特性的神經(jīng)網(wǎng)絡(luò)，這種網(wǎng)絡(luò)實(shí)際上與 Broomhead 和 Lowe提出的 RBF 神經(jīng)網(wǎng)絡(luò)是一致的，他們還提出了 RBF 神經(jīng)網(wǎng)絡(luò)的訓(xùn)練方法。 以后的研究者針對以前研究中存在的問題與不足提出了許多改進(jìn)的方法，比如 Chen提出的 OLS(Orthogonal Least Squares)算法； 等人提出的 HSOL (Hierarchically SelfOrganizing Learning) 算法； Platt 提出的 RAN(Resource Allocating Network)在線學(xué)習(xí)算法； Kadirkamanathan 和 Niranjan 提出的 RANEKF(RAN via Extended Kalman Filter)算法等。RBF 神經(jīng)網(wǎng)絡(luò)主要用于解決模式分類和函數(shù)逼近等問題。在數(shù)學(xué)上， RBF 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的合理性可由 Cover 定理得到保證，即對于一個模式問題，在高維數(shù)據(jù)空間中可能解決在低維空間中不易解決的分類問題。它以徑向基函數(shù)作為隱節(jié)點(diǎn)的激活函數(shù)，具有收斂速度快、逼近精度高、網(wǎng)絡(luò)規(guī)模小等特點(diǎn)。 RBF 的數(shù)學(xué)模型 RBF 神經(jīng)網(wǎng)絡(luò)通常是一種三層前向網(wǎng)絡(luò)， RBF 網(wǎng)絡(luò)結(jié)構(gòu)如下圖所示。第一層是輸出層，由信號源節(jié)點(diǎn)組成；第二層為隱含層，其節(jié)點(diǎn)基函數(shù)是一種局部分布的、對中心徑向?qū)ΨQ衰減的非負(fù)非線性函數(shù)；第三層為輸出層。 圖 23 RBF 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖 10 根據(jù) RBF 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)分析，構(gòu)成 RBF 神經(jīng)網(wǎng)絡(luò)的基本思想是：用 RBF 作為隱層神經(jīng)元的 “基 ”構(gòu)成隱含層空間，這樣就可將輸入矢量直接映射到隱空間。當(dāng) RBF 的中心確定后這種映射關(guān)系也就確定了。而隱含層空間到輸出層空間的映射是線性的，即網(wǎng)絡(luò)的輸出是隱層神經(jīng)元輸出的線性加權(quán)和，此處的權(quán)值為網(wǎng)絡(luò)的可調(diào)參數(shù)。從總體上 來說，網(wǎng)絡(luò)由輸入到輸出的映射是非線性的，而網(wǎng)絡(luò)對可調(diào)參數(shù)而言是線性的。這樣網(wǎng)絡(luò)的權(quán)值就可由線性方程組解出或用 RLS(遞推最小二乘 )方法遞推計算，從而加快學(xué)習(xí)速度并避免局部極小問題 ]12[ 。 被控對象 Jacobian 信息的辨識算法 在 RBF 網(wǎng)絡(luò)結(jié)構(gòu)中， ? ?TnxxxX ,..., 21? 為網(wǎng)絡(luò)的輸入向量。設(shè) RBF 網(wǎng)絡(luò)的徑向基向量? ?Tmj hhhhH ,. .. ,. .. , 21? ，其中 jh 為高斯基函數(shù) mjbCXhijj , . . .2,1,2e x p22??????????? ??? 網(wǎng)絡(luò)的第 j 個結(jié)點(diǎn)的中心矢量為 ? ?Tjnjtjjj ccccC ,. ..,. .., 21? ，其中， i=1,2， … n 設(shè)網(wǎng)絡(luò)的基寬向量為 ? ?TmbbbB ,......, 21? 1b 為節(jié)點(diǎn) j 的基寬度參數(shù)，且為大于零的數(shù)。網(wǎng)絡(luò)的權(quán)向量為 ? ?Tmj wW .. .,. .., 21? 辨識網(wǎng)絡(luò)的輸出為 ? ? mmm hwhwhwky ???? . ..2111 辨識器的性能指標(biāo)函數(shù)為 ? ? ? ?? ?221 kykyoutJmI ?? 根據(jù)梯度下降法，輸出權(quán)、節(jié)點(diǎn)中心及節(jié)點(diǎn)基寬參數(shù)的迭代算法如下 ? ? ? ? ? ? ? ?? ? ? ? ? ?? ?211 ???????? kwkwhkyky o u tkwkw jjjmjj ?? ? ? ? ?? ?32jjjmj bCXhjwkyky o u tb ???? ? ? ? ? ? ? ? ?? ?211 ???????? kbkbbkbkb jjjjj ?? ? ? ? ?? ? 2jjijjmji b cxwkyky ou tc ???? ))2()1(()1()( ???????? kckcckckc jijijijiji ?? 式中， ? 為學(xué)習(xí)速率， ? 為動量因子。 Jacobian 陣（即為對象的輸出對控制輸入的靈敏度信息）算法為 11 ?? ??????? mj jjijjumyuy b xchwkkkk 1 2 1)( )()( )( 式中， )(1 kux ? RBF 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法 通過分析 RBF 神經(jīng)網(wǎng)絡(luò)