【文章內(nèi)容簡介】 法層次描述。算法層次主要研究如何求解一特殊的信息處理問題，非線性規(guī)劃理論主要關(guān)心用于探索目標函數(shù)全局極小的有關(guān)算法的分析與設(shè)計。動力系統(tǒng)理論僅關(guān)心系統(tǒng)的動力學(xué)行為，非線性規(guī)劃則僅關(guān)心如何活動目標函數(shù)的全局極小。統(tǒng)計推理：計算水平描述。主要關(guān)心信息處理的基本目的，解釋所得結(jié)果是否合理、正確。神經(jīng)網(wǎng)絡(luò)是一個由大量神經(jīng)元組成的動力學(xué)系統(tǒng)，根據(jù)概率統(tǒng)計的觀點，從宏觀上看，各神經(jīng)元的狀態(tài)可看作是一個隨機變量，是服從統(tǒng)計規(guī)律的。從統(tǒng)計觀點分析也可尋找神經(jīng)網(wǎng)絡(luò)系統(tǒng)中某種神經(jīng)元狀態(tài)的概率分布，這一分布的形式與網(wǎng)絡(luò)的結(jié)構(gòu)有關(guān)，其參數(shù)就是權(quán)系數(shù)。神經(jīng)網(wǎng)絡(luò)的能力應(yīng)包含兩個方面的內(nèi)容，一是神經(jīng)網(wǎng)絡(luò)的信息存儲能力；二是神經(jīng)網(wǎng)絡(luò)的計算能力，對應(yīng)如下問題：在一個有N個神經(jīng)元的神經(jīng)網(wǎng)絡(luò)中，它可以儲存多少位的信息？神經(jīng)網(wǎng)絡(luò)具有什么樣的計算能力，也就是說它能夠有效地計算哪些問題？在神經(jīng)網(wǎng)絡(luò)模型中，存儲能力與計算能力構(gòu)成了神經(jīng)網(wǎng)絡(luò)理論的兩個最基本的問題。傳統(tǒng)計算機在計算之前要從存儲器中取出指令和待處理的數(shù)據(jù)，然后進行計算，最后將結(jié)果又放入到存儲器中。這樣，存儲器與運算器之間的通道就成為提高計算能力的瓶頸。神經(jīng)網(wǎng)絡(luò)模型則從本質(zhì)上解決了傳統(tǒng)計算機的這個瓶頸問題，這是因為神經(jīng)網(wǎng)絡(luò)的運行是從輸入到輸出的值傳遞過程，在值傳遞的同時完成了信息的存儲和計算，從而將信息的存取和計算完善地結(jié)合在一起。對于神經(jīng)網(wǎng)絡(luò)來說，計算可理解為給定一組輸入而得到一組輸出。由輸入得到輸出的過程也就是計算。神經(jīng)網(wǎng)絡(luò)的計算能力有三個顯著的特點：一是它的非線性特性；二是大量的并行分布結(jié)構(gòu)：三是它的學(xué)習(xí)和歸納能力。迄今為止，神經(jīng)網(wǎng)絡(luò)至少可以完成以下信息處理任務(wù)：教學(xué)逼近映射：開發(fā)合適的函數(shù)，以自組織的方式響應(yīng)以下的樣本集合：。概率密度函數(shù)的估計：通過自組織的方式開發(fā)出一組等概率“錨點”來響應(yīng)在空間中按照一定確定概率密度函數(shù)p選取的一組向量樣本…。從二進制數(shù)據(jù)基中提取相關(guān)知識：將從二進制數(shù)據(jù)基中提取的相關(guān)知識形成一種知識的聚集模型，這些知識依照數(shù)據(jù)基的自組織在它們之間有某種統(tǒng)計上的共性，并依據(jù)這些共性來響應(yīng)輸入的數(shù)據(jù)基。形成拓撲連續(xù)及統(tǒng)計意義上的同構(gòu)映射：這是對同定概率密度函數(shù)選擇的輸入數(shù)據(jù)進行自適應(yīng)的一種自組織映射，最終使得數(shù)據(jù)空間上的不同項有某種同構(gòu)。最近相鄰模式分類：這種能力可應(yīng)用于暫態(tài)或暫穩(wěn)態(tài)模式分類，并且可用層次性的存貯模式來表達存儲。數(shù)據(jù)聚集：這是采用自組織的方式所選擇的“顆粒”或模式的聚類，以此來響應(yīng)輸入數(shù)據(jù)。最優(yōu)化問題的計算：這是用來求解局部甚至是全局最優(yōu)解的。神經(jīng)網(wǎng)絡(luò)的腦式智能信息處理特征與能力，特別是其所具有的計算能力使其應(yīng)用領(lǐng)域日益擴大，潛力R趨明顯，其主要應(yīng)用有以下幾個方面：傳感器信息處理涉及到兩個主要的問題：模式處理變換和模式識別。神經(jīng)網(wǎng)絡(luò)還被廣泛地應(yīng)用于信號處理，如目標檢測、雜波去噪或畸變波的恢復(fù)、多目標跟蹤等。神經(jīng)網(wǎng)絡(luò)也可用于多探測器信號的融合．神經(jīng)網(wǎng)絡(luò)可對待傳送（或待存儲）的數(shù)據(jù)提取模式特征，只將該特征傳（或存儲）．接收后再將其恢復(fù)成原始模式。神經(jīng)網(wǎng)絡(luò)所具有的非線性特性和學(xué)習(xí)能力，使其在系統(tǒng)辨識方面有很大潛力。另外，神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)和自適應(yīng)等智能特點，非常適合作控制器。神經(jīng)網(wǎng)絡(luò)還被用于機器人控制中。在魚雷的控制上，有的也采用了神經(jīng)網(wǎng)絡(luò)方法。在金融財政、銀行、保險行業(yè)的應(yīng)用主要是進行顧客群體特征分析、市場研究、社會資金需求分析、顧客心理分析、消費傾向分析以及新產(chǎn)品分析及優(yōu)化等。控制理論與相對論、量子理論一起被認為是20世紀上半葉科學(xué)發(fā)展的三大飛躍，它是應(yīng)社會發(fā)展的需要，在解決重大下程技術(shù)問題以及軍事問題的實踐中產(chǎn)生和發(fā)展起來的一門新科學(xué)。經(jīng)過幾十年的發(fā)展，控制理論的應(yīng)用和影響已遍及眾多工業(yè)技術(shù)領(lǐng)域，深入到社會生活的各個方面，使人類大大突破了自身能力的限制。尤其是在當(dāng)今社會，小的方面如現(xiàn)代化家用電器的芯片控制，交通紅綠燈、路燈的控制，大的方面如宇宙飛船的控制等都離不開控制技術(shù)?？刂评碚摰陌l(fā)展一直受到以下三方面需求的推動：處理不斷復(fù)雜的對象；完成不斷復(fù)雜的設(shè)計；在對象和環(huán)境的知識所知甚少的情況下達到以上兩條要求阻1。其發(fā)展過程大體上經(jīng)歷了經(jīng)典控制理論、現(xiàn)代控制理論以及20世紀70年代后期提出和發(fā)展起來的非線性智能控制理論三個發(fā)展階段。隨著工程研究的深入，控制理論所面臨的問題日益復(fù)雜多變，主要表現(xiàn)于控制對象、控制目標的日益復(fù)雜化，系統(tǒng)的數(shù)學(xué)模型難以建立，這時智能控制則體現(xiàn)了較人的優(yōu)勢。目前，智能控制已形成多種方法，較典型的有：專家控制、模糊控制和神經(jīng)網(wǎng)絡(luò)控制等，并以它們?yōu)榇恚?jīng)過短短一二十年的發(fā)展，給整個控制理論帶來了無限生機和活力?？刂葡到y(tǒng)就是使機器按期望目標運轉(zhuǎn)的系統(tǒng)，一般需要通過反饋來進行行為調(diào)整和性能修正，因而也可以說，反饋思想是控制理論的基石?；谏窠?jīng)網(wǎng)絡(luò)的控制稱為神經(jīng)網(wǎng)絡(luò)控制(Neural Network Control．NNC)，簡稱神經(jīng)控制。神經(jīng)網(wǎng)絡(luò)控制是20世紀80年代來期發(fā)展起來的自動控制領(lǐng)域的前沿學(xué)科之一，是人工種經(jīng)網(wǎng)絡(luò)理論與控制理論相結(jié)臺的產(chǎn)物，是發(fā)展中的學(xué)科。神經(jīng)網(wǎng)絡(luò)控制匯集了包括數(shù)學(xué)、神經(jīng)生理學(xué)、腦科學(xué)、生物學(xué)、遺傳學(xué)、人工智能、計算機科學(xué)、自動控制等學(xué)科的理論、技術(shù)、方法及研究成果。神經(jīng)網(wǎng)絡(luò)控制，是將神經(jīng)網(wǎng)絡(luò)在相應(yīng)的控制結(jié)構(gòu)中當(dāng)作控制器與（或）辨識器，主要是為了解決復(fù)雜的非線性、不確定系統(tǒng)在不確定、不確知環(huán)境中的控制問題，使控制系統(tǒng)穩(wěn)定性、魯棒性好，達到要求的動態(tài)與靜態(tài)性能。神經(jīng)網(wǎng)絡(luò)控制是非線性控制的一個分支。它與傳統(tǒng)非線性控制的區(qū)別在于神經(jīng)網(wǎng)絡(luò)控制是基于系統(tǒng)的輸入—輸出映射，而非系統(tǒng)的數(shù)學(xué)模型：控制器設(shè)計是通過學(xué)習(xí)來完成的，而不是針對模型進行的，可以說神經(jīng)網(wǎng)絡(luò)控制器是一種結(jié)構(gòu)特殊的非線性控制器。由于人工神經(jīng)網(wǎng)絡(luò)是采朋仿生學(xué)的觀點與方法來研究人腦和智能系統(tǒng)中的高級信息處理，從微觀結(jié)構(gòu)與功能上對人腦神經(jīng)系統(tǒng)的模擬而建立起來的一類模型，具有模擬人的部分智能的特性，主要是具有非線性特性、自學(xué)習(xí)能力和自適應(yīng)性，所以神經(jīng)網(wǎng)絡(luò)控制能對變化的環(huán)境具有自適應(yīng)性，成為基本上不依賴于模型的一類控制，比較適合于那些具有不確定性和高度非線性的被控對象，岡而神經(jīng)網(wǎng)絡(luò)控制又是智能控制的一個重要分支領(lǐng)域。對控制科學(xué)而言，神經(jīng)網(wǎng)絡(luò)的巨人吸引力在于：非線性映射能力，神經(jīng)網(wǎng)絡(luò)本質(zhì)上是非線性系統(tǒng)，可以處理那些難以用模型或規(guī)則描述的復(fù)雜系統(tǒng)。自學(xué)習(xí)適應(yīng)能力，經(jīng)過適當(dāng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)具有高度的自適應(yīng)性，具有能夠?qū)W習(xí)和適應(yīng)嚴重不確定性關(guān)系的動態(tài)特性，可用來處理復(fù)雜系統(tǒng)的不確定問題。優(yōu)良的容錯性能，系統(tǒng)信息等分布存貯在網(wǎng)絡(luò)的各神經(jīng)元及其連接權(quán)中，故有很強的魯棒性和容錯能力。便于用犬規(guī)模集成電路來實現(xiàn)。可實現(xiàn)在線或離線學(xué)習(xí)，使之滿足某種控制要求，靈活性很大。這些特點說明神經(jīng)網(wǎng)絡(luò)適應(yīng)了控制理論和控制工程領(lǐng)域發(fā)展的基本要求，在解決高度非線性和嚴重不確定性系統(tǒng)的控制方面有巨大潛力。這些特點也使得神經(jīng)網(wǎng)絡(luò)非常適合于復(fù)雜系統(tǒng)的建模與控制，特塒是當(dāng)系統(tǒng)存在不確定性因素時，更體現(xiàn)了神經(jīng)網(wǎng)絡(luò)方法的優(yōu)越性，它使模型與控制的概念更加一般化。Hunt總結(jié)了神經(jīng)網(wǎng)絡(luò)與控制科學(xué)之間的一般關(guān)系。 控制與神經(jīng)網(wǎng)絡(luò)之間的關(guān)系由于神經(jīng)網(wǎng)絡(luò)具有以上特點，使得采用神經(jīng)同絡(luò)的控制系統(tǒng)具有更強的適應(yīng)性和魯棒性，所以在控制系統(tǒng)的建模、辨識和控制等方面都獲得了廣泛的應(yīng)用，并且已取得了許多顯著的成果，通常神經(jīng)網(wǎng)絡(luò)在控制系統(tǒng)中的主要作用可分為如下幾種：在基于精確模型的各種控制結(jié)構(gòu)中充當(dāng)系統(tǒng)的模型，如內(nèi)膜控制、模型參考自適應(yīng)控制、預(yù)測控制等。在反饋控制系統(tǒng)中直接用作控制囂。在傳統(tǒng)控制系統(tǒng)中起優(yōu)化計算的作用。在與其他智能控制方法和優(yōu)化算法的融合中。為其提供非參數(shù)化對象模型、優(yōu)化參數(shù)、推理模型及故障診斷辭。根據(jù)人工神經(jīng)網(wǎng)絡(luò)對生物神經(jīng)系統(tǒng)的不同組織層次和抽象層次的模擬，神經(jīng)網(wǎng)絡(luò)模型的類型可分為：神經(jīng)元層次模型：研究工作主要集中在單個神經(jīng)元的動態(tài)特性和自適應(yīng)特性上，探索神經(jīng)元對輸入信息有選擇的響應(yīng)和某些基本存儲功能的機理。組合式模型：它由數(shù)種相互互補、相互協(xié)作的神經(jīng)元組成，用于完成某些特定的任務(wù)，如模式識別、機器人控制等。網(wǎng)絡(luò)層次模型：它是由許許多多相同神經(jīng)元相互連接形成的網(wǎng)絡(luò)，從整體上研究網(wǎng)絡(luò)的集體特性。神經(jīng)系統(tǒng)層次模型：一般由多個不同性質(zhì)的神經(jīng)網(wǎng)絡(luò)構(gòu)成，以模擬生物神經(jīng)的更復(fù)雜或更豐富的性質(zhì)，如自動識別、全局穩(wěn)定控制等。智能型模型：這是最抽象的層次，多以語言形式模擬人腦信息處理的運行、過程、算法和策略。到目前為止，已經(jīng)開發(fā)出了許多種類的神經(jīng)網(wǎng)絡(luò)模型，其中有代表性的有：自適應(yīng)共振理論：是一種自組織網(wǎng)絡(luò)模型，屬于無教師學(xué)習(xí)網(wǎng)絡(luò)，能夠較好地協(xié)調(diào)適應(yīng)性、穩(wěn)定性和復(fù)雜性的要求。BP網(wǎng)絡(luò)：是多層映射網(wǎng)絡(luò)，采用最小均方差的學(xué)習(xí)方式，是使用雖廣泛的網(wǎng)絡(luò)，可用于語言識別、自適應(yīng)控制等，缺點是僅為有導(dǎo)師訓(xùn)練，易陷入局部極小。RBF網(wǎng)絡(luò)：是一類非常有教的多層前饋網(wǎng)絡(luò)，其神經(jīng)元基函數(shù)具有僅在微小局部范圍內(nèi)才產(chǎn)生有效的非零響應(yīng)的局部特性，因而可以在學(xué)習(xí)過程中獲得高速化，缺點是由于高斯函數(shù)的特性，浚網(wǎng)絡(luò)難以學(xué)習(xí)映射的高頻部分．Hopfield神經(jīng)網(wǎng)絡(luò)：是最典型的反饋型網(wǎng)絡(luò)模型，是目前人們研究得最多的模型。Hopfield神經(jīng)網(wǎng)絡(luò)由相同的神經(jīng)元構(gòu)成的單層網(wǎng)絡(luò)，這個網(wǎng)絡(luò)可以完成制約優(yōu)化和聯(lián)想記憶等功能。缺點是連接需要對稱。感知器：這是一組可訓(xùn)練的線性分類單層網(wǎng)絡(luò)，目前已很少使用。自組織映射(SOM)：描述某種最優(yōu)映射，可以在一維或二維的處理單元陣列上形成輸入信號的分布拓撲圖，缺點是需要高度訓(xùn)練。CMAC小腦神經(jīng)網(wǎng)絡(luò)：是根據(jù)小腦的生物模型提出的一種神經(jīng)元網(wǎng)絡(luò)模型，它是一種聯(lián)想網(wǎng)絡(luò)，對每一輸出只與少部分神經(jīng)元相關(guān)，其最大特點就是它的玨想具有局部泛化能力，并有學(xué)習(xí)速度快，無局部極小點等性質(zhì)。量子神經(jīng)網(wǎng)絡(luò)：是在量子計算機或量子器件的基礎(chǔ)上構(gòu)造神經(jīng)網(wǎng)絡(luò)，充分利用量子計算超高速、超并行、指數(shù)級容量的特點來改進神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和性能。神經(jīng)網(wǎng)絡(luò)的數(shù)理模型雖然有很多種，但其基本運算可歸結(jié)為四種：積與和、權(quán)值學(xué)習(xí)、悶值處理和非線性函數(shù)處理．不同的模型在某些方面可以有報人的差別，但總的來說，都包含以下八個特征：處理單元集合，單元集臺的活躍狀態(tài)、單元間的連接方式、激活模式在網(wǎng)絡(luò)中的傳遞、把單元輸入與當(dāng)前狀態(tài)結(jié)合起來產(chǎn)生新激活值、各單元所用的輸出函數(shù)、學(xué)習(xí)規(guī)則、運動環(huán)境。對神經(jīng)網(wǎng)絡(luò)控制的結(jié)構(gòu)和種類的劃分，根據(jù)不同的觀點可以有不同的劃分形式，目前尚無統(tǒng)一的分類標準。例如：1991年．Werbos將神經(jīng)網(wǎng)絡(luò)控制劃分為學(xué)習(xí)控制、直接逆動態(tài)控制．神經(jīng)自適應(yīng)控制、BTT控制和自適應(yīng)決策控制五類。1992年．Hunt等人發(fā)表綜述文章，將神經(jīng)網(wǎng)絡(luò)控制結(jié)構(gòu)分為監(jiān)督控制、直接逆控制、模型參考控制、內(nèi)膜控制、預(yù)測控制、系統(tǒng)辨識、最優(yōu)決策控制、自適應(yīng)線性控制、增強學(xué)習(xí)控制、增益排隊論及濾波和預(yù)報等。1998年，李士勇將神經(jīng)弼絡(luò)從它與傳統(tǒng)控制和智能控制兩大類的結(jié)合上考慮分為兩丈類：基于傳統(tǒng)控制理論的神經(jīng)控制和基于神經(jīng)網(wǎng)絡(luò)的智能控制。前兩種分類并無本質(zhì)差制，只是后者劃分更細一些，幾乎涉及傳統(tǒng)控制、系統(tǒng)辨識、濾波和預(yù)報等所有方面，這也間接反映了神經(jīng)網(wǎng)絡(luò)理論隨著應(yīng)用研究的深入，將向控制領(lǐng)域、信息領(lǐng)域等進一步滲透。雖然國內(nèi)外學(xué)者從不同的方面劃分了不同的種類，但從大類上看，較具代表性的有以下幾種：監(jiān)督控制(Supervised Control)、直接逆控制（Direct inverse Control）、自適應(yīng)控制（Adaptive Control）、內(nèi)膜控制（internal Model Control）和預(yù)測控制（Predictive Control）等。神經(jīng)網(wǎng)絡(luò)監(jiān)督控制( Supervised Control)監(jiān)督控制是利用神經(jīng)闊絡(luò)的非線性映射能力，使其學(xué)習(xí)人與被控對象打交道時獲取的知識和經(jīng)驗，從而強縛取代人的控制行為．它需要一個導(dǎo)師，以提供神經(jīng)網(wǎng)絡(luò)訓(xùn)練用的從之分，在學(xué)習(xí)期，網(wǎng)絡(luò)接受訓(xùn)練以逼近系統(tǒng)的逆動力學(xué)：而在控制期，神經(jīng)網(wǎng)絡(luò)根據(jù)期望輸出和參考輸入回憶起正確的控制輸入。圖3 3神經(jīng)網(wǎng)絡(luò)監(jiān)督控制（前饋控制）在圖3 2中，神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)的是人工控制器的正向模型，并輸出與人工控制器相似的控制作用，但由于神經(jīng)網(wǎng)絡(luò)控制器缺乏反饋，使得構(gòu)成的控制系統(tǒng)的穩(wěn)定性和魯棒性得不到保證。而在圖3 3中，神經(jīng)網(wǎng)絡(luò)實質(zhì)上是一個前饋控制器，它與常規(guī)反饋控制器同時起作用，并根據(jù)反饋控制器的輸i出進行學(xué)習(xí)，目的是使反饋控制器的輸出趨于零，從而逐步在控制中占主導(dǎo)地位，最終取消反饋控制墨的作用而當(dāng)系統(tǒng)出現(xiàn)干擾時，反饋控制器又重新起作用。神經(jīng)網(wǎng)絡(luò)直接逆控制( Direct inverse Control)神經(jīng)網(wǎng)絡(luò)直接逆動態(tài)控制是將系統(tǒng)的逆動態(tài)模型直接串聯(lián)在被控對象之前，使得復(fù)合系統(tǒng)在期望輸出和被控系統(tǒng)實際輸出之間構(gòu)成一個恒等映射關(guān)系．這時網(wǎng)絡(luò)直接作為控制器工作，這種控制方案在機器人控制中得到了廣泛的應(yīng)用．直接控制方法中神經(jīng)網(wǎng)絡(luò)控制器也相當(dāng)于逆辨識器，．對于周期不變的非線性系統(tǒng)，可以采用靜態(tài)逆辨識的方式。假設(shè)系統(tǒng)的逆存在且可辨識?？上扔么罅康臄?shù)據(jù)離線訓(xùn)練逆模型，訓(xùn)練好以后再嵌入控制。如文獻用靜態(tài)神經(jīng)網(wǎng)絡(luò)進行復(fù)雜曲面加工精度的控制。離線訓(xùn)練逆模型問題要求網(wǎng)絡(luò)有較好的泛化能力，印期望的被控對象的輸入輸出映射空間必須在硼練好的神經(jīng)網(wǎng)絡(luò)輸入輸出映射關(guān)系的覆蓋。文獻研究了上述兩種方式的實時控制情況，驗證了這種方案實時控制的可行性。但是，這種控制結(jié)構(gòu)要求系統(tǒng)是可逆的，而被控對象的可逆性研究仍是當(dāng)今一個難題，這在很大程度上限制了此方法的應(yīng)用。神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制(Adaptive Control)在這里利用神經(jīng)網(wǎng)絡(luò)的計算能力對控制器參數(shù)進行約束，優(yōu)化求解，控制器可以是基于Lyapunov的自適應(yīng)控制或自校正控制以及模糊控制器神經(jīng)網(wǎng)絡(luò)對控制器中用劍的系統(tǒng)參數(shù)進行實時辨識和優(yōu)化，以便為控制器提供正確的估計值。4．神