【正文】 ? ? 2122 crr /)( ???? ? 2122 cr1r/)( ??? RBF網(wǎng)絡(luò)與 BP網(wǎng)絡(luò)的比較 1) RBF網(wǎng)絡(luò)只有一個隱含層， BP網(wǎng)絡(luò)則可以是一層或者是多層。 2) BP網(wǎng)絡(luò)是對非線性輸入 輸出關(guān)系的全局逼近，而 RBF網(wǎng)絡(luò)使用局部指數(shù)衰減的非線性函數(shù)（如高斯函數(shù)）對非線性輸入 輸出關(guān)系的局部逼近 (局域性 ）。 也就是一段一段的逼近 顯然， RBF網(wǎng)絡(luò)所使用的神經(jīng)元 及 耗費計算量要比 BP網(wǎng)絡(luò)少很多。 小腦模型連接控制器（ CMAC）網(wǎng)絡(luò) 原理：從小腦活動只獲取啟發(fā) 1）小腦從各種傳感器獲得信號、反饋和命令，構(gòu)成地址，地址 的內(nèi)容形成各種動作 —— 一種查表工作方式。 2）輸出的動作只限制在最活躍神經(jīng)中的一個小子集，絕大多數(shù) 神經(jīng)元都受到抑制。 地址內(nèi)容 執(zhí)行器運動軌跡反饋傳感信號命令網(wǎng)絡(luò)逼近功能：前面所介紹的前饋都可以看為輸入輸出之間的映射。調(diào)整網(wǎng)絡(luò)結(jié)構(gòu)和網(wǎng)絡(luò)的權(quán)連接系數(shù)，影射可以達到期望的程度。 這就是網(wǎng)絡(luò)的逼近能力。 全局逼近網(wǎng)絡(luò)： 如果網(wǎng)絡(luò)的權(quán)連接系數(shù)或自適應(yīng)可調(diào)參數(shù)在輸入空間的每一個點對任何一個輸出都有影響。該網(wǎng)絡(luò)為全局逼近。對每個輸入輸出數(shù)據(jù)對，網(wǎng)絡(luò)的每個權(quán)連接系數(shù)均需要進行調(diào)整。這一點帶來的問題網(wǎng)絡(luò) 的 學習速度非常慢 ； 前面所學習的前饋網(wǎng)絡(luò)合反饋網(wǎng)絡(luò)大多屬于全局逼近型網(wǎng)絡(luò)。 局部逼近網(wǎng)絡(luò)： 對輸入空間某局部區(qū)域，只有幾個權(quán)連接系數(shù)影響網(wǎng)絡(luò)的輸出。對于輸入輸出數(shù)據(jù)對只要少量幾個權(quán)連接系數(shù)需要進行調(diào)整。 CMAC小腦模型連接控制器、 B樣條、 RBF、模糊神經(jīng)網(wǎng)絡(luò)都是局部逼近網(wǎng)絡(luò)。 全局網(wǎng)絡(luò)和局部網(wǎng)絡(luò)示意圖 耦合與解耦 2?m?1?12wmw111wmrw2rw1rwx1yryCMAC結(jié)構(gòu)原理 4部分組成 輸入空間 相聯(lián)空間 輸出空間 rmmrrrr wy ???? ????? ?332211mm wy 11331221111 ???? ????? ?CMAC工作原理 以逼近函數(shù)關(guān)系為例 CMAC所要逼近的函數(shù)影射關(guān)系為 y=f(x) 其中 TrTn yyyyxxxx ],[,],[ 2121 ????實現(xiàn)二個映射 輸入狀態(tài)空間 n維 相聯(lián)存貯空間 m維 s : x A p: A P x A y輸出狀態(tài)空間 r維 S: x→A, 即 α=S(x),這里對 α進行關(guān)注 非線性影射?？梢娝鼘崿F(xiàn)的是一個為，大部分元素少數(shù)元素為這個點對應(yīng)的向量只有上，相聯(lián)空間的影射到相聯(lián)空間某個點的某個點值。而且對輸入空間或向量的元素只能取這里，01x01],[21?????Tm??P:A→y ，即 y=P(α)=Wα 2?m?1?12wmw111w1y非線性體現(xiàn)在什么地方哪？截斷 ??1?2?m?1mw12w11w1y變前面的形式為下圖所示 寫為普遍形式 jmwj2wjy2?m?1?j1w對于這個圖所示影射關(guān)系我們應(yīng)很熟悉。它所表達的關(guān)系為： ??????? ??miijiwfy0j ?所以 P:a→y 影射是線性影射。而且是非常簡單的影射。關(guān)鍵在于 ????01j?????????????????????????????????????????????r21m212m1m22212r12111yyyy168。168。ww168。168。ww168。wwww)p(y??????rmrwww其中關(guān)系最終實現(xiàn) f ( x )y ?其中 Xm只是 X的一維，也就是說還有 m1個這樣 的對應(yīng)關(guān)系，才是完整的 y=f(x)。 mxWy ??x168。168。ww168。168。ww168。wwyyym212m1m22212r12111r21????????????????????????????????????????????rmrwww輸入非線性影射的實現(xiàn) 非線性影射 S所實現(xiàn)的從輸入空間到相聯(lián)空間的影射，由于相聯(lián)空間向量 α中只有少量幾個元素為 1值，其余為零，因此，在一次訓練中只有少量的連接權(quán)值需要進行調(diào)整。正是由于這個特點，才使得 CMAC網(wǎng)絡(luò)具有比較快的學習速度。 輸入空間中一個點對應(yīng)相聯(lián)空間一個集合，當輸入空間中的兩個點比較靠近時，它們在相聯(lián)空間中影射的兩個集合產(chǎn)生的交疊越多。 在控制中我們希望輸入空間中兩個相近的輸入能產(chǎn)生交疊的影射。而對于兩個相距很遠的輸入產(chǎn)生各自的獨立的響應(yīng)。 ①幾個概念 多少，且取或取維空間，它的元素只能為 0101m1 ??? ?? ?? ?4AAAXAA0001111000A276541021??????????????上例中中非零元素的個數(shù)表示影射求解目標為則某，例設(shè)的集合表示相聯(lián)空間非零元素A?????????值和向量相應(yīng)分量差的絕對第向量與表示輸入空間第其中海明距離輸入空間兩個點之間的jiH31ijjkiknkjkikijxxxxH ??? ???? ?? ?? ?? ?43jiji1021jijijjijiAA0000111100A0000001111AAAAAAAAAAA4??????????????????????????設(shè)中相同元素的集合和表示中非零元素集合影射到相聯(lián)空間表示輸入向量中非零元素集合影射到相聯(lián)空間表示輸入向量交集的概念與xxi之間關(guān)系與 ??? ? jiij AAA5ixjx?iA?jA較小距離較遠，則與較大即反之，較大距離較近，則與較小即若??????jiijjiijAAHAAHjijixxxx綜上所述，我們考慮以下幾個問題 m大小的確定，即相聯(lián)空間的大小考慮 非零元素個數(shù)的確定 非零元素分布 為了實現(xiàn)上述 S影射，要求相聯(lián)空間的維數(shù)遠遠大于 中的元素個數(shù)。通常選 ?A?? Am 100對于上述關(guān)系，能否保證對于輸入空間的每個點均存在唯一的影射 X→A ？ 假設(shè)輸入向量 X的每個分量均可取 q個不同的值，則輸入總共可能有 個不同的模式，可以證明要保證存在唯一的影射，只需 ?? A99q n非零元素如何分布？ 前面談到輸入空間兩個點距離較近，它們在相聯(lián)空間中影射的兩個點（向量）產(chǎn)生的交疊越多。直觀想一想，非零元素分布一定有某規(guī)律才能做到這一點。比如非零元素連續(xù)分布就是一種選擇 映射： ? 使輸入空間中，相同或相距不遠的輸入向量，有相同 的輸出 —— 泛化 ? 使輸入空間中，不同或相距遠的輸入向量，有不同 的輸出 —— 分類 類似 BP網(wǎng)絡(luò)， CMAC神經(jīng)元網(wǎng)絡(luò)的連接權(quán)學習算法為 度較快。網(wǎng)絡(luò)的學習速整。故量的連接權(quán)需要進行調(diào)只有少，因此，在一次訓練中，其余均為元素為中只有少量幾個相聯(lián)空間和實際值。前面也講過個輸出分量的期望值分別表示第和是收斂的。時，上述迭代學習算法為學習率。當其中，C MAC01i20)()()1(wij???????idiTjidiijyyyykwk??????編碼方法 α 1 α 2 α 3 α 4 α 5 α 6 α 7 α 8 α 9 α 10 α 11 α 12 1 1 1 1 1 0 0 0 0 0 0 0 0 2 0 1 1 1 1 0 0 0 0 0 0 0 3 0 0 1 1 1 1 0 0 0 0 0 0 4 0 0 0 1 1 1 1 0 0 0 0 0 5 0 0 0 0 1 1 1 1 0 0 0 0 6 0 0 0 0 0 1 1 1 1 0 0 0 7 0 0 0 0 0 0 1 1 1 1 0 0 8 0 0 0 0 0 0 0 1 1 1 1 0 9 0 0 0 0 0 0 0 0 1 1 1 1 X的大小 α*i 把 X=（ x1 ， x2 ， … xN）變成二進制變量 α * 規(guī)則 : a) 對每一個輸入量 , α *只能有 |Ai*|個 1。 b) 相鄰的輸入，只有 1位不同 ； （連續(xù)） |Ai*|= 4 xi α i* 1 α1α2α3α4 2 α2α3α4α5 3 α3α4α5α6 4 α4α5α6α7 5 α5α6α7α8 6 α6α7α8α9 7 α7α8α9α10 8 α8α9α10α11 9 α9α10α11α12 一維向量 CMAC網(wǎng)絡(luò)主要優(yōu)點 CMAC 接受實際輸入，給出實際輸出 CMAC可用于實時大系統(tǒng)的訓練，因為每一輸出只要少量計算，與感知器 BP網(wǎng)絡(luò)比較對同樣規(guī)模的問題求解， CMAC迭代次數(shù)少得多； CMAC有局部泛化能力 (1個數(shù)大于 1）。 在輸入空間相近的輸入向量給出相近的輸出。 可以訓練種類很多的函數(shù)； CMAC在輸出空間服從迭加原理。比如，如果權(quán)值 w1產(chǎn)生非線性函數(shù)為 F1(s)權(quán)值陣 W2產(chǎn)生的非線性函數(shù) F2(s),那 W1+W2，將會產(chǎn)生 F1(s)+F2(s)。 CMAC邏輯元陣列可硬件實現(xiàn)。 例 1設(shè)輸入和輸出均為一維向量，輸入變量 S定義在 1到 360的區(qū)間內(nèi)，分辨率為 1，即 3 6 0,2,1)(s i ??? ii0)f(sf0s / 360),s i n(2f(s )0 ???則函數(shù)值，所有權(quán)值初始為假定所希望的輸出： ?學習過程為 0 1 1 360 50 最大誤差 最大誤差 1次訓練 2次訓練 50 50 50 最大誤差 最大誤差 最大誤差 5次訓練 9次訓練 16次訓練 ?? 180 S 0 , 360 S0 360S 2 πs i n360S 2 πs i n f21210 ?????120次迭代后的輸出 10ss 21 的分辨率為和 實例 例 1 神經(jīng)元 PID的自適應(yīng)控制作用。 ???nMnm2 (n)e21nE )( 無需訓練樣本，只是通過加入擾動，引起網(wǎng)絡(luò)調(diào)整過程就會不斷優(yōu)化 PID參數(shù)。 )()()()()()()()()()()()(nwdndEnwnwnw1nwnwdndEnwnwnw1nwDDDDDIIIII??????????????)()()()()()(nwdndEnwnwnw1nwppppp ???????例２ 時域控制法 控制輸出量 : u(n)=w0*e(n)+w1*e(n1)+‥‥‥ + Wm*e(nm) 例３ RBF模糊控制器