【文章內(nèi)容簡(jiǎn)介】 和隱層節(jié)點(diǎn)個(gè)數(shù)。在實(shí)際應(yīng)用中 ， BP 算法很難勝任，因此出現(xiàn)了很多改進(jìn)算法。 ①利用動(dòng)量法改進(jìn) BP算法 標(biāo)準(zhǔn) BP算法實(shí)質(zhì)上是一種簡(jiǎn)單的最速下降靜態(tài)尋優(yōu)方法 ， 在修正 W(K)時(shí)，只按照第 K步的負(fù)梯度方向進(jìn)行修正 ， 而沒有考慮到以前積累的經(jīng)驗(yàn) ， 即以前時(shí)刻的梯度方向 ， 從而常常使學(xué)習(xí)過(guò)程發(fā)生振蕩 ， 收斂緩慢。動(dòng)量法權(quán)值調(diào)整算法的具體做法是：將上一次權(quán)值調(diào)整量的一部分迭加到按本次誤差計(jì)算所得的權(quán) 值調(diào)整量上 ， 作為本次的實(shí)際權(quán)值調(diào)整量，即： )1()()( ??????? nWnEnW ?? 圖 自適應(yīng)學(xué)習(xí) 7 其中： α 為動(dòng)量系數(shù) ， 通常 0＜ α ＜ ； η — 學(xué)習(xí)率，范圍在 ～ 10之間。這種方法所加的動(dòng)量因子實(shí)際上相當(dāng)于阻尼項(xiàng)，它減小了學(xué)習(xí)過(guò)程中的振蕩趨勢(shì)，從而改善了收斂性。動(dòng)量法降低了網(wǎng)絡(luò)對(duì)于誤差曲面局部細(xì)節(jié)的敏感性，有效的抑制了網(wǎng)絡(luò)陷入局部極小。 ②自適應(yīng)調(diào)整學(xué)習(xí)速率 標(biāo)準(zhǔn) BP 算法收斂速度緩慢的一個(gè)重要原因是學(xué)習(xí)率選 擇不當(dāng)，學(xué)習(xí)率選得太小，收斂太慢；學(xué)習(xí)率選得太大，則有可能修正過(guò)頭，導(dǎo)致振蕩甚至發(fā)散?？刹捎脠D 所示的自適應(yīng)方法調(diào)整學(xué)習(xí)率。 調(diào)整的基本指導(dǎo)思想是：在學(xué)習(xí)收斂的情況下，增大η，以縮短學(xué)習(xí)時(shí)間；當(dāng)η偏大致使不能收斂時(shí)，要及時(shí)減小η，直到收斂為止。 ③動(dòng)量 自適應(yīng)學(xué)習(xí)速率調(diào)整算法 采用動(dòng)量法時(shí)， BP算法可以找到更優(yōu)的解；采用自適應(yīng)學(xué)習(xí)速率法時(shí)， BP 算法可以縮短訓(xùn)練時(shí)間。將以上兩種方法結(jié)合起來(lái)，就得到動(dòng)量 自適應(yīng)學(xué)習(xí)速率調(diào)整算法。 ④ LM 學(xué)習(xí)規(guī)則 LM（ LevenbergMarquardt）算法比前述幾 種使用梯度下降法的 BP 算法要快得多，但對(duì)于復(fù)雜問(wèn)題，這種方法需要相當(dāng)大的存儲(chǔ)空間。 LM(LevenbergMarquardt)優(yōu)化方法的權(quán)值調(diào)整率選為 : eJIJJ TT *)(w 1???? ? 其中： e— 誤差向量； J— 網(wǎng)絡(luò)誤差對(duì)權(quán)值導(dǎo)數(shù)的雅可比（ Jacobian）矩陣； μ — 標(biāo)量，當(dāng) μ 很大時(shí)上式接近于梯度法，當(dāng) μ 很小時(shí)上式變成了 GaussNewton 法，在這種方法中， μ 也是自適應(yīng)調(diào)整的 [17]。 8 RBF 神經(jīng)網(wǎng)絡(luò) 眾所周知 ， BP網(wǎng)絡(luò)用于函數(shù)逼近時(shí) ， 權(quán)值的調(diào)節(jié)采用的是負(fù)梯度下降法。這種 調(diào)節(jié)權(quán)值的方法有其局限性 ， 即收斂速度慢和局限極小等。下面介紹逼近能力、分類能力和學(xué)習(xí)速度等方面均優(yōu)于 BP網(wǎng)絡(luò)的另一種網(wǎng)絡(luò) —— 徑向基函數(shù)網(wǎng)絡(luò)（ RBF）。 徑向基函數(shù)網(wǎng)絡(luò)是一種兩層前向型神經(jīng)網(wǎng)絡(luò) ， 包含一個(gè)具有徑向基函數(shù)神經(jīng)元的隱層和一個(gè)具有線性神經(jīng)元的輸出層。 RBF 神經(jīng)網(wǎng)絡(luò)原理 人工神經(jīng)網(wǎng)絡(luò)是由大量、簡(jiǎn)單的神經(jīng)元廣泛連接而成 ,用以模擬人腦思維方式的復(fù)雜網(wǎng)絡(luò)系統(tǒng) ,是解決復(fù)雜性和非線性問(wèn)題十分有效的工具。 其具有較強(qiáng)的自組織、自適應(yīng)及學(xué)習(xí)、聯(lián)想、容錯(cuò)和抗干擾能力。徑向基函數(shù) (Radial Basis Function ,RBF) 神經(jīng)網(wǎng)絡(luò)是近年來(lái)被廣泛應(yīng)用于函數(shù)近似插值、分類研究的人工神經(jīng)網(wǎng)絡(luò)模型之一。它是由輸入層、隱含層和輸出層組成的 3 層前向式網(wǎng)絡(luò) ,各層有多個(gè)神經(jīng)元 ,相鄰兩層單元之間單方向連接 ,通過(guò)徑向基算法來(lái)獲得隱層權(quán)值。 當(dāng)輸入向量加到網(wǎng)絡(luò)輸入端時(shí)，徑向基層的每個(gè)神經(jīng)元都會(huì)輸出一個(gè)值，代表輸入向量與神經(jīng)元權(quán)值向量之間的接近程度。如果輸入向量與權(quán)值向量相差很多，則徑向基層的輸出接近于 0，經(jīng)過(guò)第二層的線性神經(jīng)元也接近于 0；如果輸入向量與權(quán)值向量很接近，則徑向基層的輸出接近于 1，經(jīng)過(guò)第二層的線性神 經(jīng)元，輸出值就更靠近第二層權(quán)值。 在這個(gè)過(guò)程中，如果只有一個(gè)徑向基神經(jīng)元的輸出為 1，而其他的神經(jīng)元輸出均為 0或者接近于 0，那么線性神經(jīng)元層的輸出就相當(dāng)于輸出為 1的神經(jīng)元相對(duì)應(yīng)的第二層權(quán)值的值。一般情況下，不止一個(gè)徑向基神經(jīng)元的輸出為 1，所以輸出值也就會(huì)有所不同。 通常我們用高斯函數(shù)作為徑向基函數(shù) ,確定最終輸出值。由圖 可知 ,kx 為輸入層的輸入 ( k = 1 ,2 , ?,D)； jg 為隱含層的輸入 ( j = 1 ,2 , ?,m) ； 01,y y 為輸出層的輸出； 9 廣義 RBF 神經(jīng)網(wǎng)絡(luò)模型 不失一般性 ， 考慮多輸入單輸出歸一化形式的廣義模糊 RBF 神經(jīng)網(wǎng)絡(luò) ,網(wǎng)絡(luò)共分四層 。 第一層： 定義參數(shù) ： ψ k為徑向基函數(shù) ,一般取高斯函數(shù) ? 第二層 ： 對(duì)基函數(shù)輸出值進(jìn)行加權(quán) 。 第三層 ： 歸一化處理 。 第四層 ： 計(jì)算總輸出 。 當(dāng) )(xfk 時(shí) ， 其作用類似于常規(guī) RBF 神經(jīng)網(wǎng)絡(luò)的輸出層權(quán)值 。 隨著 )(xfk 的不同 ,輸出將不單純是各基函數(shù)節(jié)點(diǎn)輸出的超平面 ,也可能是超曲面 。 與一般的 RBF 神經(jīng)網(wǎng)絡(luò)比較 ， 這種結(jié)構(gòu)主要是將徑向基輸出權(quán)值改為權(quán)函數(shù) ,可采用高次函數(shù)取代線性加權(quán) ,從而改善網(wǎng)絡(luò)性能 。 如果基函數(shù)具有相同的指數(shù)和寬度 ,也就是說(shuō)當(dāng) 2.. .21 ???? knkk III 且kknkk ???? ???? ...21 時(shí) ,廣義 RBF 神經(jīng)網(wǎng)絡(luò)退化為常規(guī)的 RBF 神經(jīng)網(wǎng)絡(luò) ,可見常規(guī)的 RBF 神經(jīng)網(wǎng)絡(luò)是廣義 RBF 神經(jīng)網(wǎng)絡(luò)的特例 。 廣義 RBF 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法 廣義 RBF 神經(jīng)網(wǎng)絡(luò)比單純的 RBF 神 經(jīng)網(wǎng)絡(luò)具有更多的參數(shù) ,其學(xué)習(xí)相對(duì)來(lái)說(shuō)就會(huì)更為復(fù)雜 。 總的說(shuō)來(lái) ,學(xué)習(xí)方法有兩種 :第 1種方法是全調(diào)節(jié)的 ,類似于 BP 網(wǎng)絡(luò)的反向遞推 ,也就是說(shuō)按照使得代價(jià)函數(shù) (通常取誤差平方和 )最小的原則 ,調(diào)整所有的參數(shù) ,本質(zhì)上是一個(gè)非線性優(yōu)化問(wèn)題 。 第 2種方法 ,采用模糊聚類和專家知識(shí)預(yù)先優(yōu)化網(wǎng)絡(luò)前圖 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型 10 幾層的參數(shù) ,包括隱節(jié)點(diǎn)數(shù)目 n?中心向量kc?寬度k??指數(shù) kI 等 ,而以最小二乘方法在線優(yōu) 化 )(xfk ， k=1,2,…,n?第一種方法收斂速度慢 ,可能存在局部極值 ,只能夠離線進(jìn)行 ,可以應(yīng)用于模式識(shí)別等領(lǐng)域 ； 第二種方法計(jì)算量小 ,可以在線調(diào)節(jié) ,適合于控制系統(tǒng)等對(duì)于實(shí)時(shí)性要求高的場(chǎng)合 ,但是一般需要系統(tǒng)的專家知識(shí) 。 本文介紹第 2種方法 。 廣義 rbf 神經(jīng)網(wǎng)絡(luò)按照如下步驟進(jìn)行學(xué)習(xí) ： ① 確定合適的網(wǎng)絡(luò)隱節(jié)點(diǎn)數(shù) 。 增加網(wǎng)絡(luò)的隱節(jié)點(diǎn)數(shù)目 ,可以提高網(wǎng)絡(luò)逼近精度 ,但同時(shí)增加了網(wǎng)絡(luò)的學(xué)習(xí)時(shí)間 。 一般初始時(shí)選取比較少的網(wǎng)絡(luò)隱節(jié)點(diǎn)數(shù)目 。 ② 根據(jù)網(wǎng)絡(luò)隱節(jié)點(diǎn)數(shù)選取合理的 )(xk? 參數(shù) ,包括中心參數(shù) kc 和寬度參數(shù) k? 。 ③ 取 1?kv ， 確定 )(xfk 的參數(shù) 。 在下文中 ,給出了 2維輸入網(wǎng)絡(luò) )(xfk 參數(shù)的計(jì)算方法 ,多維參數(shù)的推導(dǎo)類似 。 ④ 考核誤差 ,如果小于設(shè)定誤差 ,則訓(xùn)練結(jié)束 ； 否則回到 ① 增加網(wǎng)絡(luò)隱節(jié)點(diǎn)數(shù)目 ,重復(fù)上 述步驟 。 在以上步驟中 ,最關(guān)鍵的是網(wǎng)絡(luò)輸出層權(quán)函數(shù)參數(shù)的調(diào)整 ,下文著重討論 。 廣義 RBF 神經(jīng)網(wǎng)絡(luò)輸出層權(quán)函數(shù)參數(shù)的調(diào)整 以 x為二維向量 (x1,x2)的情況進(jìn)行分析 。 權(quán)值調(diào)整的目的是使得網(wǎng)絡(luò)的輸出能夠滿足誤差平方和最小 ,即 e=min,下面分為三種情況進(jìn)行討論 。 a. )(xfk 為常數(shù)項(xiàng)的情況 。 此時(shí) , )(xfk = kw ,相應(yīng)的誤差平方和為對(duì)權(quán)值求偏導(dǎo)數(shù) ,可以得到 n元一次方程組 。b. )(xfk 為網(wǎng)絡(luò)輸入 1次冪函數(shù)的情況 。 此時(shí) , )(xfk 相應(yīng)的誤差平方和為若使上式最小 ,可以得到 3n組方程 ； c. )(xfk 為網(wǎng)絡(luò)輸入 2次冪函數(shù)的情況 ，可得到 6n 組方程。 由以上可以看出 ， )(xfk 取為網(wǎng)絡(luò)輸入的高次多項(xiàng)式 ,使得網(wǎng)絡(luò)具有更加優(yōu)良的逼近性能的同時(shí) ,保留了輸出層權(quán)值的線性性質(zhì) ,從而可以采用最小二乘等方法優(yōu)化權(quán)值 [1819]? 3 表面肌電信號(hào)的識(shí)別 11 肌電信號(hào)是骨骼肌細(xì)胞的自發(fā)電活動(dòng)的綜合信號(hào) ， 臨床用于判斷神經(jīng) —— 肌肉疾病。一般需要用 特制針狀電極進(jìn)行引導(dǎo)。因此肌電信號(hào)處理技術(shù)屬于微創(chuàng)技術(shù)。 肌電信號(hào)獲取 肌電信號(hào)的特點(diǎn) 肌電信號(hào)的幅值為： 10u100mv，帶寬為： 52020khz。這個(gè)特性決定了對(duì)肌電信號(hào)處理系統(tǒng)的要求，主要是對(duì)模擬放大器的要求 系統(tǒng)參數(shù) 肌電信號(hào)處理系統(tǒng)的參數(shù)建議如表 表 肌電信號(hào)處理系統(tǒng)的參數(shù) 輸入阻抗（ M?） 增益 共模抑制比（ dB） 寬帶（ Hz） 輸入噪聲（ nV） 100 105 80 510k 1 電極 引導(dǎo)肌電信號(hào)使用的電極有：同 心針電極、雙心針電極、單極針電極、表面電極及復(fù)式電極等。檢查前必須將針電極用薰蒸發(fā)或消毒液浸泡法嚴(yán)格消毒。酒精可造成電極損壞，一般避免使用。也有使用中醫(yī)針灸的銀針作為單極電極的情況。檢查部位的選擇應(yīng)根據(jù)疾病的性質(zhì)決定 【 20】 。 檢查體位和注意 受檢者應(yīng)取自然放松，又能做各種運(yùn)動(dòng)的體位。檢查下肢及軀干肌肉取臥位，上肢可取坐位。 肌電信號(hào)的波形特征 正常肌電信號(hào) ①插入電位，是指針極插入肌腹，以及其被移動(dòng)和叩擊時(shí)，對(duì)肌纖維或神經(jīng)