【文章內(nèi)容簡介】 和隱層節(jié)點個數(shù)。在實際應(yīng)用中 ， BP 算法很難勝任，因此出現(xiàn)了很多改進(jìn)算法。 ①利用動量法改進(jìn) BP算法 標(biāo)準(zhǔn) BP算法實質(zhì)上是一種簡單的最速下降靜態(tài)尋優(yōu)方法 ， 在修正 W(K)時，只按照第 K步的負(fù)梯度方向進(jìn)行修正 ， 而沒有考慮到以前積累的經(jīng)驗 ， 即以前時刻的梯度方向 ， 從而常常使學(xué)習(xí)過程發(fā)生振蕩 ， 收斂緩慢。動量法權(quán)值調(diào)整算法的具體做法是：將上一次權(quán)值調(diào)整量的一部分迭加到按本次誤差計算所得的權(quán) 值調(diào)整量上 ， 作為本次的實際權(quán)值調(diào)整量，即： )1()()( ??????? nWnEnW ?? 圖 自適應(yīng)學(xué)習(xí) 7 其中： α 為動量系數(shù) ， 通常 0＜ α ＜ ； η — 學(xué)習(xí)率，范圍在 ～ 10之間。這種方法所加的動量因子實際上相當(dāng)于阻尼項，它減小了學(xué)習(xí)過程中的振蕩趨勢，從而改善了收斂性。動量法降低了網(wǎng)絡(luò)對于誤差曲面局部細(xì)節(jié)的敏感性，有效的抑制了網(wǎng)絡(luò)陷入局部極小。 ②自適應(yīng)調(diào)整學(xué)習(xí)速率 標(biāo)準(zhǔn) BP 算法收斂速度緩慢的一個重要原因是學(xué)習(xí)率選 擇不當(dāng)，學(xué)習(xí)率選得太小，收斂太慢；學(xué)習(xí)率選得太大，則有可能修正過頭，導(dǎo)致振蕩甚至發(fā)散?？刹捎脠D 所示的自適應(yīng)方法調(diào)整學(xué)習(xí)率。 調(diào)整的基本指導(dǎo)思想是：在學(xué)習(xí)收斂的情況下，增大η，以縮短學(xué)習(xí)時間；當(dāng)η偏大致使不能收斂時，要及時減小η，直到收斂為止。 ③動量 自適應(yīng)學(xué)習(xí)速率調(diào)整算法 采用動量法時， BP算法可以找到更優(yōu)的解；采用自適應(yīng)學(xué)習(xí)速率法時， BP 算法可以縮短訓(xùn)練時間。將以上兩種方法結(jié)合起來，就得到動量 自適應(yīng)學(xué)習(xí)速率調(diào)整算法。 ④ LM 學(xué)習(xí)規(guī)則 LM（ LevenbergMarquardt）算法比前述幾 種使用梯度下降法的 BP 算法要快得多，但對于復(fù)雜問題，這種方法需要相當(dāng)大的存儲空間。 LM(LevenbergMarquardt)優(yōu)化方法的權(quán)值調(diào)整率選為 : eJIJJ TT *)(w 1???? ? 其中： e— 誤差向量； J— 網(wǎng)絡(luò)誤差對權(quán)值導(dǎo)數(shù)的雅可比（ Jacobian）矩陣； μ — 標(biāo)量，當(dāng) μ 很大時上式接近于梯度法，當(dāng) μ 很小時上式變成了 GaussNewton 法，在這種方法中， μ 也是自適應(yīng)調(diào)整的 [17]。 8 RBF 神經(jīng)網(wǎng)絡(luò) 眾所周知 ， BP網(wǎng)絡(luò)用于函數(shù)逼近時 ， 權(quán)值的調(diào)節(jié)采用的是負(fù)梯度下降法。這種 調(diào)節(jié)權(quán)值的方法有其局限性 ， 即收斂速度慢和局限極小等。下面介紹逼近能力、分類能力和學(xué)習(xí)速度等方面均優(yōu)于 BP網(wǎng)絡(luò)的另一種網(wǎng)絡(luò) —— 徑向基函數(shù)網(wǎng)絡(luò)（ RBF）。 徑向基函數(shù)網(wǎng)絡(luò)是一種兩層前向型神經(jīng)網(wǎng)絡(luò) ， 包含一個具有徑向基函數(shù)神經(jīng)元的隱層和一個具有線性神經(jīng)元的輸出層。 RBF 神經(jīng)網(wǎng)絡(luò)原理 人工神經(jīng)網(wǎng)絡(luò)是由大量、簡單的神經(jīng)元廣泛連接而成 ,用以模擬人腦思維方式的復(fù)雜網(wǎng)絡(luò)系統(tǒng) ,是解決復(fù)雜性和非線性問題十分有效的工具。 其具有較強(qiáng)的自組織、自適應(yīng)及學(xué)習(xí)、聯(lián)想、容錯和抗干擾能力。徑向基函數(shù) (Radial Basis Function ,RBF) 神經(jīng)網(wǎng)絡(luò)是近年來被廣泛應(yīng)用于函數(shù)近似插值、分類研究的人工神經(jīng)網(wǎng)絡(luò)模型之一。它是由輸入層、隱含層和輸出層組成的 3 層前向式網(wǎng)絡(luò) ,各層有多個神經(jīng)元 ,相鄰兩層單元之間單方向連接 ,通過徑向基算法來獲得隱層權(quán)值。 當(dāng)輸入向量加到網(wǎng)絡(luò)輸入端時，徑向基層的每個神經(jīng)元都會輸出一個值，代表輸入向量與神經(jīng)元權(quán)值向量之間的接近程度。如果輸入向量與權(quán)值向量相差很多，則徑向基層的輸出接近于 0，經(jīng)過第二層的線性神經(jīng)元也接近于 0；如果輸入向量與權(quán)值向量很接近，則徑向基層的輸出接近于 1，經(jīng)過第二層的線性神 經(jīng)元，輸出值就更靠近第二層權(quán)值。 在這個過程中，如果只有一個徑向基神經(jīng)元的輸出為 1，而其他的神經(jīng)元輸出均為 0或者接近于 0，那么線性神經(jīng)元層的輸出就相當(dāng)于輸出為 1的神經(jīng)元相對應(yīng)的第二層權(quán)值的值。一般情況下，不止一個徑向基神經(jīng)元的輸出為 1，所以輸出值也就會有所不同。 通常我們用高斯函數(shù)作為徑向基函數(shù) ,確定最終輸出值。由圖 可知 ,kx 為輸入層的輸入 ( k = 1 ,2 , ?,D)； jg 為隱含層的輸入 ( j = 1 ,2 , ?,m) ； 01,y y 為輸出層的輸出； 9 廣義 RBF 神經(jīng)網(wǎng)絡(luò)模型 不失一般性 ， 考慮多輸入單輸出歸一化形式的廣義模糊 RBF 神經(jīng)網(wǎng)絡(luò) ,網(wǎng)絡(luò)共分四層 。 第一層： 定義參數(shù) ： ψ k為徑向基函數(shù) ,一般取高斯函數(shù) ? 第二層 ： 對基函數(shù)輸出值進(jìn)行加權(quán) 。 第三層 ： 歸一化處理 。 第四層 ： 計算總輸出 。 當(dāng) )(xfk 時 ， 其作用類似于常規(guī) RBF 神經(jīng)網(wǎng)絡(luò)的輸出層權(quán)值 。 隨著 )(xfk 的不同 ,輸出將不單純是各基函數(shù)節(jié)點輸出的超平面 ,也可能是超曲面 。 與一般的 RBF 神經(jīng)網(wǎng)絡(luò)比較 ， 這種結(jié)構(gòu)主要是將徑向基輸出權(quán)值改為權(quán)函數(shù) ,可采用高次函數(shù)取代線性加權(quán) ,從而改善網(wǎng)絡(luò)性能 。 如果基函數(shù)具有相同的指數(shù)和寬度 ,也就是說當(dāng) 2.. .21 ???? knkk III 且kknkk ???? ???? ...21 時 ,廣義 RBF 神經(jīng)網(wǎng)絡(luò)退化為常規(guī)的 RBF 神經(jīng)網(wǎng)絡(luò) ,可見常規(guī)的 RBF 神經(jīng)網(wǎng)絡(luò)是廣義 RBF 神經(jīng)網(wǎng)絡(luò)的特例 。 廣義 RBF 神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法 廣義 RBF 神經(jīng)網(wǎng)絡(luò)比單純的 RBF 神 經(jīng)網(wǎng)絡(luò)具有更多的參數(shù) ,其學(xué)習(xí)相對來說就會更為復(fù)雜 。 總的說來 ,學(xué)習(xí)方法有兩種 :第 1種方法是全調(diào)節(jié)的 ,類似于 BP 網(wǎng)絡(luò)的反向遞推 ,也就是說按照使得代價函數(shù) (通常取誤差平方和 )最小的原則 ,調(diào)整所有的參數(shù) ,本質(zhì)上是一個非線性優(yōu)化問題 。 第 2種方法 ,采用模糊聚類和專家知識預(yù)先優(yōu)化網(wǎng)絡(luò)前圖 RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)模型 10 幾層的參數(shù) ,包括隱節(jié)點數(shù)目 n?中心向量kc?寬度k??指數(shù) kI 等 ,而以最小二乘方法在線優(yōu) 化 )(xfk ， k=1,2,…,n?第一種方法收斂速度慢 ,可能存在局部極值 ,只能夠離線進(jìn)行 ,可以應(yīng)用于模式識別等領(lǐng)域 ； 第二種方法計算量小 ,可以在線調(diào)節(jié) ,適合于控制系統(tǒng)等對于實時性要求高的場合 ,但是一般需要系統(tǒng)的專家知識 。 本文介紹第 2種方法 。 廣義 rbf 神經(jīng)網(wǎng)絡(luò)按照如下步驟進(jìn)行學(xué)習(xí) ： ① 確定合適的網(wǎng)絡(luò)隱節(jié)點數(shù) 。 增加網(wǎng)絡(luò)的隱節(jié)點數(shù)目 ,可以提高網(wǎng)絡(luò)逼近精度 ,但同時增加了網(wǎng)絡(luò)的學(xué)習(xí)時間 。 一般初始時選取比較少的網(wǎng)絡(luò)隱節(jié)點數(shù)目 。 ② 根據(jù)網(wǎng)絡(luò)隱節(jié)點數(shù)選取合理的 )(xk? 參數(shù) ,包括中心參數(shù) kc 和寬度參數(shù) k? 。 ③ 取 1?kv ， 確定 )(xfk 的參數(shù) 。 在下文中 ,給出了 2維輸入網(wǎng)絡(luò) )(xfk 參數(shù)的計算方法 ,多維參數(shù)的推導(dǎo)類似 。 ④ 考核誤差 ,如果小于設(shè)定誤差 ,則訓(xùn)練結(jié)束 ； 否則回到 ① 增加網(wǎng)絡(luò)隱節(jié)點數(shù)目 ,重復(fù)上 述步驟 。 在以上步驟中 ,最關(guān)鍵的是網(wǎng)絡(luò)輸出層權(quán)函數(shù)參數(shù)的調(diào)整 ,下文著重討論 。 廣義 RBF 神經(jīng)網(wǎng)絡(luò)輸出層權(quán)函數(shù)參數(shù)的調(diào)整 以 x為二維向量 (x1,x2)的情況進(jìn)行分析 。 權(quán)值調(diào)整的目的是使得網(wǎng)絡(luò)的輸出能夠滿足誤差平方和最小 ,即 e=min,下面分為三種情況進(jìn)行討論 。 a. )(xfk 為常數(shù)項的情況 。 此時 , )(xfk = kw ,相應(yīng)的誤差平方和為對權(quán)值求偏導(dǎo)數(shù) ,可以得到 n元一次方程組 。b. )(xfk 為網(wǎng)絡(luò)輸入 1次冪函數(shù)的情況 。 此時 , )(xfk 相應(yīng)的誤差平方和為若使上式最小 ,可以得到 3n組方程 ； c. )(xfk 為網(wǎng)絡(luò)輸入 2次冪函數(shù)的情況 ，可得到 6n 組方程。 由以上可以看出 ， )(xfk 取為網(wǎng)絡(luò)輸入的高次多項式 ,使得網(wǎng)絡(luò)具有更加優(yōu)良的逼近性能的同時 ,保留了輸出層權(quán)值的線性性質(zhì) ,從而可以采用最小二乘等方法優(yōu)化權(quán)值 [1819]? 3 表面肌電信號的識別 11 肌電信號是骨骼肌細(xì)胞的自發(fā)電活動的綜合信號 ， 臨床用于判斷神經(jīng) —— 肌肉疾病。一般需要用 特制針狀電極進(jìn)行引導(dǎo)。因此肌電信號處理技術(shù)屬于微創(chuàng)技術(shù)。 肌電信號獲取 肌電信號的特點 肌電信號的幅值為： 10u100mv，帶寬為： 52020khz。這個特性決定了對肌電信號處理系統(tǒng)的要求，主要是對模擬放大器的要求 系統(tǒng)參數(shù) 肌電信號處理系統(tǒng)的參數(shù)建議如表 表 肌電信號處理系統(tǒng)的參數(shù) 輸入阻抗（ M?） 增益 共模抑制比（ dB） 寬帶（ Hz） 輸入噪聲（ nV） 100 105 80 510k 1 電極 引導(dǎo)肌電信號使用的電極有：同 心針電極、雙心針電極、單極針電極、表面電極及復(fù)式電極等。檢查前必須將針電極用薰蒸發(fā)或消毒液浸泡法嚴(yán)格消毒。酒精可造成電極損壞，一般避免使用。也有使用中醫(yī)針灸的銀針作為單極電極的情況。檢查部位的選擇應(yīng)根據(jù)疾病的性質(zhì)決定 【 20】 。 檢查體位和注意 受檢者應(yīng)取自然放松，又能做各種運動的體位。檢查下肢及軀干肌肉取臥位，上肢可取坐位。 肌電信號的波形特征 正常肌電信號 ①插入電位，是指針極插入肌腹，以及其被移動和叩擊時，對肌纖維或神經(jīng)