【文章內容簡介】 ????Njjjjj wewewee222122? ?() 因為 jjj XWde T??第三章 自適應數(shù)字濾波器 所以 jNjjj Xwewewe?????????????? T21, ?jjj Xe2? ???() () jjjj XeWW ?21 ???FIR濾波器中的第 i個權系數(shù)的計算公式為 Nixeww ijjijij ,3,2,12 ,1 ?????? ?() FIR濾波器中的第 i個權系數(shù)的控制電路如圖 , LMS自適應濾波器的總框圖如圖 所示 。 第三章 自適應數(shù)字濾波器 圖 FIR第 i個支路的控制電路 z － 1wi( n ＋ 1)＋＋xi( n ) wi( n )2 ?e ( n )控制電路第三章 自適應數(shù)字濾波器 LMS算法的加權系數(shù)按照 ()式進行控制 ， 式中加權矢量的改變量是 2μ ejXj， 梯度的估計值是 2ejXj。 顯然 ， 這是一個隨機變量 ， 這說明 LMS算法的加權矢量是隨機變化的 。 因此 ，LMS算法又稱為隨機梯度法 。 下面對這種算法的性能進行分析 ， 主要分析加權矢理和性能函數(shù)的平均變化規(guī)律以及它們的隨機性造成的影響 。 按照 ()式 ， 對梯度估計值求統(tǒng)計平均 ， 得到 jjjj XeEE ????? ][2]?[() 上式說明梯度估計值是無偏估計的 ， 梯度的估計量在理想梯度▽ j附近隨機變化 ， 權系數(shù)也是在理想情況下的權軌跡附近隨機變化的 。 第三章 自適應數(shù)字濾波器 …控制 1控制 2控制 N…x1( n )x2( n )xN( n )w1w2wNy ( n )d ( n )e ( n )＋－…圖 LMS自適應濾波器總計算框圖 第三章 自適應數(shù)字濾波器 將誤差公式 ()式代入 ()式，得到 jjjTjjjTjjjjjjdXWXXiWXXdXWW???2]2[][21??????? () 按照 ()式， 對加權矢量取統(tǒng)計平均： *T12][)2(])[(2][][][(2][][2][][WRWERIWERRWEWXXEXdEWEXeEWEWExxjxxjxxdxjjjjjjjjjjj?????????????????() 第三章 自適應數(shù)字濾波器 類似于最陡下降法的推導 ， 經(jīng)過坐標平移和旋轉 ， 變換到V′ 坐標中 。 其公式推導如下 : 令 Vj=WjW* () 那么 E［ Vj］ =E［ Wj］ W* E［ Vj+1］ =E［ Wj+1］ W* () 將上面兩式代入 ()式中，得到 ][]2[][ 1 jxxj VERIVE ????它的遞推解是 0]2[][ VRIVE jxxj ???令 Rxx=QΛ Q T, Λ =QRxxQT () 第三章 自適應數(shù)字濾波器 39。],[39。 39。39。239。1T QVVvvvVQV N ??? ?得到 39。039。 ]2[][ VΛIVE jj ???() () 再將 ()、 ()和 ()式代入上式，得到 E［ Wj］ =W*+Q［ I2μΛ］ j Q1(W0W*) () 對比 ()式 ， 說明 LMS算法加權矢量的統(tǒng)計平均值的過渡過程和最陡下降法加權矢量的過渡過程是一樣的 。 換句話說 ， LMS算法加權矢量是在最陡下降法加權矢量附近隨機變化的 ， 其統(tǒng)計平均值等于最陡下降法加權矢量 ， 那么 ， 其收斂條件同樣為 m a x10?? ??() 第三章 自適應數(shù)字濾波器 在滿足收斂條件的情況下，才有下式： *][l i m WWEjj ???由于最大的特征值 λ max不可能大于 R的跡 (R的主對角線元素之和 )， 即 ? ????? )()(tr)()(trm a x 的對角元素的對角元素 RRΛΛ?因此收斂條件可以表示為 )(10Rtr?? ?() 第三章 自適應數(shù)字濾波器 對于橫向濾波器， 式中的跡是 NE［ x2j］，即 N倍的輸入功率， 那么 ][102jxNE?? ?() 實際中，通常 μ 選得很小，選 ][102jxNE??? ?() 同樣由 ()式，第 i個分量為 39。0]2[][ ijiji vIvE ????() 第三章 自適應數(shù)字濾波器 同樣引入時常數(shù) τ i, ][][e][21)21l n (139。*39。039。 ijjτjijiiiivQEWWEvvE????????????() () () 同樣，第 i個權系數(shù)可以表示成 kτjNkikiji CwwE1* e][ ????() 第三章 自適應數(shù)字濾波器 3 . LMS算法性能函數(shù)的過渡過程 ——學習過程 由于 LMS算法加權矢量的平均值的變化規(guī)律與最陡下降法的加權矢量一樣 ， 可以推想它的均方誤差也會按照最陡下降的均方誤差變化規(guī)律變化 。 下面進行推導 。 按照 ()式， 信號誤差為 jTjjjTjTjjTjjjjjVXeWWXWXdWXdyde??????????opt**)()(() 第三章 自適應數(shù)字濾波器 式中 ， eoptj=djXjTW*， 稱為最佳誤差信號 ， 它對應于最小均方誤差 ， 即 m in22opt ][][ jj eEeE ?按照 ()式寫出均方誤差表示式： ][2][][][ 22 jTjoptjTjjTjoptj VXeEVXXVEeEeE ?????假定 Xj和 Vj不相關，上式中最后一項為 0，那么 ][m i n jTjjTj VXXVE?? ??第三章 自適應數(shù)字濾波器 239。1m i n39。39。m i nm i n])[[][][][][jiNiijTjjxxTjvEVΛEVEVERVE?????????????同樣，假設加權系數(shù)變化很小， Vj也變化很小， E［ Vj］ ≈ Vj，這樣： 類似前面的推導，得到 iii m s eNijojiiv????????412e][12239。m i n???? ??() () 對照最陡下降法性能曲線 ()式 ， LMS均方誤差變化規(guī)律和最陡下降法完全一樣 ， 學習曲線同樣近似為幾個不同時間常數(shù)的指數(shù)和 。 第三章 自適應數(shù)字濾波器 4. 穩(wěn)態(tài)誤差和失調系數(shù) 由上面分析知道 ， 權矢量的平均值可以收斂到它的最佳值 ， 但權矢量變化過程是隨機的 ， 即使其平均值收斂到最佳值 ， 它仍然按照下式： Wj+1=Wj+2μ ejXj 隨機地進行變化 ， 這樣使權矢量仍在最佳值附近隨機變化 ， 但均方誤差將大于最小均方誤差 ， 如圖 所示 。 為此 ， 引入失調系數(shù) M， M定義為 m inm in??? ??M() 第三章 自適應數(shù)字濾波器 加 權 系 數(shù) 的 變 化均 方 誤 差 的 變 化??m i nvv ＝ w － wo p tj圖 LMS算法穩(wěn)態(tài)誤差 第三章 自適應數(shù)字濾波器 可以推出 ［ 5］ 失調系數(shù)為 ????NiixxRM1]t r[ ???() 或者 M=μ NPin () 式中 ， N是濾波器的階數(shù) ， Pin是輸入信號功率 。 上式說明 μ 和輸入功率加大都會增加失調系數(shù) 。 在保證收斂的情況下 μ 加大 ， 會提高收斂速度 ， 也說明為了減小失調系數(shù) ， 應該適當選擇收斂速度 ， 以保證收斂速度和失調系數(shù)都滿足要求 。 第三章 自適應數(shù)字濾波器 圖 是一個 LMS自適應濾波器的計算機結果 ［ 5］ ， 階數(shù) N=5， 其輸入是信號加白噪聲 ， 輸入信號功率為 1， 中心頻率是 (fs為采樣頻率 )， 噪聲功率為 , 輸入信號自相關函數(shù)的特征值為： 、 、 、 、 ， 權系數(shù)初始值取 0， μ =。 圖中畫出了一條樣本學習曲線和 150條樣本學習曲線的平均曲線 。 該圖表明個別學習曲線起伏較大 ，平均學習曲線起伏很小 ， 計算出的維納最小均方誤差為 96， 用 LMS算法得到的穩(wěn)態(tài)誤差大于該值 ， 按 ()式計算的失調系數(shù)是 %， 按計算機模擬結果測得的失調系數(shù)是 %。 第三章 自適應數(shù)字濾波器 圖 LMS算法的學習曲線 1 . 5 01 . 2 51 . 0 00 . 7 50 . 5 00 . 2 5均方誤差0 20 40 60 80 1 0 0 1 2 0 1 4 0 1 6 0 1 8 0 2 0 0迭代次數(shù) n?m i n＝ 0 . 7 4 3 9 6 ( 維納解 )個 別 學 習曲 線平 均 學 習曲 線( 由 1 5 0 條 個 別 曲線 平 均 )第三章 自適應數(shù)字濾波器 自適應格型濾波器 前 、 1. 前向線性預測誤差濾波器 為了分析簡單 ， 假設信號屬于實平穩(wěn)隨機信號 。 前向線性預測誤差濾波器直接由信號的線性一步預測導出 。 在維納濾波器一章我們已研究了信號的線性一步預測問題 ， 即由 x(n1), x(n2), …, x(np)預測 x(n)， 其估計值 x(n)和預測誤差 ep(n)用下式表示： ^ ?????pkkp knxanx1, )()(?() ???????pkkpp knxanxnxnxne1, )()()(?)()(第三章 自適應數(shù)字濾波器 由于假設了信號是實的 ， 式中預測誤差 ep(n)和系數(shù) ap,k均是實數(shù) 。 ()式表明 是由 n時刻以前的 p個數(shù)據(jù) x(n1)、 x(n2)…x(np)得到的估計 ， 因此稱 為前向預測誤差 。 將前向預測誤差用 表示 ， 上式重寫為 )(? nx)(nep)(nefp?????pkkpfp knxanxne1, )()()(() 對上式進行 Z變換，得到 kpkkpfp zzXazXzE?????1, )()()(() 令 ??????????pkkkppkkkpffpfzazazHzXzEzH0,1,1)()()()(() 第三章 自適應數(shù)字濾波器 Hf(z)稱為前向預測誤差濾波器的系統(tǒng)函數(shù) 。 前向預測誤差濾波器的結構圖如圖 。 圖 前向預測誤差濾波器 z － 1ap ,0……z － 1 z － 1ap ,1ap ,2ap , p － 1ap , px ( n ))( ne fp第三章 自適應數(shù)字濾波器 用均方誤差最小的準則求前向預測誤差濾波器的最佳系數(shù) ap,k, 0]))([(,2???kpfpaneEk=1, 2, … ， p () 將 ()式代入上式，得到 0)]()([ ??? knxneE fpk=1, 2, 3,… ， p () 上式表明前向預測誤差與用于預測的數(shù)據(jù)正交 ， 這就是對于前向預測誤差的正交原理 。 按照第二章的推導 ， 前向預測誤差濾波器的最佳系數(shù) ap,kYuleWalker方程式 ， 重寫如下： 第三章 自適應數(shù)字濾波器 ?????????????????pixxipxxppixxipxxirarpkikrakr1,21,)()0(,3,2,10)()(??() 將上式用矩陣方程表示為 ????????????????