【文章內容簡介】 即為著名的 LMS算法的濾波器權矢量迭代公式。下圖給出了實現 LMS算法的流程圖。 LMS算法的性能分析 ? ? 首先，可以證明 LMS算法對性能函數梯度的估值是無偏的（證明略）。 ? 為了研究方便，假設 LMS算法的連續(xù)兩次迭代時間足夠長，以保證輸入信號 和 互不相關。由式（ ）， 與 互不相關，這樣，對式（ ）取數學期望，有 （ ） ? ?nx ? ?1?nx? ?nw ? ?nx? ?? ? ? ?? ? ? ? ? ?? ?? ?? ? ? ? ? ?? ? ? ? ? ? ? ?? ?? ?nwnxnxnxndnwnxnenwnwT??????????????221? 利用 R和 p的定義及 和 的互不相關性，有 （ ） ? 其中， I為與 R具有相同維數的單位矩陣。 ? ?nx ? ?nw? ?? ? ? ?? ? ? ?? ?? ?? ? ? ?? ? pnwRInwRpnwnw???2221???????????? 設權系數矢量的初始值為 ，則經過 n+1次迭代，有 （ ） 利用矩陣的正交相似變換，有 （ ） ? ?0w? ?? ?? ? ? ? ? ? pRwRnwjnjn ??? ????????01 22021???? ?? ? ? ? ? ?039。2139。 c n?????? ?? 其中， 為權矢量 的主軸坐標形式，即經過平移和旋轉變換后的 ； Λ為自相關矩陣 R的對角陣形式，其對角元素為才 R的特征值，即 （ ） 由于 R是正定的，故所有特征值均為正實值。 ? ?nc39。 ? ?nw? ?nw??????????????M???.10? 對于角陣（ I2μΛ） ,只要它的所有對角元素的值小于 1，則有 （ ） ? 這樣，主軸坐標下權矢量 c’ (n)的期望值達到最佳權矢量，即 （ ） 收斂因子應該滿足下列收斂條件，即 （ ） ? ? 02lim ????? nn I ?? ?? ? 039。39。 ??? ncc o p tm a x10?? ??? 其中， 是自相關矩陣 R的最大的特征值，也是 A陣中最大的對角元素。 ? 由于 （ ） ? 因此，式（ ）所示收斂因子的限制條件可以改寫為 （ ） 或 max?? ? ? ?Rtrtr ???m a x?? ?Rtr10 ?? ? （ ） ? 其中， tr[?]表示矩陣的跡； Pin為輸入信號的功率。 ? 通常，式（ ）比式（ ）更便于使用。這是因為輸入信號的功率比其自相關矩陣的特征更容易估計。 ? 由式（ ）知，當收斂條件 得到滿足時，自適應濾波器的主軸坐標權矢量c’ (n)最終將收斂為 0矢量，將 c’ (n)變回到原始坐標 ? ? inPM 110??? ?m a x10?? ??? 系下，則由 c’ (n)的定義式（ ）可知，LMS算法最終收斂為維納濾波器， 對應于 （ ） 上面的討論過程中，對于兩輸入樣本間不相關的假設是十分苛刻的。實際上，這類自適應濾波器的具體實現表明，即使在輸入樣本間有較大相關性時，權系數矢量的數學期望值也能收斂到維納解，但這時得到的均方誤差值比不相關時要大。 039。 ?optcpRw opt 1??? ? 由均方誤差函數和最小均方誤差表達式（ ）和式（ ），可以得到均方誤差函數的另一種表達形式，即 （ ） 按照式（ ）的定義，可進一步改寫為 （ ） 經過正交相似變換，將坐標軸旋轉至主軸坐標 ? ?? ? ? ?? ?o ptTo pt wnwRwnw ???? m i n??? ? ? ?nRc T?? m i n??? 系，有 （ ） 將式（ ）代入式（ ），由矩陣（ I2μΛ）和矩陣 Λ為對角陣，有 （ ） 或寫為標量形式 （ ） ? ? ? ?nc T 39。39。m i n ??? ??? ?? ? ? ?039。2039。 2m i n cIc nT ????? ???? ? ? ? nmmMmmc202m i n 21039。 ????? ??? ??? 其中， 為矢量 c’ (0)的第 m個分量； 為對角陣 Λ中第 m個對角元素。 ? 式（ ）即為 LMS算法的自適應學習曲線，可見均方誤差函數 ξ是迭代次數 n的指數函數，只要收斂條件式（ ）得到滿足，均方誤差將隨著迭代的進行而指數下降，并最終收斂為最小均方誤差 ，均方誤差函數學習曲線如圖 。 ? ?039。mc m?m?? 定義 （ ） ? 實際上， 為式（ ）所示等比級數的公比。若用指數包絡曲線擬合這個等比級數，則可以得到時間常數，即 （ ） 如果取式（ ）的前 2項，有 （ ） Mmr mm ,. .. ,1,0,21 ??? ??mrMmrmm ,... ,1,0,1e xp ????????? ???Mmrmm ,...,1,0,11 ????? 比較式（ ）和式（ ），有 （ ） ? 式（ ）即為 LMS算法的第 m個權系數的時間常數。由公比 的定義及自適應學習曲線式（ ），可以得到均方誤差時間常數 與權系數時間常數 的關系，即 () () mm ??? 21? Mm , . . . ,1,0, ?mrmse??? ?? ? MmMmrrmmm s emmm s e, .. .,1,0,2, .. .,1,0,2??????? 這樣，第 m模式的均方誤差時間常數為 () ? 其中， 和 分別表示第 m個權系數和第 m個模式的權系數時間常數和均方誤差時間常數； 為式（ ）所示學習曲線的公比，定義為 () ? 時間常數的大小決定自適應學習過程的長短或