【文章內(nèi)容簡介】 （227a ）或 （227b）這里 ，i=1,2,…,M 是相關(guān)矩陣 R 的特征值，M 是自適應(yīng)濾波器橫向抽頭數(shù)或階數(shù)。i?當(dāng)此條件被滿足時(shí)，LMS 算法是絕對收斂的，這是從均方值域保證穩(wěn)定的條件。如果將其與均方值域所討論的穩(wěn)定條件式（214）相比較看，由于 僅是 max?中的一個最大值，所以，由式（227）所表示的穩(wěn)定條件既是必要的又是充分的。 失調(diào)在自適應(yīng)濾波器中，失調(diào)（Misnadjustment）M 是衡量其濾波性能的一個技術(shù)指標(biāo)，它被定義為總體平均超量均方誤差值 與最小均方誤差值 之比，即)(?ex?min?M= （228）把式（226）代入上式中，得到 M= （229） 通常所用 μ 值很小，因此，失調(diào)又可近似表示為 M= （230）顯而易見，自適應(yīng)濾波器 LMS 算法的穩(wěn)態(tài)失調(diào)與步長 μ 成正比。把算法的總體平均學(xué)習(xí)曲線的時(shí)間常數(shù) 寫成 的逆數(shù)，而平均特征值 應(yīng)等于 ，則濾波器avmse)(?av??2av?穩(wěn)定失調(diào) M 又可由式（229）寫成???Mii1mn2????Mi10??][20Rtr?min)]([?exE???Mii12???Mi12???Mk1?12M= （231）上面諸式表明：（1）失調(diào)為自適應(yīng) LMS 算法提供了一個很有用的測度，比如 10﹪失調(diào)意味著自適應(yīng)算法所產(chǎn)生的總體平均 MSE 高于最小均方誤差的增量值為 10﹪；（2）失調(diào)是隨濾波系數(shù)數(shù)目線性增加的；（3）失調(diào)可以做的任意小，只要選用大的時(shí)間常數(shù) ，也就是小的步長值即可。avmse)(?但是，濾波器自適應(yīng)收斂過程需要長的時(shí)間，影響了濾波器自學(xué)習(xí)、自訓(xùn)練的速度，所以，自適應(yīng)濾波器 LMS 算法的失調(diào)與自適應(yīng)收斂過程之間存在著矛盾，如何縮短收斂過程，而且有很小的失調(diào)，這是值得研究的問題。 縮短收斂過程的方法根據(jù)自適應(yīng)濾波器權(quán)系數(shù)調(diào)節(jié)的遞歸計(jì)算公式可以看出，LMS 算法的迭代公式為 為了縮短收斂過程，概括起來可以從如下三個方面進(jìn)行設(shè)計(jì)：第一，采用不同的梯度估值 ，如 LMS 牛頓算法，它估計(jì) 時(shí)采用了輸入矢量相)(n????關(guān)函數(shù)的估值，使得收斂速度大大快于上述經(jīng)典的 LMS 算法，因?yàn)樗诘^程中采用了更多的有關(guān)輸入信號矢量的信息。第二，對收斂因子步長 μ 選用不同方法。步長 μ 的大小決定著算法的收斂速度和達(dá)到穩(wěn)態(tài)的失調(diào)量的大小。對于常數(shù)的 μ 值來說，收斂速度和失調(diào)量是一對矛盾，要想得到較快的收斂速度可選用大的 μ 值，這將導(dǎo)致較大的失調(diào)量；如果要滿足失調(diào)量的要求，則收斂速度受到制約。因此，人們研究了采用變步長的方法來克服這一矛盾。自適應(yīng)過程開始時(shí)，取用較大的 μ 值以保證較快的收斂速度，然后讓 μ 值逐漸減小，以保證收斂后得到較小的失調(diào)量?，F(xiàn)在已有不同準(zhǔn)則來調(diào)整步長 μ，如歸一化 LMS 算法、時(shí)域正交化 LMS 算法等。第三，采用變換域分塊處理技術(shù)。對由濾波器權(quán)系數(shù)矢量調(diào)整的修正項(xiàng)中的乘積用變換域快速算法與分塊處理技術(shù)可以大大減少計(jì)算量，且能改善收斂特性，如頻域 LMS 算法、分塊 LMS 算法等。AVmseMav???21)(4?)()()]([21xewnn?????13第三章 LMS 自適應(yīng)濾波器的改進(jìn)形式文獻(xiàn)中已經(jīng)提出了許多基于 LMS 算法的改進(jìn)的自適應(yīng)算法。這些算法的共同特點(diǎn)是從LMS 算法出發(fā)，試圖改進(jìn) LMS 算法的某些性能，包括 LMS 算法的收斂特性，減小穩(wěn)態(tài)均方誤差，減小計(jì)算復(fù)雜度。 歸一化 LMS 算法如果不希望用與估計(jì)輸入信號矢量有關(guān)的相關(guān)矩陣來加快 LMS 算法的收斂速度，那么可用變步長方法來縮短其自適應(yīng)收斂過程，其中一個主要的方法是歸一化 LMS（Normalized LMS,縮寫為 NLMS）算法 [68]，變步長 μ（n）的更新公式由式（28）寫成 （31）)()()()()()1( nwxewn ??????式中， 表示濾波權(quán)系數(shù)矢量迭代更新的調(diào)整量。為了達(dá)到快速收斂的)(xew???14目的，必須合適地選擇變步長 μ（n）的值，一個可能的策略是盡可能多的減小瞬時(shí)平方誤差，即用瞬時(shí)平方誤差作為均方誤差 MSE 的簡單估計(jì)，這也是 LMS 算法的基本思想 [6]。瞬時(shí)平方誤差可以寫成 22 )]()([)( nwxndeT?? （32）)()(2)()(2 nxwdnxTT??如果濾波權(quán)系數(shù)矢量的變化量 ，則對應(yīng)的平方誤差 可以由上)(??2e式得到（33）在此情況下，瞬時(shí)平方誤差的變化量 定義為)(2ne?)()(23ne??? （34）)()()( nwxnwxwTTT ??把 的關(guān)系代入式（34）中，得到)()(xnw? （35）2222 )]()[()()(enene TT??為了增加收斂速度，合適地選取 μ（n）使平方誤差最小化，故將式（ 35）對變系數(shù)μ（n）求偏導(dǎo)數(shù)，并令其等于零，求得 （36）這個步長值 μ（n）導(dǎo)致 出現(xiàn)負(fù)的值，這對應(yīng)于 的最小點(diǎn)，相當(dāng)于平方誤)(2ne?)(2ne?差 等于零。為了控制失調(diào)量，考慮到基于瞬時(shí)平方誤差的導(dǎo)數(shù)不等于均方誤差 MSE)(2e求導(dǎo)數(shù)值，所以對 LMS 算法的更新迭代公式作如下修正： （37）式中，μ 為控制失調(diào)的固定收斂因子， γ 參數(shù)是為避免 過小導(dǎo)致步長值太大而設(shè))(nxT置的。通常稱式（37）為歸一化 LMS 算法的迭代公式。為了保證自適應(yīng)濾波器的工作穩(wěn)定，固定收斂因子 μ 的選取應(yīng)滿足一定的數(shù)值范圍。現(xiàn)在我們來討論這個問題。首先考慮到下列關(guān)系： （38a）][)([RtrnxET? （38b）)()(2)()(22xdwnwnxeTT T???)(1xnT?)()()()1( nexnwnT?????)]([)(xeeTT???????][2Rtr?15然后對收斂因子的平均值應(yīng)用更新 LMS 的方向 是 ,最后，將歸一化 LMS 算)(nxe法的更新公式與經(jīng)典 LMS 算法更新公式相比較，可以得到收斂因子 μ 的上界不等式條件，如下： （39）或 20??顯然， 由式（37）與（39）可構(gòu)成歸一化 LMS 算法，其中 ，選擇不同的 γ 值10??可以得到不同的算法，當(dāng) 時(shí)，由式（37）可以寫成?? （310）這種算法是 NLMS 算法的泛化形式，其中隨機(jī)梯度估計(jì)是除以輸入信號矢量元素平方之和。所以步長變化的范圍比較大，可由較好的收斂性能。在此情況下，算法的歸一化均方誤差（NMSE）可由式（310）得到 （311）得到最佳濾波權(quán)系數(shù)： （312）PRw????10式中， （313a ） （313b）所以，自相關(guān)矩陣和互相關(guān)量都含有歸一化因子，在穩(wěn)定狀態(tài) x(n)和 d(n)時(shí)，假定自相關(guān)矩陣 存在可逆性。同時(shí)，我們由式（311）可以看出，當(dāng)且僅當(dāng) 時(shí)，歸一R? 0)(wnxdT??化 LMS 算法的均方誤差可等于零。這需要對 d(n)用輸入信號矢量線性組合進(jìn)行精確地建模。此時(shí)，最佳濾波權(quán)矢量 變成合宜的線性權(quán)系數(shù)矢量。0w?當(dāng) γ=1 時(shí)，NLMS 算法更新公式可以寫成 ][1)(Rtrtn? )()(()()1(2nxwndxnwT?????????????????2)()(nxwdEnT????????2)(nxET????????2)(nxdP)()(1)()1( nxenxnT????16 （314）由此可見 NLMS 算法的特殊形式： （315）或 （316）這也表明等效步長是輸入信號的非線性變量，它使變步長由大逐步變小了，加速了收斂過程。當(dāng)然，NLMS 算法的計(jì)算量較之 LMS 算法稍有些增加。下面我們介紹兩個有趣的改進(jìn)型 LMS 算法一為時(shí)域正交（TimeDomain Orthogonal）LMS 算法，簡稱為 TDOLMS 算法(MLMS)，另一位修正 LMS 算法 [6]。它們都屬于可變步長的 LMS 算法，可以縮短自適應(yīng)收斂過程的時(shí)間。 TDOLMS 算法時(shí)域正交算法是基于對平方誤差取時(shí)間上的平均，即對 （317）取最小值。按上式對權(quán)系數(shù)矢量取偏導(dǎo)數(shù)，并令其等于零，得到時(shí)域正交準(zhǔn)則下序列 x(n)對 d(n)進(jìn)行線性估計(jì)的最佳權(quán)系數(shù)矢量 ，即0w （ 318a）或 （318b）這意味著用時(shí)域正交 LMS 算法的權(quán)矢量更新運(yùn)算公式，可對線性估計(jì)的權(quán)矢量作自適應(yīng)調(diào)整，使其逐步趨于最佳值。Huffman 的 TDOLMS 算法的更新公式是 （319）當(dāng) m 取足夠大的值時(shí)，上式又可近似成)(])([)(1)((2nxwndxnwT????21)()]()([)( nxxT?????????mnTmn nxdeeE02022 )]()([1)(1)]([? 0)(])()([100????nxndmT0)(])([10??nTnxdxw?? ,2,10)。()()()(1())1( nmmxwdxxmwTTT ?????????????????? ?17 （320）這與上面討論的歸一化 LMS 算法的權(quán)矢量更新公式相類似。 MLMS 算法修正 LMS 算法是在 LMS 算法中權(quán)矢量的校正量與梯度估計(jì)之間人為地引入一個時(shí)延，利用現(xiàn)時(shí)刻的梯度估計(jì)代替前一時(shí)刻的梯度估計(jì)，有 （321）稱之為修正 LMS 算法。這種算法乍看起來似乎存在矛盾，因?yàn)?本身就是 的)1(???n)1(?nw函數(shù)，其實(shí)，它還是可解得。式（321）用瞬時(shí)梯度信息可表示為 （322）)()(1(??xenw?將 代入上式，有)1()()1( ????nwxndeT )1(])(([??nxdT?整理后，得到