【導(dǎo)讀】對(duì)LMS算法及其改進(jìn)算法進(jìn)行了研究，探討了步長(zhǎng)因子??對(duì)各種算法收斂性、穩(wěn)定。并用MATLAB對(duì)其學(xué)習(xí)曲線、收斂速度等進(jìn)行了仿真分析。結(jié)果表明，變步長(zhǎng)??MLMS算法近似等效于LMS算法。它們的自適應(yīng)過(guò)程較快，性能有了很大改進(jìn)。Keywords：LMSalgorithm，Adaptive，NLMSalgorithm，Variablestep，MATLABsimulation.

　　

【正文】 μ值變?yōu)?1 之后，濾波器的權(quán)矢量將逐漸變化，并最終變?yōu)?0 矢量。這個(gè)過(guò)程稱為泄露 [8]。泄露 LMS 算法在通信系統(tǒng)的自適應(yīng)差分脈沖編碼調(diào)制（ ADPCM）中得到應(yīng)用，被用來(lái)減小或消除通道誤差。另一方面，泄露 LMS 算法也常用來(lái)在自適應(yīng)陣列中消除旁瓣效應(yīng)。 實(shí)際上，在無(wú)噪聲的條件下，泄露 LMS 算法的性能并沒(méi)有常規(guī) LMS 算法 好，一下分析都可以說(shuō)明這一點(diǎn)。由式（ 327），有 )]()()[(2)()1( nxndnxnwnw T???? ?? = )()(2)()]()(2[ nxndnwnxnxI T ??? ?? （ 328） 假定輸入信號(hào)與權(quán)矢量是相互獨(dú)立的，則 pnwERInwE ??? 2)]([)2()]1([ ???? （ 329） 或者 （ 330） 若要保證上述算法的穩(wěn)定，需要有 (331) 顯然，上式明顯與最佳權(quán)矢量 pRwopt 1?? 由偏差。因此，泄露 LMS 算法是一種有偏的LMS 算法。 Γ 越接近于 1，偏差越小 ?？梢宰C明，泄露 LMS 算法的穩(wěn)定性條件為 （ 332） 由于矩陣 是嚴(yán)格正定的，故沒(méi)有零 值的特征值。此外，泄露 LMS 算法的pnwEIRInwE ???? 2)]([)21(2)]1([ ??????? ?????PIRnwEn 121)]}([lim { ??? ?????? ??? ?????2111m in?????????? ?? IR 21 ?iiLi ????? ???? )1(2 1)( 23 第 i 個(gè)權(quán)系數(shù)的時(shí)間常數(shù)為 （ 333） 式中， )(Li? 表示泄露 LMS 算法第 i 個(gè)權(quán)系數(shù)的時(shí)間常數(shù)。顯然， )(Li? 比 LMS 算法的時(shí)間常數(shù)i? 小，即可能以更快的速度收斂。 極性 LMS 算法 在 有些應(yīng)用領(lǐng)域，尤其是在高速通信領(lǐng)域，實(shí)際問(wèn) 題對(duì)算法的計(jì)算量有很嚴(yán)格的要求，因此，產(chǎn)生了一類稱為極性（或符號(hào)）算法的自適應(yīng)算法 [8]。這種算法可以顯著地減小自適應(yīng)濾波器的計(jì)算量，有效地簡(jiǎn)化相應(yīng)的硬件電路和程序計(jì)算。這類極性算法可以分為三種不同的實(shí)現(xiàn)方式，即對(duì)誤差取符號(hào)的誤差極性算法（ SE），對(duì)輸入信號(hào)取符號(hào)的信號(hào)極性算法（ SR）和對(duì)誤差與輸入信號(hào)二者均取符號(hào)的簡(jiǎn)單極性算法（ SS）。這三種算法的權(quán)矢量迭代公式如式（ 334）所示。 （ 334） 在式（ 334）中，符號(hào)函數(shù) sgn[ ]定義為 （ 335） 極性 LMS 算法的主要優(yōu)點(diǎn)是計(jì)算量小。顯然，這種算法把一個(gè)數(shù)據(jù)樣本的 N 比特運(yùn)算簡(jiǎn)化為一個(gè)比特的運(yùn)算，即符號(hào)或極性的運(yùn)算。另一方面，與基本 LMS 算法相比，這種三個(gè)在梯度估計(jì)性能上有所退化，這是由于其較粗的量化精度所引起的，并由此引起了收斂速度的下降和穩(wěn)態(tài)誤差的增加。 LMS 算法梯度估計(jì)的平 滑 在迭代方程中，用帶噪的瞬時(shí)梯度估值 )(n?? 來(lái)替代梯度真值 )(n? 是 LMS 算法的一個(gè)顯著缺點(diǎn)。如果使用連續(xù)幾次梯度估值的平滑結(jié)果來(lái)替換這個(gè)瞬時(shí)值，則有可能改善 LMS 算法的性能。有許多方法可以用于對(duì)一個(gè)時(shí)間序列進(jìn)行平滑，歸納起來(lái)，可以分為線性平滑和非線性平滑兩類 [8]。 設(shè)平滑 LMS 梯度估計(jì)的自適應(yīng)迭代算法為 )(2)()1( nbnwnw ???? （ 336） 式中， TM nbnbnbnb )]()()([)( 10 ?? （ 337） 對(duì)于線性平滑，一種有效的平滑方法是鄰域平均法，即 )](s g n [)](s g n [2)()1()](s g n [)(2)()1()]()(s g n [2)()1(nxnenwnwnxnenwnwnxnenwnw??????????????????????0,10,00,1)s gn(tttt 24 （ 338） 式中， N 表示參加平滑的梯度 估值的樣本點(diǎn)數(shù)。另一種有效地平滑方法是低通濾波法，即利用低通濾波器來(lái)進(jìn)行線性平滑。 )}()()1()()()({)( NinxneinxneinxneL P Fnb i ?????? ? （ 339） 式中 ， LPF[ ]表示低通濾波器。 對(duì)于非線性平滑處理，常采用中值濾波技術(shù)。 b(n)矢量中的第 i 個(gè)元素 )(nbi 為 Ni inxneM e dnb )]()([)( ?? (340) 或者 )]1()1()()([)( ??????? NinxNneinxneM e dnb i ? （ 341） 式中， Med 表示取中值運(yùn)算。中值平滑除了像線性平滑一樣可以用于消除梯度估計(jì)的噪聲之外，對(duì)信號(hào)的“邊緣”成分影響不大，圖 給出了基于中值平滑的 LMS 算法在自適應(yīng)濾波中應(yīng)用的結(jié)果。 解相關(guān) LMS 算法 LMS 算法 的一個(gè)主要缺點(diǎn)是其收斂速度比較慢，這主要是由于算法的輸入信號(hào)矢量的各元素具有一定的相關(guān)性。 研究已經(jīng)表明，對(duì)輸入信號(hào)矢量解相關(guān)可以有效地加快LMS 算法的收斂速度 [8]。 定義 x(n)與 x(n1)在時(shí)刻 n 的相關(guān)系數(shù)為 （ 342） 根據(jù)定義，若 1)( ?nc ，則稱 )(nx 是 )1( ?nx 的相干信號(hào)；若 0)( ?nc ,則稱 )(nx 與)1( ?nx 之間不相關(guān)；若 1)(0 ?? nc ，則稱 )(nx 與 )1( ?nx 相關(guān)。 )(nc 值越大， )(nx 與 )1( ?nx之間的相關(guān)性就越強(qiáng)。 實(shí)際上， )1()( ?nxnc 代表了信號(hào) )(nx 中與 )1( ?nx 相關(guān)的部分。如果 )(nx 中減去這一部分，相當(dāng)于一種解相關(guān)運(yùn)算。定義解相關(guān)方向矢量為 )1()()()( ??? nxnxnv （ 343） 另一方面，考慮自適應(yīng)迭代的收斂因子滿足下列最小化問(wèn)題的解，有 )]()([m ina r g)( nvnwJn ??? ??? （ 344） 由此得到時(shí)變收斂因子為 （ 345） 這樣，解相關(guān) LMS 自適應(yīng)算法的迭代公式為 )()()()1( nvnnwnw ???? （ 346） ? ???? n Nnj jxjeNnb 1 )()(1)()1()1( )1()()( ?? ?? nxnx nxnxnc TT)()( )()( nvnx nen T?? 25 上述 解相關(guān) LMS 算法可以看做一種自適應(yīng)輔助變量法，其中的輔助變量由 )1()()()( ??? nxnxnv給出。一般來(lái)說(shuō)，輔助變量的選取原則是，它應(yīng)該與滯后的輸入和輸出強(qiáng)度相關(guān)，而與干擾不相關(guān)。 性能比較 LMS 自適應(yīng)濾波器在問(wèn)世以來(lái)，受到了人們普遍的重視，得到了廣泛的應(yīng)用。這種濾波器的主要優(yōu)點(diǎn)是其收斂性能穩(wěn)定，且算法比較簡(jiǎn)單。然而，作為梯度算法的一種， LMS 算法也有其固有的 缺點(diǎn)，首先，這種方法一般來(lái)說(shuō)不能任意初始點(diǎn)出發(fā)通過(guò)最短的路徑到達(dá)極值點(diǎn)；其次，當(dāng)輸入信號(hào)自相關(guān)陣 R 的特征值在數(shù)值上分散性比較大時(shí)，這種方法出現(xiàn)了許多關(guān)于自適應(yīng)濾波器的改進(jìn)算法，例如 本文提到歸一化 LMS 算法、泄露 LMS 算法 、解相關(guān) LMS算法以及 TDOLMS 算法和 MLMS 算法。本節(jié)就其各種算法的性能進(jìn)行比較。 對(duì)于基本 LMS 算法來(lái)說(shuō)，收斂因子應(yīng)滿足下列收斂條件： 式中 max? 為自相關(guān)矩陣 R 的最大特征值 [6]。 對(duì)于歸一化 LMS 算法來(lái)說(shuō)，收斂因子應(yīng)滿足下列收斂條件： 10 ?? ? 就能夠保證經(jīng)過(guò)足夠大的 n 次迭代，自適應(yīng)濾波器能夠穩(wěn)定收斂 [6]。 對(duì)于泄露 LMS 算法來(lái)說(shuō)，收斂因子應(yīng)滿足下列收斂條件： 對(duì)于極性 LMS 算法來(lái)說(shuō)，其主要優(yōu)點(diǎn)是計(jì)算量小，但它 在梯度估計(jì)性能上有所退化，這是由于其較粗的量化精度所引起的，并由此引起了收斂速度的下降和穩(wěn)態(tài)誤差的增加[8]。 根據(jù)自適應(yīng)權(quán)調(diào)整公式 )()(2)()1( kxxekwkw ???? 可知， LMS 算法相應(yīng)的梯度校準(zhǔn)值為隨機(jī)量，因此加權(quán)矢量將以隨機(jī)的方式變化。所以， LMS 算法也稱之為隨機(jī)梯度法。 LMS 算法由于加權(quán)矢量的隨機(jī)起伏造成的影響主要包括失調(diào)量、穩(wěn)態(tài)誤差等。所以 對(duì) LMS 自適應(yīng)算法的穩(wěn)態(tài)誤差 也進(jìn)行了仿真。 第五章 LMS 算法的應(yīng)用 LMS 類均衡器 自適應(yīng)均衡器是在自適應(yīng)濾波理論基礎(chǔ)上建立起來(lái)的，包括 非線性動(dòng)力學(xué)神經(jīng)網(wǎng)絡(luò)濾波理論。我們考慮到的信道的時(shí)變特性和非線性，應(yīng)用某種準(zhǔn)則的自適應(yīng)算法對(duì)均衡器參數(shù)隨著信號(hào)和信道的變化做相應(yīng)的調(diào)整 [6,8]。從自適應(yīng)均衡參數(shù)與接收信號(hào)的關(guān)系來(lái)看，大體上可分為線性均衡器和非線性均衡器。其中非線性均衡器按照功能和結(jié)構(gòu)則可分為非遞歸均衡器max10 ????????2111m in???? 26 和遞歸均衡器，以及神經(jīng)智能均衡器。如果根據(jù)算法來(lái)分，有自適應(yīng)最小均方誤差（ LMS）均衡器、自適應(yīng)遞歸最小二乘（ RLS）均衡器、自適應(yīng)格型最小二乘（ LLS）均衡器、自適應(yīng)平方根 RLS 均衡器、自適應(yīng)最大似然時(shí)序估計(jì)均衡器、混合滑動(dòng)指數(shù)窗自適應(yīng)判 決反饋均衡器，以及盲自適應(yīng)均衡器等。 我們只對(duì)其中一種均衡器進(jìn)行研究。 LMS 算法是一類比較重要的自適應(yīng)算法，其顯著特點(diǎn)是比較簡(jiǎn)單，不需要計(jì)算有關(guān)的相關(guān)函數(shù)，也不需要矩陣求逆運(yùn)算 [8]。關(guān)于 LMS 算法的基本原理，在 節(jié)進(jìn)行了詳細(xì)的討論，本節(jié)主要討論 LMS 算法在信道均衡中的應(yīng)用。 解相關(guān) LMS（ Decorrelation LMS,DLMS）均衡算法 根據(jù)相關(guān)文獻(xiàn)，如果利用輸入信號(hào)的正交分量 更新自適應(yīng)濾波器的參數(shù)，可以加快 LMS算法的收斂速度，這里提出 的解相關(guān) LMS 算法就是通過(guò)解相關(guān)算法利用輸入信 號(hào)的正交分量更新濾波器的參數(shù)。 首先定義均衡器 抽頭輸入向量 ??nx 與 ? ?1?nx 在 n 時(shí)刻的相關(guān)系 （ 51） 則解相關(guān)運(yùn)算就是從 ??nx 減去上一時(shí)刻 ? ?1?nx 與其相關(guān)的部分 ? ? ? ?1?nxn? ，并用解相關(guān)的結(jié)果作為更新方向向量 ??nv ，即 ? ? ? ? ? ? ? ?1??? nxnnxnv ? （ 52） 另外，步長(zhǎng)參數(shù) ??n? 應(yīng)該滿足下式的最小問(wèn)題解， ? ? rRCJC o p t 1m ina r g ??? 其中， ? ? ? ?][, nxyErxxER T ?? ， ??ny 為期望響應(yīng)，即 ? ? ? ? ? ?? ?nnCJn ??? ? ??? 1m ina r g （ 53） 下降算法的均衡器抽頭參數(shù)迭代表達(dá)式為 ? ? ? ? ? ? ? ?nnnCnC ????? 1 （ 54） 將式 （ 52）和式（ 53）代入上式即可更新均衡器抽頭系數(shù)。 變化域解相關(guān) LMS 均衡算法 對(duì) LMS 算法的改進(jìn)還可以通過(guò)對(duì)輸入信號(hào)向量 x 進(jìn)行酉變換實(shí)現(xiàn)，通過(guò)酉變換可以提高收斂速度，而計(jì)算量并沒(méi)有明顯變化，此類算法及其變型統(tǒng)稱為變換域自適應(yīng)濾波算法 [4,8]。 其中酉變換可以使用 DFT,DCT 和 DHT 等變換方法。 設(shè) S 是一個(gè) MM? 酉變換矩陣，即 ISSH ?? （ 55） 其中 0?? 為一常數(shù)；用酉矩陣 S 對(duì)輸入信號(hào)向量 x 進(jìn)行酉變換，可以得到 ? ? ? ?