【正文】 刻的濾波器參數(shù)相同 ， 即： ?? )1()0( WW …… . )1( ?? nW 這樣 ， 利用式 (57)及上述假定 ， 就有 (514) )1()1()()()()(111 ???? ???? nWnWiXiXnRnW niTin?燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 25 另一方面 ， 為了簡(jiǎn)化 )(2nW 的表達(dá) ， 一種合理的想法就是：認(rèn)為遺忘因子 0?? 。 為此 ， 我們先引入一個(gè)著名的結(jié)果 —— 矩陣求逆引理 。 從而 ， 有下列的簡(jiǎn)化結(jié)果： )()()()()(0)()( 1112 nenXnRieiXnRnW Tni Tin ?? ?? ? ?? (515) 將式 (513)和 (514)代入 (512)， 則得 )()()()1()( 1 nenXnRnWnW T???? (516) 式 (515)描述了一個(gè)濾波器參數(shù)受其輸入誤差 )(ne 控制的自適應(yīng)濾波算法 ， 被稱作遞歸最小二乘 (RLS)。 第二 ， )(nW 與預(yù)測(cè)誤差 )(ne 之間也未建立任 何關(guān)系 ， 不能達(dá)到根據(jù)預(yù)測(cè)誤差 )(ne 來調(diào)整濾波器參數(shù)的要求 。 由 燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 24 ? ? ? ? 0)()()(2)()(),( 11 2 ?????? ???? ?? ? ?? ? iXiXWixiXWixWW Wn ni Tinni Tin ??? (55) 可得到等價(jià)關(guān)系式 ： ? ?? ? ?? ?ni ni inTin iXixWiXiX1 1 )()()()( ?? (56) 若令： ???? niTin iXiXnR1 )()()( ? (57) ?? ?? ni in iXixnU 1 )()()( ? (58) 則式 (56)可簡(jiǎn)寫為： )()()( nUnWnR ? (59) 假定 )(nR 是非奇異的 ， 則： )()()( 1 nUnRnW ?? (510) 這就是濾波器濾波參數(shù)的公式 ， 之所以記作 )(nW ， 是因?yàn)?W 隨著時(shí)間而改變 。 但是由于真實(shí)信號(hào) )(ns 未知 ， 故 )(n? 是不可觀測(cè)的或無法計(jì)算的 。 遞歸最小二乘 (RLS)算法 這一節(jié)主要介紹遞歸最小二乘法 (RLS)算法是一種快速收斂的算法 ， 該算法判決依據(jù)是直接處理接受數(shù)據(jù) ， 使其二次性能指數(shù)函數(shù)最小 ， 而前面所述的 LMS 算法則是使平方誤差的期望值最小 。 燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 23 第 5 章 RLS 自適應(yīng)濾波算法分析 引言 最小二乘 (LS， Leastsquare)算法旨在期望信號(hào)與模型濾波器輸出之差的平方和達(dá)到最小 。 本章小結(jié) 本章詳細(xì)介紹了 LMS算法 ， 并對(duì)與其性能相關(guān)的各個(gè)方面進(jìn)行了討論 。 從收斂速度的角度考慮 ， 步長(zhǎng)因子 ? 應(yīng)該盡可能大 ， 再看信號(hào)環(huán)境 ， 即 xxR 的特性對(duì)算法收斂性能的影響如果當(dāng)特征值的分布范圍較大 ，即最大特征值和最小特征值之比較大時(shí) ， 公比的取值幅度也將比較大 ， 算法的總的收斂速度將會(huì)變得比較慢 。 這些影響主要表現(xiàn)為算法的失調(diào) ， 而失調(diào)的嚴(yán)重程度 ， 則和 ? 的取值存在直接關(guān)系 。 為減小失調(diào) ， 需要設(shè)置較小的步長(zhǎng)因子 ， 這會(huì)使算法的收斂速度降低 ， 這構(gòu)成了一對(duì)矛盾 。 它控制了算法穩(wěn)定性和自適應(yīng)速度 ， 如果 ? 很小 ， 算法的自適應(yīng)速度會(huì)很慢 ； 如果 ? 很大 ， 算法會(huì)變得不穩(wěn)定 。 其輸出信號(hào) ()yk 、輸出誤差 ()ek 及權(quán)系數(shù) ()Wk的計(jì)算公式為： [17] )()()()()(2)()1()()()()()()(knkxkdkXknWkWkykdkekXkWkyeT????????? (417) k 為迭代次數(shù) ， M 為濾波器的階數(shù) 。 根據(jù)這個(gè)最速下降法 ， “下一時(shí)刻” 權(quán) 系數(shù)向量 )1( ?nW 應(yīng)該等于“現(xiàn)時(shí)刻”權(quán)系數(shù)向量)(nW 加上一個(gè)負(fù)均方誤差梯度 )(n?? 的比例項(xiàng) ， 即 )()()1( nnWnW ???? ? (412) 式中的 ? 是一個(gè)控制收斂速度與穩(wěn)定性的常數(shù) ， 稱之為收斂因子 。 可以用梯度法來求該最小值 。 絕大多數(shù)對(duì)自適應(yīng)濾波器的研究是基于由 Widrow 提出的 LMS 算法 。 由于主輸入端不可避免地存在干擾噪聲 ， 自適應(yīng)濾波算法將產(chǎn)生參數(shù)失調(diào)噪聲 。 燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 18 第 4 章 LMS 自適應(yīng)濾波算法分析 引言 LMS算法是 1960年 由 Widrow和 Hoff提出的最小均方誤差 (LMS)算法 ，LMS算法是基于估計(jì)梯度的最速下降算法 的 ， 由于采用粗糙的梯度估計(jì)值得到的 ， 從而其算法性能欠佳 ， 應(yīng)用范圍受限 ， 但是 因?yàn)槠渚哂杏?jì)算量小、易于實(shí)現(xiàn)等優(yōu)點(diǎn)而在實(shí)踐中被廣泛采用 。 矩陣的 QR 分解具有良好的數(shù)值穩(wěn)定性 。 變換域類算法亦是想通過作某些正交變換使輸入信號(hào)自相關(guān)矩陣的特征值發(fā)散程度變小 ， 提高收斂速度 。 [14]這類算法主要有 ： Periodic LMS 算法 ， MMax NLMS燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 17 算法和 Max NLMS 算法 。 各種 OR分解的快速自適應(yīng)濾波算法可以直接計(jì)算估計(jì)誤差 ， 并不需要更新權(quán)系數(shù)向量 。 為了提高信號(hào)子帶分解自適應(yīng)濾波器的收斂速度 ， Deleon等認(rèn)為 ， 經(jīng)過子帶分解后 ， 抽取引起部分信號(hào)的浪費(fèi) ， 采用Multirate Reoeating Method可以利用那些被浪費(fèi)的信號(hào)成分 ， 通過增加單位時(shí)間內(nèi)對(duì)權(quán)值的更新次數(shù) ， 獲得更快的收斂速度 。 其中 ， 由于對(duì)信號(hào)進(jìn)行了抽取 ， 使完成自適應(yīng)濾波所需的計(jì)算量得以減小 ； 而在子帶上進(jìn)行自適應(yīng)濾波使收斂性能又有所提高 。 一些快速 RLS算法雖然降低了 RLS算法的計(jì)算復(fù)雜度 ， 但都存在數(shù)值穩(wěn)定性問題 。 快速仿射投影算法的計(jì)算復(fù)雜度雖然降低了 ， 但其內(nèi)嵌的滑動(dòng)窗快速橫向?yàn)V波器算法的實(shí)現(xiàn)相對(duì)復(fù)雜 ， 并且存在數(shù)值穩(wěn)定性問題 。 歸一化最小均方誤差 (NLMS)算法是 LMS算法的改進(jìn)算法 ， 它可 以看作是一種變步長(zhǎng)因子的 LMS算法 ， 其收斂性能對(duì)輸入信號(hào)的能量變化不敏感 。 自適應(yīng)濾波器的權(quán)系數(shù)定義為： ( ) ( )W n Tw n? ；濾波器的輸出信號(hào)為 ：()yn W? T ( ) ( )n Xn ；誤差信號(hào)為： ( ) ( ) ( )e n d n y n??；權(quán)系數(shù)向量的迭代方程為： 1( 1 ) ( ) 2 ( ) ( ) ( )W n W n u e n p n X n?? ? ? (33) ( ) [ ( , 0 ) ( , 1 ) . . . ( , 1 ) ]P n d ia g P n P n P n N?? (34) ( , ) ( 1 , ) (1 ) ( , ) ( , )TP n l P n l X n l X n l??? ? ? ? 0,1, 2... 1lN?? (35) 若令 2 ()A Pn? ， 則權(quán)系數(shù)向量的迭代方程為： 2( 1 ) ( ) 2 ( ) ( )W n W n u e n A X n?? ? ? (36) 此外 ， 小波變換也被用于變換域自適應(yīng)濾波 。 [12]變換域自適應(yīng)濾波算法的一般步是 ： 首先 選擇正交變換 ， 把時(shí)域信號(hào)轉(zhuǎn)變?yōu)樽儞Q域信號(hào) 。 輸入信號(hào)自相關(guān)矩陣的特征值發(fā)散程度越小 ， LMS 算法的收斂性能越好 。 格型 RLS算法的收斂速度基本上與常規(guī) RLS算法的收斂速度相同 ， 因?yàn)槎叨际窃谧钚《说囊饬x下求最佳 。 格型濾波器與直接形式的 FIR濾波器可以通過濾波器系數(shù)轉(zhuǎn)換相互實(shí)現(xiàn) 。為了減小 RIS算法的計(jì)算復(fù)雜度 ， 并保留 RLS算法收斂速度快的特點(diǎn) ， 產(chǎn)生了許多改進(jìn)的 RLS算法 。 RLS 自適應(yīng)濾波算法 LMS算法的優(yōu)點(diǎn)是結(jié)構(gòu)簡(jiǎn)單 ， 魯棒性強(qiáng) ， 其缺點(diǎn)是收斂速度很慢 。 曾提出了一種變步長(zhǎng)自適應(yīng)濾波算法 。 減小步長(zhǎng)因子 ? 可減小自適應(yīng)濾波算法的穩(wěn)態(tài)失調(diào)噪聲 ， 提高算法的收斂精度 。 LMS 算法收斂的條件為： max0 1/???? ， max? 是輸入信號(hào)自相關(guān)矩陣的最大特征值 。 自適應(yīng)濾波算法的種類 LMS 自適應(yīng)濾波算法 由 Widrow和 Hoff提出的最小均方誤差 (LMS)算法 ， 因其具有計(jì)算量小、易于實(shí)現(xiàn)等點(diǎn)而在踐中被廣泛用 。 [10]基于最小均方誤差準(zhǔn)則 ， LMS 算法使濾波器的輸出信號(hào)與期望輸出信號(hào)之間的均方誤差2()E e n????最小 。 然而 ， 在實(shí)際應(yīng)用中常常無法得到信號(hào)特征先驗(yàn)知識(shí) ， 在這種情況下 ， 自適應(yīng)濾波器能夠得到較好的濾波性能 。 圖 25 信號(hào)預(yù)測(cè)器 本章小結(jié) 自適應(yīng) 濾波算法是信號(hào)處理的重要基礎(chǔ) ， 近十幾年來 ， 自適應(yīng)濾波理論和方法得到了迅速的發(fā)展 ， 究其原因是因?yàn)樽赃m應(yīng)濾波器相比于其他一般的濾波器在濾波性能、設(shè)計(jì)實(shí)現(xiàn)的難易程度、對(duì)外部環(huán)境的復(fù)雜程度的適應(yīng)能力和對(duì)系統(tǒng)先驗(yàn)統(tǒng)計(jì)知識(shí)的依賴程度等方面都顯現(xiàn)出強(qiáng)大的優(yōu)勢(shì) 。 通常情況下 ， 輸入信 號(hào)的時(shí)延形式在接收端是可以得到的 ， 采用形式是標(biāo)準(zhǔn)的訓(xùn)練信號(hào) 。 因而 ， 由信道和均衡器級(jí)聯(lián)組成的系統(tǒng)在 自適應(yīng) 濾波器 + 1( ) ( )x k n k? 2()nk ()ek 燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 10 未知系統(tǒng) 自適應(yīng) 濾波器 ＋ ()dk ()yk ()ek 通帶內(nèi)有基本均勻的振幅特性 ， 而帶外基本為零 ， 相位響應(yīng)在帶內(nèi)是頻率的線性函數(shù) 。 其中 1()nk和 2()nk是彼此相關(guān)的噪聲函數(shù) 系統(tǒng)辨識(shí)器 在系統(tǒng)辨識(shí)應(yīng)用中 ， 期望信號(hào)是未知系統(tǒng)受某個(gè)寬帶信號(hào)激勵(lì)時(shí)產(chǎn)生的輸出 ， 在大多數(shù)情況下 ， 輸入是白噪聲信號(hào) 。 對(duì)于信號(hào)增強(qiáng)的情況 ， 信號(hào) ()xk 受噪聲1()nk的污染 ， 而且與噪聲相關(guān)的信號(hào) 2()nk是可以得到的 (即可測(cè)量的 )。 自適應(yīng)濾波器的應(yīng)用 近十幾年來 ， 自適應(yīng)濾波理論和方法得到了迅速的發(fā)展 ， 究其原因是因?yàn)樽赃m應(yīng)濾波器相比于其他一般的濾波器在濾波性能、設(shè)計(jì)實(shí)現(xiàn)的難易程度、對(duì)外部環(huán)境的復(fù)雜程度的適應(yīng)能力和對(duì)系統(tǒng)先驗(yàn)統(tǒng)計(jì)知識(shí)的依賴程度等方面都顯現(xiàn)出強(qiáng)大的優(yōu)勢(shì) 。 根據(jù)誤差的不同表示 ， 自適應(yīng) IIR濾波器又可分為兩種形式：方程誤差(EquationError)形式和輸出誤差 (OutputError)形式 。 可以預(yù)測(cè) ， 在許多應(yīng)用中 ， 自適應(yīng) IIR濾波器將取代正被廣泛使用的自適應(yīng) FIR濾波器 。 但由于它是非遞歸結(jié)構(gòu) ， 沖激響應(yīng)為有限長(zhǎng) ， 當(dāng)用于較高精度匹配的實(shí)際物理系統(tǒng) 時(shí) ，燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 8 所需階次可能相當(dāng)大 ， 因而導(dǎo)致結(jié)構(gòu)復(fù)雜 ， 運(yùn)算量大 。主要自適應(yīng)濾波器有：遞推最小二乘 (RLS)濾波器、最小均方差 (LMS)濾波器、格型濾波器、無限沖激響應(yīng) (IIR)濾波器 。 算法是通過定義搜索方法 (或者最小化算法 )、目標(biāo)函數(shù)和無償信號(hào)的特性來確定的 。 為了得到相對(duì)于橫向?yàn)V波器結(jié)構(gòu)來說更好的性能 (這些性能是用計(jì)算復(fù)雜度 、收斂速度和有限字長(zhǎng)特征等來描述的 )自適應(yīng) IIR濾波器結(jié)構(gòu)：自適應(yīng) IIR濾波器采用得最多的結(jié)構(gòu)是標(biāo)準(zhǔn)直接形式結(jié)構(gòu) ， 因?yàn)樗膶?shí)現(xiàn)和分析都很簡(jiǎn)單 。 從根本上講主要有兩類自適應(yīng)數(shù)字濾波器結(jié)構(gòu) (這是根據(jù)其沖激響 應(yīng)的形式來劃分的 )， 即有限長(zhǎng)沖擊響自適應(yīng)濾波 ? 未知系統(tǒng) ? ()xn ()yn ()en ()dn ()rn 燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 7 應(yīng) (FIR)濾波器和無限長(zhǎng)沖激響應(yīng) (IIR)濾波器 。 一個(gè)自適應(yīng)濾波器的完整規(guī)范是由如下三項(xiàng)所組成的： (1)應(yīng)用 在過去十年中 ， 自適應(yīng)技術(shù)在更多的應(yīng)用場(chǎng)合 (比如回波消除、色散信道的均 衡、系統(tǒng)辨識(shí)、信號(hào)增強(qiáng)、自適應(yīng)波束形成、噪聲消除一級(jí)控制領(lǐng)域等 )取得了成功 。 自適應(yīng)濾波器主要由參數(shù)可調(diào)的數(shù)字 濾波器 和調(diào)整濾波器系數(shù)的自適應(yīng)算法兩部分構(gòu)成自適應(yīng)濾波器 。 由于無法預(yù)先知道信號(hào)和噪聲的特性或者它們是隨時(shí)間變化的 ， 僅僅用FIR和 IIR兩種具有固定濾波系數(shù)的濾波器無法實(shí)現(xiàn)最優(yōu)濾波 。 在這種情況下 ， 自適應(yīng)能夠提供卓越的濾波性能 。 它的參數(shù)是時(shí)變的 ， 適用于非平穩(wěn)隨機(jī)信號(hào) 。 燕山大學(xué)本科畢業(yè)設(shè)計(jì) (論文 ) 5 第 2 章 自適應(yīng)濾波的原理及應(yīng)用 引言 在對(duì)隨機(jī)信號(hào)處理過程中經(jīng)常用到的是維納濾波器和卡爾曼濾波 器兩種濾波器 。