【正文】 級 ） 時 ， RLS算法呈現(xiàn)指數(shù)級的快速收斂率 ， 只要相關(guān)矩陣以足夠小的范數(shù)初始化 。因此 ,根據(jù)式 (555)和式 (557)正則化參量 δ可定義為 0)0( R????正則化參量 δ與信噪比的關(guān)系已由 Moustakides(1997)給出詳細說明。于是，我們可引入如下定義 F(x)=θ (f) (552) 河南工業(yè)大學(xué) 如前所述， RLS濾波器初始化包括設(shè)定時間平均相關(guān)矩陣的初始值，即 這里存在獨立于變量 x的常數(shù) ，使得 對所有 x Ψ 其中 )()()( 21 xfcxFxfc ??21 cc 和21)])()([()( xFxFtrxF H??的矩陣范數(shù)，定義為是 )x(F)( xF式 (552)中引入的定義的意義將變得很明顯。 河南工業(yè)大學(xué) 為了總結(jié) Moustakides研究成果的實驗條件，用F(x)表示一個關(guān)于 x的矩陣函數(shù)，用 f(x)表示一個關(guān)于 x的非負標量函數(shù)。 )0(^w 0)0(^ ?wI??? )0()(n?)(n?河南工業(yè)大學(xué) 正則化參數(shù)的選擇 在 Moustakides的詳細研究 (1997)中，評價了在平穩(wěn)環(huán)境下 RLS算法的收斂性能， 它有兩個特殊的可變參數(shù)： ?抽頭輸入數(shù)據(jù)的信噪比 (SNR)，這個量由流行的運行條件決定。參數(shù) δ的設(shè)定與信噪比有關(guān)，高信噪比時取小值；低信噪比時則取較大值。 ?初始相關(guān)矩陣 Φ(n)。 為對 RLS濾波器進行初始化，需要指定兩個量： ?初始權(quán)向量 。 IPw1^)0(0)0(????表 1 RLS算法小結(jié) 算法初始化 ????時取大的正常數(shù)低時取小的正常數(shù)高S N RS N R?河南工業(yè)大學(xué) )1n(P)n(u)n(K)1n(P)n(P)n()n(K)1n(w)n(w)n(u)1n(w)n(d)n()n()n(u)n()n(K)n(u)1n(P)n(,2,1nH11^^^HH??????????????????????????和計算對每一時刻， ? 表 1續(xù) 河南工業(yè)大學(xué) 注意，在表 1的總結(jié)中，增益向量 K(n)的計算分兩步進行： ?首先，計算用 表示的中間量。上述 RLS算法的一個重要特點是，每一次迭代中的相關(guān)矩陣 Φ(n)的逆矩陣為簡單的標量相除所代替。式 (549) 描述了算法的自適應(yīng)過程，據(jù)此可通過在其過去值的基礎(chǔ)上增加一個量來遞推抽頭權(quán)向量，該量等于先驗估計誤差 ξ(n)復(fù)共軛與時變增益向量 K(n)的乘積 (“增益向量 ” 由此得名 )。 )()(?)()( nunwndne H?? (551) 河南工業(yè)大學(xué) 輸出 橫向濾波器 輸入向量 U(n) )()1(^ nunw H ?自適應(yīng)權(quán)值控制機制 ∑ )1(^ ?nw誤差 ξ(n) 期望響應(yīng) d(n) 圖 56(a)框圖 RLS算法 + ∑ ∑ K(n) Iz1? )(nwH)(nd? )(n?? )()( nkn??)(ny?)(^ nw增益 圖 56(b)信號流圖 + )1(? ?nw河南工業(yè)大學(xué) ?RLS算法小結(jié) 式 (542) ,(543), (549), (550)組成了 RLS算法，并在表 (51)中總結(jié)。實際上，我們可以將 ξ(n)視為更新抽頭權(quán)向量之前 e(n)的暫時值。 根據(jù)調(diào)整抽頭權(quán)向量的表達式和表示先驗估計誤差的表達式可用圖 56 (a)所示的框圖表示遞歸最小二乘算法。為此，用式 (532)、式 (537)、式 (541)來表示 抽頭權(quán)向量 n次迭代時的最小二乘估計 )(^ nw)()()()1()()()()()()(?*1ndnunPnznPnznPnznnw????????(547) 將式 (547)右邊第一項中 P(n)用式 (543)代替，可得 河南工業(yè)大學(xué) )()()()1()()()1()()()()1()1()()()1()1()()()()1()1()()()1()1()(*^^*11*^ndnunPnwnunKnwndnunPnznnunKnznndnunPnznPnunKnznPnwHHH???????????????????????最后，應(yīng)用 P(n)u(n)等于增益向量 K(n)，可得更新抽頭向量的遞歸方程為 )()()1()]1()()()[()1()(^^^^nnKnwnwnundnKnwnw H???????????(548) (549) 河南工業(yè)大學(xué) 其中 )()1()()1()()()(^^nunwndnwnundnHT?????? ??是一個先驗估計誤差。式 (543)是RLS算法的 Riccati 方程。 HCCDBA 11 ?? ??BCBCCDBCBA HH 11 )( ?? ???)(^ nw(538) (539) 河南工業(yè)大學(xué) 指數(shù)加權(quán)遞歸最小二乘算法 假定相關(guān)矩陣 Φ(n)是非奇異的，因而它可逆。根據(jù)矩陣求逆引理，可將 A的逆矩陣表示為 該引理在此不做證明，書中有介紹。我們發(fā)現(xiàn)，利用矩陣代數(shù)中矩陣求逆引理，可以實現(xiàn)上述兩個目標。然而在實際中，我們通常盡量避免這樣做，因為這種運算非常耗時，特別是當抽頭數(shù) M很大時。注意，上式的遞歸過程與初始條件無關(guān)。 )(^ nw)()()( nznwn ?? ?(533) (534) 河南工業(yè)大學(xué) 將對應(yīng)于 i=n的項與式 (532)右邊的求和項分開，可寫出 根據(jù)定義，上式右邊括號內(nèi)的表達式等于相關(guān)矩陣Φ(n1)。 根據(jù)前面討論過的最小二乘法 ， 可使用代價函數(shù)獲得最小值的最優(yōu) M １抽頭權(quán)向量 由正則方程定義 。將上式修正為相關(guān)矩陣的過程叫做對角加載。 2)( nwn??n?2^)( nwn??2^)(wDF? )(^wF河南工業(yè)大學(xué) ?正則方程的變形 將式 (528) 展開并進行整理，我們發(fā)現(xiàn)，在代價函數(shù) 中增加正則化項 ，相當于將抽頭輸入向量 u(i)的 M M時間平均相關(guān)矩陣表示為 2)( nwn????? ???ninHin Iiuiun1)()()( ???式中 I是 M M單位陣。 (2) 正則化項應(yīng)是 形式 ， 其中 是由RLS濾波器實現(xiàn)的輸入輸出映射關(guān)系 ， D是差分算子 。 原因有兩個 : (1)首先指數(shù)加權(quán)因子 λ介于 0λ≤ 1之間；從而 ， 當λ1時 ， 隨著 n的增大趨于零 。這個分量反映出期望響應(yīng) d(i)與濾波器實際響應(yīng) y(i)之間的指數(shù)加權(quán)誤差，且 y(i) 與抽頭輸入向量 u(i)的關(guān)系可用公式表示為 )()()( iunwiy H?2)正則化項 )()()( 2 nwnwnw Hnn ???? ?式中 是一個正實數(shù)，稱為正則化參數(shù)．除了因子 外，正則化項只取決于抽頭權(quán)向 w(n).將這一項包含在代價函數(shù)中，以便通過平滑作用來穩(wěn)定遞歸最小二乘問題的解。 這意味著必須擴展代價函數(shù)公式 ， 使其能考慮先驗信息 。 在輸入數(shù)據(jù)中不可以避免地存在著噪聲或不精確性 ，這為構(gòu)建輸入輸出映射關(guān)系增加了不確定性 。 1),( ?? nin ?? i=1,2,… n ),( in?河南工業(yè)大學(xué) ?正則化 最小二乘估計和最小二乘法一樣 ， 是一個病態(tài)的求逆問題 。當 λ=1時 ,對應(yīng)一般的最小二乘法。 預(yù)備知識 )(n?21)(),()( ieinnni??? ??u(i),u(i1),…,u(i M+1) 河南工業(yè)大學(xué) 圖 55具有時變抽頭權(quán)值的橫向濾波器 即 )()()()()()(iunwidiyidieH????輸出信號 1?z 1?z)(^0 nw? )(^1 nw? )(^ 2 nwM?? )(^ 1 nwM??∑ ∑ ∑ y(i) 輸入信號 u(i) u(i1) u(iM+1) u(iM+2) … … … (52４ ) 河南工業(yè)大學(xué) 其中 u(i)是 i 時刻的抽頭輸入向量，定義為 (525) 式中 w(n)是 n時刻抽頭權(quán)向量，定義為 (526) ?注意，在代價函數(shù) 定義的觀測區(qū)間１ ≤ i ≤n內(nèi)，橫向濾波器的抽頭權(quán)值保持不變． 式（ 523）中的加權(quán)因子 滿足如下關(guān)系 i=1,2,?n TMiuiuiuiu )]1(),1(),([)( ???? ?TM nnnnw )](,),(),([)( 110 ?? ??? ?)(n?1),(0 ?? in?),( in?河南工業(yè)大學(xué) 一般說來 ， 加權(quán)因子 的使用是為了保證“ 遺忘 ” 掉久遠的過去數(shù)據(jù) ， 以便當濾波器工作在非平穩(wěn)時 ， 能跟蹤觀測數(shù)據(jù)的統(tǒng)計變化 。 另外 ，習(xí)慣上還在 ξ (n)的定義中引入加權(quán)因子 。因此我們發(fā)現(xiàn) ， 可測數(shù)據(jù)的長度是可變的 。然而，性能的改善以 RLS濾波器計算復(fù)雜性的增加為代價。 RLS濾波器的一個重要特點是，它的收斂速率比一般的LMS濾波器快一個數(shù)量級。 河南工業(yè)大學(xué) 在 RLS 濾波器的推進過程中，我們首先回顧最小二乘法的一些基本關(guān)系式。 即給定 n1次迭代濾波器抽頭權(quán)