【正文】 期望響應(yīng) )(nd 的一個(gè)估值 )，使得其估值誤差 )(ne (定義為期望響應(yīng) )(nd 與實(shí)際響應(yīng) )(ny 之差 )的均方值為最小。 對于附屬的輸入數(shù) 據(jù)，濾波器系數(shù)通常也為復(fù)數(shù)，設(shè)為 , .. .2,1,0, ??? kjbaw kkk （ ） 相應(yīng)的，定義梯度算子 ,...2,1,0, ???????? kbja kkk （ ） 將算子 ? 用于代價(jià)函數(shù) J ，得到多維梯度向量 J? ,...2,1,0, ???????? kbja kkk JJJ （ ） 為了從代價(jià)函數(shù) J 中得到其最小值，梯度向量 J? 的所有元素必須同時(shí)都等于零，即 ： ,. ..2,1,0,0 ??? kk J （ ） 將式（ ）帶 入上式，整理得到 , .. .2,1,0)],()([2 * ????? kneknuEk J () 要滿足代價(jià)函數(shù) J 最小時(shí)的工作條件，則 , .. .2,1,0,0)]()([ * ??? kneknuE （ ） 總之，對式（ ）可描述如下： 使代價(jià)函數(shù) J 獲得最小值的充要條件是其對應(yīng)的估計(jì)誤差 0()en正交于 n 時(shí)刻進(jìn)入期望相應(yīng)估計(jì)的每個(gè)輸入值。 )]()([)]()([ *0** neknuwEnenyEk k?? ??? 中國礦業(yè)大學(xué) 2020 屆本科畢業(yè)設(shè)計(jì) 第 7 頁 0)]()([ *0* ??? ??? neknuEwk k （ ） 該式可描述為：當(dāng)濾波器工作于最優(yōu)條件下，期望相應(yīng)的估值用濾波器的輸出 0()yn表示，相應(yīng)的估值誤差 0()en與它們相互正交。把式（ ）和（ ）代入式（ ），得到另外一個(gè)充要條件 ,..2,1,0,0)]()()([ *0 0* ????? ??? kinuwndknuE i i （ ） 其中 0iw 是最優(yōu)濾波器沖激響應(yīng)的第 i 個(gè)系數(shù)，整理上式得到 ,...2,1,0)],()([)]()([ **0 ???????? kndknuEinuknuEwi oi （ ） 把上式寫為式（ ），得到最優(yōu)濾波器的另一個(gè)充要條件（維納－霍夫方程） ,...2,1,0),()(0 ??????? kkpkirwoi i （ ） 其中： ,. ..2,1,0)],()([)( * ????? kinuknuEkir （ ） 為相隔 ki? 個(gè)延遲的濾波器輸入的自相關(guān)函數(shù) , .. .2,1,0)],()([)( * ???? kndknuEkp （ ） 為濾波器輸入與期望響應(yīng)相隔 k? 個(gè)延遲的互相關(guān)。因此，用式（ ）來描述濾波器的性能表面。1m i n39。m i nm i n00m i n00m i n1112||)()()()()()(|)([|)(kMkkHHHHHHvJvvJQvQvJwwwwJwwRwwJpRwRpRwpRpndEwJ???????????????????????????? （ ） 其中， ? ：是包含相關(guān)矩陣特征值的對角陣。 Q ：列是與特征值對應(yīng)的特征向量，并且是相互正交歸一的。 v ：最優(yōu)抽頭權(quán)值 0w 與抽頭權(quán)值向量 w 之差，即： 0wwv ?? 。v ： v 的變換形式，即 vQv H?39。 39。 最陡下降法 [1] 圖 所示為自適應(yīng)橫向?yàn)V波器的結(jié)構(gòu)及其功能： (1) 具有可調(diào)節(jié)抽頭權(quán)系數(shù)的橫向?yàn)V波器，權(quán)系數(shù) )(1nw ， )(2 nw ， … )(nwM表示在 n 時(shí)刻的值。這個(gè)過程首先自動(dòng)調(diào)節(jié)濾波器系數(shù)的自適應(yīng)訓(xùn)練步驟，然后利用濾波系數(shù)加權(quán)延遲線抽頭上的信號來產(chǎn)生輸出信號，將輸出信號與期望信號進(jìn)行對比，所得的誤差值通過一定的自適應(yīng)控制算法再用來調(diào)整權(quán)值，以保證濾波器處在最佳狀態(tài)，達(dá)到實(shí)現(xiàn)濾波的目的。利用圖 中輸出信號與期望信號 )(nd 的關(guān)系，誤差序列 )(ne 可以寫成 )()()( nyndne ?? () 顯然，自適應(yīng)濾波器控制機(jī)理是用誤差序列 )(ne 按照某種準(zhǔn)則和算法對其系數(shù) Minwi ,2,1|,)(| ?? 進(jìn)行調(diào)節(jié)的，最終使自適應(yīng)濾波的目標(biāo) (代價(jià) )函數(shù)最小化，達(dá)到最佳濾波狀態(tài)。 由式 ()可見，自適應(yīng)濾波器的目標(biāo)函數(shù) )(n? 是延遲 線抽頭系數(shù) (加權(quán)或?yàn)V波系數(shù) )的二次函數(shù)?，F(xiàn)在我們將式 ()對 w 求導(dǎo)數(shù)，并令其等于零，同時(shí)假設(shè) R 是非奇異的，由此可得到目標(biāo)函數(shù)最小的最佳濾波系數(shù) 0w 為 Pw 10 ??R () 這個(gè)解稱為維納解，即最佳濾波器系數(shù)值。當(dāng)濾波器工作在平穩(wěn)隨機(jī)過程的環(huán)境下，這個(gè)誤差性能曲面就具有固定邊緣的恒定形狀。 最陡下降法是實(shí)現(xiàn)上述最佳搜索的一種優(yōu)化技術(shù)，它利用梯度信息分析自適應(yīng)濾波性能和跟蹤最佳濾波狀態(tài)，梯度矢量是有均方誤差 )(?? 的梯度來定義的，在多維超拋物曲面上任一點(diǎn)的梯度矢量是對應(yīng)于均方誤差 )(?? 對濾波系數(shù) )(nwi 的一階導(dǎo)數(shù)，由起始點(diǎn)或現(xiàn)在點(diǎn)變化到下一點(diǎn)的濾波系數(shù)變化量正好是梯度矢量的復(fù) 中國礦業(yè)大學(xué) 2020 屆本科畢業(yè)設(shè)計(jì) 第 11 頁 數(shù)。 令 )(n? 代表 n 時(shí)刻的 1?M 維梯度矢量，這里 M 等于濾波器濾波系數(shù)的數(shù)目；)n(w 為自適應(yīng)濾波器在 n 時(shí)刻的濾波系數(shù)或權(quán)矢量。注意，對于上式右邊第二項(xiàng)系數(shù)21有的文獻(xiàn)中不用，這時(shí) ? 值相當(dāng)于減半，其界限值應(yīng) 縮小一倍，根據(jù)梯度矢量定義， )(n? 可寫成 ?????????????????)()()()()()()()]([)(212nwnnwnnwnnneEnM??? ?w () )]()(2[])( )()(2[ nneEnnneE xw ????? ? () 當(dāng)濾波系數(shù)為最佳值，即是維納解時(shí)，梯度矢量 )(n? 應(yīng)等于零。0)]()([ ???? MiinxneE ? () 這意味著誤差信號與輸入信號矢量的每一個(gè)分量是正交的。不難證明，當(dāng)濾波系數(shù) w 等于 0w 時(shí)，則由式 ()可得下列正交性： 0)]()([ ?nyneE () 如果將式 ()代入 式 ()，得到 )(22)( nRn wP ???? () 因此，在最陡下降算法中，當(dāng)相關(guān)矩陣 R 與互相關(guān)矢量 P 已知時(shí)，則由濾波系數(shù)矢量 )(nw 可以計(jì)算梯度矢量 )(n? 。([)()1( ????? nnRnn wPww ? () 上式是描述最陡下降法的數(shù)學(xué)公式，由此可得到信號流圖，如圖 所示，式 ()右邊可以整理寫成 )()( nR wI ?? 項(xiàng)加上 P? ，這里 I 是 MM? 單位矩陣，而濾波系數(shù)矢量 )(nw 可 以 為 由 )1( ?nw 經(jīng) 過 單 位 延 時(shí) 算 子 1?z 得 到 的 ，即 中國礦業(yè)大學(xué) 2020 屆本科畢業(yè)設(shè)計(jì) 第 12 頁 )]1([)( 1 ?? ? nzn ww 。它的穩(wěn)定性能取決于兩個(gè)因素： (1) 自適應(yīng)步長參數(shù) ? ； (2) 輸入信號矢量 )(nx 的自相關(guān)矩陣 R 。我們可以分 析自適應(yīng)濾波系數(shù)矢量的更新公式，將其與最佳維納解 0w 相比較，令自適應(yīng)濾波系數(shù)的誤差矢量 )(nw? 定義為 0)()( ??? nn () 則最陡下降算法式 ()可寫成另一種方式： )()()()( ))(()()1( nRnRn nRnn wIww wPww ??????? ?????? ?? ? () 根據(jù)矩陣?yán)碚撝杏舷嗨贫茸儞Q法，用酉矩陣 Q 將相關(guān)矩陣 R 對角線化，即 ?? HR () 式中， ? 為對角線矩陣，它的元素是 R 的特征值。酉矩陣 Q性質(zhì)是 I ?? HH ，實(shí)對稱矩陣 ?H 。 )(nv 的起始值為 )0()()1( 1 vIv ????? nn ? () 由此可把式 ()右邊推算寫成 )0()()1( 1vIv ????? nn ? () 中國礦業(yè)大學(xué) 2020 屆本科畢業(yè)設(shè)計(jì) 第 13 頁 把單位矩陣 I 和 對角線矩陣 ? 展開，上式變?yōu)? )()1(000)1(000)1()1(11211nnnMnnvv ???????????????????????????????????? ()上式表明，為了保證最陡下降算法的收斂性，矩陣中每個(gè)元素 Mkk ,2,1,1 ??? ??的絕對值必須小于 1，由此得到算法穩(wěn)定的收斂條件為 max20 ???? () 式中， max? 是相關(guān)矩陣 R 的最大特征值。當(dāng) n 很大，這意味著自適應(yīng)濾波系數(shù)矢量趨近于最佳維納解。在滿足式 ()的收斂條件下，將使它由任意起始值趨步向最佳維納解逼近。通常用時(shí)間常數(shù)來描述順便過程的長短，而時(shí)間常數(shù)又取決于什么因素呢 ?下面我們就來分析這個(gè)問題。再由式 ()和式 ()可以得到某一瞬時(shí)刻 n 的均方誤差函數(shù) )(n? 的表達(dá)式： )()( )()()( m inm in nn nnn TTTvv ww ??? ????? ??? () 式中， wQv ?? T 為旋轉(zhuǎn)參數(shù)矢量。,2,1,1)1( ii vMi ???? ?? 是濾波系數(shù)矢量第 i 個(gè)分量的起始值。 對于自適應(yīng)濾波系數(shù)來說，由式 ()和式 ()可以寫成 Minvnv iii ?,2,1)。如果用時(shí)間常數(shù)來描述上述瞬變特性時(shí)，由濾波系數(shù)偏差值，按最陡下降算法逐次迭代運(yùn)算時(shí)間衰減的時(shí)間常數(shù) i? 來估算，它可以這樣求得如下： 首先，用式 ()表征幾何級數(shù)在 不同時(shí)間的值，如圖 所示，假設(shè)單位時(shí)間等于一次迭代周期持續(xù)時(shí)間。這里時(shí)間 中國礦業(yè)大學(xué) 2020 屆本科畢業(yè)設(shè)計(jì) 第 15 頁 常數(shù) i? 表明第 i 個(gè) )(nvi 幅值衰減到起始值 )0(iv 的 e1 倍所需的時(shí)間，其中 e 為自然對數(shù)的底數(shù)。當(dāng)自適應(yīng)步長 ? 滿足式 ()所規(guī)定的收斂條件，它的值越大，自適應(yīng)收斂時(shí)間就越短，自適應(yīng)過程就越快。通常我們稱 FIR 濾波器為有限脈沖響應(yīng)濾波器， IIR 濾波器為無限脈沖響應(yīng)濾波器。在選擇自適應(yīng)濾波器結(jié)構(gòu)時(shí)，除了要看用途和各結(jié)構(gòu)的特點(diǎn)外，還要考慮其它因素。如果濾波器的結(jié)構(gòu)合理，這個(gè)函數(shù)就簡單，否則函數(shù)就會(huì)變得復(fù)雜。圖 所示為的一種橫式結(jié)構(gòu)，權(quán)系數(shù)與濾波器輸出是線性關(guān)系，此結(jié)構(gòu)在自適應(yīng)濾波器中應(yīng)用普遍。任何一種可以用橫向?yàn)V波器實(shí)現(xiàn)的 FIR濾波器同樣可以用格型結(jié) 構(gòu)實(shí)現(xiàn)。由于實(shí)現(xiàn) IIR 濾波器的結(jié)構(gòu)的最佳參數(shù)不容易用信號的統(tǒng)計(jì)特性簡單的表示，所以 IIR濾波器在自適應(yīng)濾波中的使用受到一定的限制。本章首先從維納最優(yōu)濾波器開始介紹，介紹了維納最優(yōu)濾波的基本思想。第三部分介紹了數(shù)字信號處理中濾波器的 基本結(jié)構(gòu)。但是最陡下降算法的主要限制是它需要準(zhǔn)確測得每次迭代的梯度矢量，這妨礙了它的應(yīng)用。 1960 年，美國斯坦福大學(xué)的 Widrow 等提出了最小均方 (LMS)算法，這是一種用瞬時(shí)值估計(jì)梯度矢量的方法，即 )()(2)()]([)(? 2nnennenxw?????? () 可見，這種瞬時(shí)估計(jì)法是無偏的，因?yàn)樗钠谕?)](?[ nE? 確實(shí)等于式 ()的梯度矢量 )(n? 。如同最陡下降算法，我們利用時(shí)間 0?n 的濾波系數(shù)矢量為任意的起始值 )0(w ，然后開始 LMS 算法的計(jì)算，其步驟如下。 由此可見 ， 自適應(yīng) LMS 算法簡單，它即不要計(jì)算輸入信號的相關(guān)函數(shù)，又不要求矩陣之逆，因而得到了廣泛的應(yīng)用。下面我們來分析 LMS 算法的性能。不相關(guān)的，既有 1,1,0。既有 1,1