【文章內(nèi)容簡介】 時(shí)刻權(quán)系數(shù)矢量 , ? ? ? ? ? ?]1,1,0,[)( ??? MkWkWkWkW 。 ? 表示 LMS 算法步長收斂因子。自適應(yīng)濾波器收斂的條件是 max0 ???? x。其中 ， max? 是輸入信號的自相關(guān)矩陣 R 的最大特征值。 ? 的選取必須在收斂速度和失調(diào)之間取得較好的折中 ,既要具有較快的收斂速度 ,又要使穩(wěn)態(tài)誤差最小。它控制了算法穩(wěn)定性和自適應(yīng)速度，如果 ? 很小，算法的自適應(yīng)速度會很慢 。如果 ? 很大，算法會變得不穩(wěn)定。由于 LMS 算法結(jié)構(gòu)簡單、計(jì)算量小、穩(wěn)定性好 ,因此被廣泛應(yīng)用于系統(tǒng)辨識、信號增強(qiáng)、自適應(yīng)波束形成、噪聲消除以及控制領(lǐng)域等。 (2)基本 LMS算法 構(gòu)成自適應(yīng)數(shù)字濾波器的基本部件是自適應(yīng)線性組合器，如圖 81 的所示。設(shè)線性組合 器的 M 個(gè)輸入為 ? ? ? ?Mk，xkx ??? 1 ,其輸出 ??ky 是這些輸入加權(quán)后的線性組合，即 ? ? ? ??? ??Mi i ikWky 1。 圖 3 自適應(yīng)線性組合器 . . 。 2W MW ? ?2?kx ? ?Mkx ? + _ + ??k? + ? ?1?kx ??ky 1W 7 定義權(quán)向量 ? ? , 321 TMWWWWW ?? 且 ? ? ? ? ? ?? ?? ?? ?TTT Mk，XkXkX ???? ,1 在圖 (1)中，令 d(k)代表“所期望的響應(yīng)”，并定義誤差信號 ? ? ? ? ? ?? ? ? ?1Miik d k y kd k W x k i????? ? ?? 寫成向量形式： ? ? ? ? ? ?? ? ? ?TTk d k W X kd k X k W? ?? 誤差平方為： ? ? ? ? ? ? ? ? ? ? ? ?WkXkXWWkXkdkdk TTT ??? 222? 上式兩邊取數(shù)學(xué)期望后，得均方差： ? ?? ? ? ?? ? ? ? ? ?? ? ? ? ? ?? ?WkXkXEWWkXkdEkdEkE TTT ??? 222? （ ） 定義互相關(guān)函數(shù)行向量 xdTR ： xdTR = ? ? ? ?? ?kXkdE T 和自相關(guān)函數(shù)矩陣 ? ? ? ?? ?kXkXER Txx ? 則均方誤差（ ）式可表述為： ? ?? ? ? ?? ? WRWWRkdEkE xxTxdT ??? 222? （ ） 這表明，均方誤差是權(quán)系數(shù)向量 W 的二次函數(shù)，它是一個(gè)中間向上凹的拋物形曲面，是具有 唯一最小值的函數(shù)。調(diào)節(jié)權(quán)系數(shù)使均方誤差最小，相當(dāng)于沿拋物形曲面下降找 到 最小值。可以用梯度來求該最小值。將式（ ）對權(quán)系數(shù) W求導(dǎo)數(shù)，得到均方誤差函數(shù)的梯度 ? ? ? ?? ?? ?? ? ? ?? ?22212 / , , /22Mx d x xk E kE k W E k WR R W???? ? ?? ? ? ? ?? ? ? 8 令 ? ? 0??k ，即可求出最佳僅系數(shù)向量： xdxxopt RRW 1?? () 將 Wopt代入式 ()得最小均方誤差： ? ?? ? ? ?? ? optxdT WRkdEkE ?? 22? 利用（ ）式求最佳權(quán)系數(shù)向量的精確解需要知道 xxR 和 xdR 的先驗(yàn)統(tǒng)計(jì)知識，而且還需要進(jìn)行矩陣求逆等運(yùn)算。 Windrow and Hoff 提出了一種在這些先驗(yàn)統(tǒng)計(jì)知識未知時(shí)求 Wopt 的近似的方法，習(xí)慣上稱為 Windrow and Hoff LMS算法。這種算法的根據(jù)是最優(yōu)化方法中的最速下降法。根據(jù)最速下降法，“下一時(shí)刻”權(quán)系數(shù)向量 ? ?1?kW 應(yīng)該等于“現(xiàn)時(shí)刻”權(quán)系數(shù)向 ??kW 加上一個(gè)負(fù)均方誤差梯度 ? (k)的比例項(xiàng)，即 ? ? ? ? ? ?kkWkW ???? ?1 式中， ? 是一個(gè)控制收斂速度與穩(wěn)定性的常數(shù)，稱之為收斂因子。 不難看出， LMS 算法有兩個(gè)關(guān)鍵：梯度的計(jì)算以及收斂因子的選擇。精確計(jì)算梯度是十分困難的，一種粗略的但是卻十分有效的計(jì)算梯度的近似方法是：直接取 ε178。 (k)作為均方誤差 E{ε178。 (k)}的估計(jì)值 ，即： ? ? ? ?? ? ? ? ? ?? ?kkkk ??? ????? 22^ () 式中的 ??? ?k?? 為 ??? ?k?? = ? ? ? ? ? ?? ?kXkWkd T?? 2 = ??kX? （ ） 將式（ ）代入式（ ）中，得到梯度估值 ? ? ? ? ? ?kXkk ?2^ ??? 于是， WidrowHoff LMS 算法最終為 ? ? ? ? ? ? ? ?kXkkWkW ??21 ??? （ ） 可以證明，梯度估值是無偏的，因此，梯度估值 ??k^? 是無偏估計(jì)。 ? 的選擇 :對權(quán)系數(shù)向量更新公式（ ）兩邊取數(shù)學(xué)期望，得 9 ? ?? ? ? ?? ? ? ? ? ?? ?? ?? ? ? ? ? ? ? ?? ?? ?? ? ? ?? ?xdxxTRkWERIkWXkdkXEkWEkXkEkWEkWE?????22221????????? 式中， I 為單位矩陣， xxR ? ? ? ?? ?kXXkXE TT? 和 ? ? ? ?? ?kdkXER xd ? 。 當(dāng) k=0 時(shí)， ? ?? ? ? ? ? ?? ? xdxx RWERIWE ?? 2021 ??? 對于 k=1,利用上式結(jié)果，則有 ? ?? ? ? ? ? ?? ?? ? ? ?? ? ? ??????????102 22022122i xdixxxxxdxxRRIWERIRWERIWE????? 起始時(shí)， ? ?? ? ? ?00 WWE ? 故 ? ?? ? ? ? ? ? ? ? xdii xxxx RRIWRIWE ?? ???? 1 02 22022 ??? ? ?? ? ? ? ? ? ? ???? ????? ki xdixxkxx RRIWRIkWE 01 22021 ??? 由于 xxR 是實(shí)值的對稱陣，可以寫出特征值分解式： ? ? ??? 1R Txx 這里我們利用了正定陣 Q 的性質(zhì) T ??1 ，且 ? ?? ?? M，d ia g ?? ,1 是對角陣，其對角元素是 xxR 的特征值。將式（ 18）代入式（ 17）后得： ? ?? ? ? ? ? ?? ?? ??? ????? xdik RIWIkWE 111 2221 ??? () 注意到以下恒等式以及關(guān)系式： 10 ? ? ? ?? ?? ?? ?? ?? ? 1111111222222????????????????????????QIIIIQIiiiii?????? () ? ? ? ?? ?? ? 110 011222l i m?????????? ? ??????QIQIi ii??? () 假定所有的對角元素的值均小于 1，則 02lim 10 ??????? ? ???? kkI ? 將式（ ） （ ）代入式 (),結(jié)果有 ? ?? ?optxdxxxdWRRRkWE???????111 由此可見，當(dāng)?shù)螖?shù)無限增加時(shí)，權(quán)系數(shù)向量的數(shù)學(xué)期望可收斂至維納解，其條件是對角陣的所有對角元素均小于 1,即 121 max ?? ?? 或 max10 ???? 其中 max? 是 xxR 的最大特征值。 ? 稱為收斂因子，它決定達(dá)到維納解的速率。 基本 LMS 自適應(yīng)算法如下： 初始化： ? ? 。00 ?W ? ? IR ?0 。 選擇 ? : ? : max10 ???? for 1?k to n final do : ? ? ? ? ? ? ? ? ? ?? ? ? ?kXkXkWkxkWkW T 121 ????? ? 11 LMS 自適應(yīng)濾波器如圖所示。 圖 3 LMS自適應(yīng)濾波器 小結(jié) 本章從自適應(yīng)濾波器出發(fā)，介紹了自適應(yīng)濾波器的結(jié)構(gòu)與設(shè)計(jì)原理，重點(diǎn)描述了 LMS 算法和該算法推導(dǎo)過程，最后給出了設(shè)計(jì)一個(gè) LMS自適應(yīng)濾波器的基本步驟。 + + + W2(k) + + + y(k) X(kM+1) X(k) WM1(k) Wo(k) W1(k) Z1 Z1 Z1 ∑ + LMS 自適應(yīng)算法 12 第三章 仿真軟件 MATLAB 簡介 MATLAB 的概況 MATLAB 是矩陣實(shí)驗(yàn)室（ Matrix Laboratory）之意。除具備卓越的數(shù)值計(jì)算能力外，它還提供了專業(yè)水平的符號計(jì)算，文字處理，可視化建模仿真和實(shí)時(shí)控制等功能。 MATLAB 的基本數(shù)據(jù)單位是矩陣，它的指令表達(dá)式與數(shù)學(xué) ,工程中常用的形式十分相似 ,故用 MATLAB 來解算問題要比用 C， FORTRAN 等語言做 相同的事情簡捷得多 。 當(dāng)前流行的 MATLAB 包括擁有數(shù)百個(gè)內(nèi)部函數(shù)的主包和三十幾種工具包 (Toolbox)工具包又可以分為功能性工具包和學(xué)科工具包 。 功能工具包用來擴(kuò)充MATLAB 的符號計(jì)算 ， 可視 化建模仿真 ,文字處理及實(shí)時(shí)控制等功能 。 學(xué)科工具包是專業(yè)性比較強(qiáng)的工具包 ,控制工具包 ， 信號處理工具包 ， 通信工具包等都屬于此類 。 開放性使 MATLAB 廣受用戶歡迎 。 除內(nèi)部函數(shù)外 ， 所有 MATLAB 主包文件和各種工具包都是可讀可修改的文件 ， 用戶通過對源程序的修改或加入自己編寫程序構(gòu)造新的專用工具包 。 MATLAB 產(chǎn)生的歷史背景 在 70 年代中期 ， Cleve Moler 博士和其同事在美國國家科學(xué)基金的資助下開發(fā)了調(diào)用 EISPACK 和 LINPACK 的 FORTRAN 子程序庫 。 EISPACK 是特征值求