【正文】
n? ? ?wu梯度向量 ? ? ? ?2 2: ( ) ( ) | ( ) ( 1 ) ( ) |HJ n E e n E d n n n? ? ? ?wu目標(biāo)函數(shù)? ? 0 1 1( ) ( ) , ( 1 ) , , ( 1 ) , ( ) [ , , , ]T TMn u n u n u n M n w w w ?? ? ? ? ?uw? ? ? ?*( ) ( ) ( ) ( )HE n n E n d n?u u w u? ?***() ( ) ( )()JnJ E e n e nn??? ? ?ww? ?****( ) ( )( ) ( )( ) ( )( 1 ) ( ) ( 1 )e n e nJ n e nE E e n nn e n n??????? ????? ? ???? ? ? ? ???uww? ?*( ) ( ) ( ) 0J n E e n n? ? ? ?u?Rw r維納濾波器: 1opt ??w R r缺點:真實梯度含數(shù)學(xué)期望,不易求得。() LM Sn LM S? ???算法的均值收斂的選擇算法的均方收斂均值收斂: ? ?( ) 0E e n ?? ? 1() optEn ???w w R r均方收斂: ? ?2( ) ( )optE n C??ww 常數(shù)*( ) [ ( ) ( ) ] ne n nuu 要求不同時間的輸入信號向量 線性獨立 因為瞬時梯度向量為 。 LMS算法的獨立性要求: ? ? ? ? ? ?? ? ? ?? ? ? ?**( ) ( 1 ) ( ) ( ) ( 1 ) ( ) ( ) ( 1 ) ( ) ( 1 )HE n E n E n e nE n E n d n n nEn????? ? ???? ? ? ? ???? ? ? ?w w uw u w uI R w r? ? ? ? ? ?? ?1 ( 1 ) ( 0 ) ( 0 )n E E????? ? ? ? ?? ? ?w I R w rI R w r? ? ? ? ? ?? ? ? ?12202 ( 2) ( 1 ) ( 0)in E E??? ? ??? ? ? ? ?? ? ? ??w I R w rI R w I R r? ? ? ? ? ?10( ) ( 0 )nniiEn ? ? ???? ? ? ??w I R w I R r代入上式,可得 ? ? ? ? ? ?10( ) ( 0 )nniHHiEn ? ? ???? ? ? ??w I U Σ U w I U Σ U r? ?( ) ( )HHE n n??R u u U ΣU其中 ? ? ? ? ? ?? ? ? ? ? ?i ii H H HiH H H? ? ?? ? ???? ? ? ? ???? ? ? ? ?I R U U U ΣU U I Σ UUI Σ U U I Σ U U I Σ U? ? ? ?100l imn ii Hn ii?????? ??? ? ???I R U I ΣU若 的所有對角元素絕對值 1,即 ? ???I Σm a x11????則極限 (等比級數(shù)求和 ) ? ?110l imn in i ??? ??? ? ??? I ΣΣ? ?1 10l im ( )n i Hn i ??? ??? ? ??? I R U ΣU? ? ? ? ? ?? ?101 11l im ( ) l im ( 0)n in HHnniHHoptEn ?????? ? ? ??? ??? ? ? ? ?? ? ? ??w U I U w I U ΣU rU Σ U r U Σ U r R r w結(jié)論: (均值收斂條件 ) m a x1 1 1??? ? ? ?均方收斂條件: ? ?20tr??? R收斂為維納濾波器,且收斂與初始值 w(0)選擇無關(guān) m a x20 ????由于跡 ,故兩條件可合并為 ? ?m a x1trMii??????R和極限 ? ?l im 0nn ?