獨(dú)立分量分析ppt課件-閱讀頁(yè)
2025-05-16 12:13本頁(yè)面
【正文】 N iGiip y p y c F y????? ?????滿足： ()()iFy 正交歸一性 ( ) ( ) 0( ) ( ) ( )1ijGijp y F y F y d yij??? ????矩消失性 ()( ) ( ) 0 0 , 1 , 2kiGp y y F y d y k???ICA的優(yōu)化算法 ( ) ( )[ ( ) ] ( ) ( )iiE F y p y F y dy c???可以證明 同時(shí)還可證明 ? ?2()11( ) ( ) ( )2N iG iH y H y E F y? ???? ???? ?2()11[ ( ) ] ( ) ( ) ( )2N iGiJ p y H y H y E F y???? ? ? ???負(fù)熵 極大 ∴ 只要選定合適的 ，求各 的統(tǒng)計(jì)均值就可以近似估計(jì)得 ()Fy 2()Fy[ ( )]J p yICA的優(yōu)化算法 問(wèn)題：如何選擇 ()Fy?① 統(tǒng)計(jì)特性 不難求 ② 的增長(zhǎng)速度不能快于 對(duì)野點(diǎn)不敏感 y? ()Fy2y[ ( )]E F y實(shí)驗(yàn)中， N常取 1， 2— 和 ， 奇函數(shù)，用來(lái)表示 概率密度的非對(duì)稱性 ； 偶函數(shù)，表現(xiàn)原點(diǎn)左右的雙峰性 (1)()Fy (2)()Fy (1)()Fy(2)()Fy? ? ? ?22( 1 ) ( 2 ) ( 2 )12[ ( ) ] ( ) ( ) ( )J p y w E F y w E F y E F v? ? ? ? ? ?? ? ?? ? ? ? ? ? 正常數(shù)， 是與 同樣方差的零均值高斯變量 12,ww v yICA的優(yōu)化算法 可用形式 (1) ()Fy1 1 111 l o g c o sh 1 2 1a y a aa ? ? ?通 常 取2( / 2)yye?(2) ()Fy 2( / 2)ye?? ( 2 ) 1[ ( ) ]2E F v ?y ( 2 ) 2[ ( ) ]E F v ??ICA的優(yōu)化算法 ()F? , ()f ? ()f??與()Fy ()fy ()?fy111 log c osh aya2( / 2 )ye??4y 3y 23y22yye?1tanh ay 211[1 ta n h ( ) ]a a y?22 2(1 ) yye??ICA的優(yōu)化算法 MN M N M NMNX U V? ?????T? ? ? ?12 TSU???12 TZ S X U X?? ? ?Z是一個(gè)分量相互正交，能量 =1 過(guò)程：輸入 x 方差 x， cov(x’) 特征向量，特征值 白化陣 ( ( ) ) * Tin v sq rt u?[ , ] ( c o v ( ) )u e ig x??ICA的優(yōu)化算法 三、固定點(diǎn)算法 由牛頓迭代中固定點(diǎn)映射而來(lái)，是一種遞推算法 求方程 的根 ，可將 寫為 ，則 稱為固定點(diǎn)映射 ( ) 0fx? x ?? ()fx ()x g x? ()g???1 ()kkx g x? ? ( ) 1kgx? ? 1dgdx ?如 則可收斂 ()()()kkkkfxg x xfx?? ?迭代 1yx?2 ()y g x?? 1kx?kx xykkyx?11kkyx???ICA的優(yōu)化算法 四階累計(jì)量的固定點(diǎn)算法（ 1997） U （ ui是其第 i行） Z yi=uiz x取均值，加以球化即得 （ 1）取任意初始矢量 滿足 (0)iu( 0 )2 1iu ?（ 2）求 ， 是迭代序號(hào)， 可通過(guò)對(duì) Z的各時(shí)刻的采樣值求均值來(lái)估計(jì) （ 3） 歸一化 ： （ 4） 若 不接近 1， 加 1，返回步驟（ 2），否則迭代結(jié)束 （ 5）提取獨(dú)立分量 ? ?3( 1 ) ( )Tiiu k E z u k z???? ??k ()E?( 1)iuk?2( 1)( 1)iiukuk??( 1) ( )Tiiu k u k? k( 1)iiu u k??( ) ( )Tiiy k u z k?0k? 22 2( ) [ ]T T Ti i i i i iE y u E zz u u u u? ? ?ICA的優(yōu)化算法 負(fù)熵的固定點(diǎn)算法（ 2022） （ 1） x去均值，加以球化得 Z （ 2）任選 ui的初值，使 （ 3）令 ， 為 的一階，二階導(dǎo)數(shù)，總集均值用時(shí)間代替 （ 4）歸一化 （ 5）若 不接近 1， 返回步驟（ 3），否則迭代結(jié)束 （ 6）提取分量 (0) 1iu ?( 1 ) [ ( ( ) ) ] [ ( ( ) ) ] ( )TTi i iu k E zf u k z E f u k z u k?? ? ?,ff? ()F?2( 1 ) ( 1 )( 1 )i iiuk ukuk? ???( 1) ( )Tiiu k u k? 1k?( 1)iiu u k??( ) ( )Tiiy k u z k?該方法收斂具有三階收斂速度 ICA的優(yōu)化算法 多個(gè)分量逐次提取 若已提取 p1個(gè)矢量， 若采用上述方法提取了 p個(gè)矢量，在 進(jìn)行下輪迭代前，將 按下式正交化 1 2 1, , , pu u u ?pu1,pp p j j pju u u u u???? ? ? ??????步驟： （ 1）原始數(shù)據(jù) x去均值，再球化，得 Z （ 2） m為待提取獨(dú)立分量數(shù)目， p=1 再將所得的 歸一化 pu (0)pu為初始值 ICA的優(yōu)化算法 （ 3）任取 ， （ 4）迭代 （ 5）正交化 （ 6）歸一化 （ 7）若 為收斂，回步驟（ 4） （ 8） p+1，若 p≤m，回步驟（ 3） (0)pu 2(0) 1pu ?? ? ? ?( 1 ) [ ( ) ] [ ( ) ] ( )TTp p p pu k E f u k E f u k u k?? ? ?z z z11( 1 ) ( 1 ) , ( 1 )pp p j pju k u k u u k??? ? ? ? ? ? ??2( 1 ) ( 1 )( 1 )iiiuk ukuk? ???pu
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1