《獨(dú)立分量分析》ppt課件-全文預(yù)覽
【正文】 二階均方 四階峰度 統(tǒng)計(jì)估計(jì)時(shí)，偏斜度，峰度是對(duì)標(biāo)準(zhǔn)化了的數(shù)據(jù) x (均值 為 0，方差為 1）進(jìn)行的。 獨(dú)立分量分析概述 （ 3）芬蘭赫爾辛基工業(yè)大學(xué)神經(jīng)網(wǎng)絡(luò)研究中心 ~oja 高階統(tǒng)計(jì)量引入 PCA，提出了立足于逐次提取獨(dú)立分 量的固定點(diǎn)算 法 （ fixed point algorithm) 。 （ 2） 使輸出盡可能非高斯化 ,Y方差恒定， Y的非高斯性的每一個(gè)局部極大值給出了一個(gè)獨(dú)立分量。 ICA最早是針對(duì)“雞尾酒會(huì)問(wèn)題”，從酒會(huì)嘈雜人聲中提取所關(guān)心 對(duì)象的語(yǔ)音，針對(duì) CDMA把各用戶碼分解開來(lái)。 S X=AS Y=BX 混合矩陣 解混矩陣 A B 獨(dú)立分量分析概述 對(duì) X求協(xié)方差陣（假設(shè)各導(dǎo)記錄的均值皆為 0），則有： 為特征值，上式是對(duì) Cx的主分量分解。求 B，使任意兩輸出 yi, yj(i≠j)不相 關(guān) 。 分解出的分量是按能量大小排序的 。 多導(dǎo) 信號(hào)包括：主分量分析 （ PCA） ； 奇異值分解 （ SVD） 。 盲信號(hào)處理導(dǎo)論 （ 4）圖像處理：建立一系列具有獨(dú)立特征的組合，去 掉高階關(guān)聯(lián)性。 人的大腦可以很快辨出或集中聽某種需要關(guān)注聲音。 典型：胎兒心電圖信號(hào)提取。 （ 3） NS+SOS： 利用非平穩(wěn)信息和 SOS結(jié)合，能夠分 開功率譜形狀相同的源信號(hào)。在實(shí)際應(yīng)用中應(yīng)作一定的處理。依然保留了原信號(hào)的波形，是可以被 BSP 接收的，對(duì)于 BSP不是最關(guān)鍵的。 注：不確定性是指被估計(jì)信號(hào)任意比例伸縮，排序和 時(shí)滯。 ＊獨(dú)立分量分析 （ ICA： Independent Component Analysis) 得到相互獨(dú)立的輸出分量。 （ 2） SOS： 有時(shí)序結(jié)構(gòu)用二階統(tǒng)計(jì)量 （ SOS） 即可， 不能分離具有相同功率譜形狀或獨(dú)立同分布信號(hào)。 TDMA， FDMA， SDMA 盲信號(hào)處理導(dǎo)論 （三）應(yīng)用：醫(yī)學(xué)，語(yǔ)音增強(qiáng)，無(wú)線通信 （ 1）生物醫(yī)學(xué)處理：非侵入式評(píng)估人體器官不同生 理變化。 測(cè)量 盲信號(hào)處理導(dǎo)論 （ 2）聲音提取： 典型例子：“雞尾酒會(huì)”的問(wèn)題。 YYY YYYY符合盲信號(hào)處理對(duì)多通道的要求， 不需要有干擾信號(hào)的訓(xùn)練樣本。 以多導(dǎo)信號(hào)處理為基礎(chǔ)，即：必須借助于一組把信源 按不同比例組合起來(lái)的多通道信號(hào)同步觀察。 在均值為 0時(shí)，其協(xié)方差陣可表示為： TTTTx UUUVVUXXC ???? ? ?],...,[],...,[ 2122221 mMT D ia gD ia g ?????? ???? ? ?2mm ?? ? xC為特征值，是對(duì) 的主分量分解 。 基本原則 : (1)非線性去相關(guān)。 Y的非高斯性的每個(gè)局部極 大值都給了一個(gè)獨(dú)立分量。 SVD， PCA分解 , 保證分解出來(lái)的各分量不相關(guān)，不能保證分量 相互獨(dú)立。求 B，使任意兩輸出 yi, yj(i≠j)不相 關(guān)；且經(jīng)非線性變換 g(yi), h(yj)也不相關(guān)（高階統(tǒng)計(jì) 量）。 (2)日本 Riken的數(shù)量神經(jīng)科學(xué)實(shí)驗(yàn)室，互信息極小化 （ minimization of mutual information MMI)采用人 工神經(jīng)網(wǎng)絡(luò)優(yōu)化。 （ 4）法國(guó)學(xué)者： JADE 算法 批數(shù)據(jù)處理算法 近年來(lái)引人注意的稀疏分量分析。 (3) k40 超高斯 , k40 亞高斯 , k4 常用于對(duì)非高斯，但 對(duì)稱的 pdf分類。 （ 1）當(dāng)隨機(jī)變量取值一定范圍時(shí)，其取值作均勻分布將具有最大熵值。 ???? kiii ppH1logdxxq xpxpxqxpKL ?? )( )(lo g)()](),([?? dXXq XpXpXqXpKL )( )(lo g)()](),([??? dxxpxpH )(log)(X代表矩陣 干擾最佳形式 基本概念（與 ICA相關(guān)） （六）互信息：定義當(dāng) p(X)為多變量 [x1,x2,…x N]的聯(lián)合 pdf， p(xi)為各分 量邊際 pdf. 稱為互信息 I（ mutual information). 性質(zhì)： （ 1） I(x) ≥0， I(x)=0， x 中各分量相互獨(dú)立。 負(fù)熵 （ negentropy) 單變量： 多變量： 性質(zhì)： （ 1） J[p(x) ]≥0， p(x)=pG(x)：當(dāng)且僅當(dāng) J[p(x)]=0代表高斯分布。 ICA的優(yōu)化算法 任務(wù)：使 極大 4()ky為便于討論，設(shè) 4 1 4 2( ) ( ) 1k s k s??4 4 2 2 44 1 2 2 2( ) ( 1 )k y v v v v? ? ? ? ?24221 2 2vv? ? ?上式極大發(fā)生在 2 1 1 20 , 1 0 , 1v v v v? ? ? ? ? ?或此時(shí) 12y s s? ? ?或∴ 極大能得到獨(dú)立分量 s1， s2 4()kyICA的優(yōu)化算法 （ 2）為消除數(shù)據(jù)中的野點(diǎn)造成估計(jì)結(jié)果不夠穩(wěn)健的現(xiàn)象，可采用 非多項(xiàng)式函數(shù) 逼近概率密度函數(shù) 與 標(biāo)準(zhǔn)高斯分布（方差為 1，均值為 0）相差不太大時(shí)， 可用若干 非多項(xiàng)式函數(shù) 的加權(quán)和來(lái)逼近 ： ()py 221() 2 yp y e? ??()py () ( ) 1 ~iF y i N?()1( ) ( ) 1 ( )
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1