獨立成分分析independentcomponentanalysisica-文庫吧
2025-04-23 08:51 本頁面
【正文】 值不能為 y2提供任何信息，反之亦成立。 用概率密度函數描述： 性質：給定兩函數 h1和 h2有： ? 不相關 ：兩隨機變量是不相關的，如果 ? 獨立的肯定不相關，不相關的未必獨立，即獨立是比不相關更強的約束。 1 2 1 1 2 2( , ) ( ) ( )p y y p y p y?1 1 2 2 1 1 2 2{ ( ) ( ) } { ( ) } { ( ) }E h y h y E h y E h y?1 2 1 2{ } { } { }E y y E y E y?不可以是 Gaussian分布 ? 在假設條件中，各分量不允許是 Gaussian分布 ? X1和 x2都是標準 Gaussian分布，聯(lián)合概率密度函數： 沒有邊緣信息，即不包含 A的 列向量的信息。 2212121( , ) e x p22xxp x x?????? ????ICA估計的原理： nonGaussianity ? 根據 中心極限定理 ，獨立隨機變量的和在一定條件下趨近于高斯分布。即獨立隨機變量的和比原獨立隨機變量更接近高斯分布。 ?可以認為越具有高斯性，其獨立性越差 反之， nonGaussianity越強，獨立性越強 ICA估計的原理： nonGaussianity ? ICA 模型： x = As s=A1x ? 令 y==ATw, 則 y=wTx=wT As=zTs ? 這樣的話 y 是 s的線性組合， y應該比 s更具有高斯性，除非 wT接近 A1。 此時， y=wTx=A1x=s。 ? 也就是說 y=s時， y具有最大非高斯性。 ? 問題轉化為求解 w，它最大化 wTx的 nonGaussianity性。 ? ICA 數值優(yōu)化問題。 nonGaussianity的度量 ? 為了在 ICA估計中使用 nonGaussianity，我們必須有一個對它的定性度量。 ? 常用的有三種： Kurtosis Negentropy Approximations of negentropy Kurtosis ? 定義： y為隨機變量，則 ? 對于高斯分布， Kurtosis為零，大部分非高斯分布 Kurtosis不為零。 ? 性質： ? 優(yōu)點：計算和理論簡單 ? 缺點：對 outliers敏感，不具有魯棒性
環(huán)評公示相關推薦
鄂ICP備17016276號-1