【正文】
始值 p0,然后將函數(shù)迭代作用于自身的輸出,直到輸入和輸出差別很小為止。 39。 39。 TE x x I?? ?39。 預(yù)處理- whitening ? 對 x進行線性變化,使變換后的 x’是 white的,即各分量不相關(guān)且 , I為單位矩陣。 ? ? ? ?2 2311() 1 2 4 8J y E y k u r t y??? ? ? ? 2( ) ( ) ( )J y c E G y E G v??????1111( ) l o g c o sG u a ua?22 ( ) e x p 2uGu ????? ????預(yù)處理- Centering ? 為了使算法更簡單,一般會在采用具體算法前進行預(yù)處理。 ? 計算起來太復(fù)雜,需要引入其近似值。 ? 常用的有三種: Kurtosis Negentropy Approximations of negentropy Kurtosis ? 定義: y為隨機變量,則 ? 對于高斯分布, Kurtosis為零,大部分非高斯分布 Kurtosis不為零。 ? 也就是說 y=s時, y具有最大非高斯性。 2212121( , ) e x p22xxp x x?????? ????ICA估計的原理: nonGaussianity ? 根據(jù) 中心極限定理 ,獨立隨機變量的和在一定條件下趨近于高斯分布。邊的方向即 A0列向量 。 ? 定義二:找到事物的一種合理表示,使得各分量最大化地獨立。ICA ICA定義 ? 定義一:利用很少的先驗知識將混合信息分離成獨立分量的一種重要方法。 作如下約束: ?S中各個分量的次序不確定 2{ } 1iEs ?Illustration of ICA ? 統(tǒng)計意義下說明 x As? ox A s?S各分量相互獨立 x各分量不相互獨立 判斷方法:能否從一個分量估計出另一分量的值。 1 2 1 1 2 2( , ) ( ) ( )p y y p y p y?1 1 2 2 1 1 2 2{ ( ) ( ) } { ( ) } { ( ) }E h y h y E h y E h y?1 2 1 2{ } { } { }E y y E y E y?不可以是 Gaussian分布 ? 在假設(shè)條件中,各分量不允許是 Gaussian分布 ? X1和 x2都是標(biāo)準(zhǔn) Gaussian分布,聯(lián)合概率密度函數(shù): 沒有邊