【正文】 s ? 條件： s和 A均是未知的，只有 x已知 ? 目標(biāo) : 通過 x估計(jì)出 A和 s 每一個(gè) si成分統(tǒng)計(jì)獨(dú)立 ? 限制： 每一個(gè)成分都不是 Gaussian分布（實(shí)際上未知） 混合矩陣 A為方陣且可逆（這個(gè)限制可以放松） ? 結(jié)論： 估計(jì)出 A之后，我們就可以得到 s（ s= A1x） Ambiguities of ICA ?s和 A均是未知的， s乘一個(gè)標(biāo)量 k，總可以用 A乘以 1/k所抵消，即不能唯一確定 s和 A。即獨(dú)立隨機(jī)變量的和比原獨(dú)立隨機(jī)變量更接近高斯分布。 ? Centering：使 x變?yōu)榫禐榱愕碾S機(jī)變量，減去 m=E{x}即可。 1T T T TE x x A E ss A A A? ? ?小結(jié) ? 前面給出了測量函數(shù)，也已證明 ICA問題實(shí)際上就是求解函數(shù)的最值問題。對于一些并列的序列，如外匯兌換和股票交易，可能有相同的潛在因素，一些連鎖店的銷售情況可能有共同的影響因素，如假期。 ? 不同的是 PCA而言，各分量不相關(guān) ICA而言， 各分量獨(dú)立 ? PCA的目的是找到這樣一組分量表示，使得重構(gòu)誤差最小，即最能代表原事物的特征。如 EEG(腦電圖）將一些電極放在頭皮上記錄腦的活動(dòng)。 39。 Negentropy的近似 ? 經(jīng)典近似： 和 Kurtosis有同樣的缺點(diǎn)：不魯棒。 Illustration of ICA ?通過 x的統(tǒng)計(jì)性質(zhì)，作一些假設(shè)的條件下 ,可以估計(jì)出 A和 s 統(tǒng)計(jì)概念 ? 獨(dú)立 ：兩個(gè)隨機(jī)變量 y1和 y2是相互獨(dú)立的，如果 y1的值不能為 y2提供任何信息，反之亦成立。 用概率密度函數(shù)描述： 性質(zhì)：給定兩函數(shù) h1和 h2有： ? 不相關(guān) ：兩隨機(jī)變量是不相關(guān)的，如果 ? 獨(dú)立的肯定不相關(guān)，不相關(guān)的未必獨(dú)立，即獨(dú)立是比不相關(guān)更強(qiáng)的約束。 ? 另一種近似： V是均值為零，方差為 1的高斯隨機(jī)變量， G是非二次函數(shù) 常取為： 計(jì)算簡單快速，而且具有魯棒性。 39。一些人為動(dòng)作會(huì)造成噪聲（如眨眼、張嘴等）。 ? ICA的目的是找到這樣一組分量表示，使得個(gè)分量最大化獨(dú)立，能夠發(fā)現(xiàn)一些隱藏因素。 ? 經(jīng)濟(jì)及其它時(shí)間序列。 39。 ? ? ? ?2 2311() 1 2 4 8J y E y k u r t y??? ? ? ? 2( ) ( ) ( )J y c E G y E G v??????