【文章內(nèi)容簡(jiǎn)介】 LAB來(lái)研究胎兒心電信號(hào)的提取，獲得了可以令人接受的效果，最后總結(jié)一下LMS算法的優(yōu)缺點(diǎn)，優(yōu)點(diǎn)是算法簡(jiǎn)單，計(jì)算復(fù)雜度低，收斂速度快，能夠在工頻干擾的情況下成功提取胎兒心電，缺點(diǎn)是提取出來(lái)的胎兒心電信號(hào)常?；煊心赣H心電成分，僅僅能夠識(shí)別QRS波，其他波段的信息幾乎不能識(shí)別，而且對(duì)胎兒與母親信號(hào)功率比較低的信號(hào)提取效果不理想，甚至在胎兒信號(hào)非常微弱的時(shí)候不能夠提取出。49基于自適應(yīng)濾波和獨(dú)立分量分析提取胎兒心電的可行性研究第3章基于獨(dú)立變量分析的胎兒心電信號(hào)提取 盲源分離與獨(dú)立變量分析簡(jiǎn)介獨(dú)立分量分析(Independent Component Analysis，簡(jiǎn)稱(chēng)ICA)最初是為了解決盲源分離(Blind Source Seperation, BSS)問(wèn)題而被人們所提出的，盲源分離是指僅從觀(guān)測(cè)的混合信號(hào)中恢復(fù)獨(dú)立的源信號(hào),‘盲’的意思是：源信號(hào)是不可觀(guān)測(cè)的，混合系統(tǒng)也是事先未知的。“雞尾酒會(huì)”問(wèn)題就是一個(gè)典型的盲源分離的例子。所謂“雞尾酒會(huì)問(wèn)題”，就是有許多人(不同的發(fā)聲源)同時(shí)在一個(gè)小房子里講話(huà)時(shí)，來(lái)自不同位置的各個(gè)人的聲音會(huì)傳到放在不同位置的麥克風(fēng)中，這樣每個(gè)麥克風(fēng)記錄的信號(hào)是所有人聲音的一個(gè)混和，我們稱(chēng)之為觀(guān)測(cè)信號(hào)。盲源分離所要解決的問(wèn)題是:怎樣僅從這組麥克風(fēng)所記錄下來(lái)的信號(hào)中分離出每個(gè)說(shuō)話(huà)者的聲音信號(hào)，即源信號(hào)。但是若我們已經(jīng)事先知道了混合系統(tǒng)的信息，那么這個(gè)問(wèn)題就轉(zhuǎn)化為求其混合系統(tǒng)的逆的問(wèn)題。然而在實(shí)際情況中，我們往往很難得到混合系統(tǒng)的一些有用的信息，所以我們只能利用觀(guān)測(cè)信號(hào)來(lái)估計(jì)混合系統(tǒng)，實(shí)現(xiàn)盲源分離。目前ICA己經(jīng)在許多領(lǐng)域獲得了實(shí)際的應(yīng)用。在生物醫(yī)學(xué)方面，ICA用于思維腦電和誘發(fā)腦電的特征提取、腦電噪聲的濾除、提取FECG、功能核磁共振成像等。在圖像處理方面，ICA己用于人臉識(shí)別、圖像特征提取和消噪等方面。在遠(yuǎn)程通訊方面，ICA己在CDMA通信系統(tǒng)中的多用戶(hù)檢測(cè)、通信信道的盲均衡、盲辨識(shí)以及在TWACS中減小并行傳輸信號(hào)之間的相互干擾等方面獲得了初步的應(yīng)用。在語(yǔ)音分離問(wèn)題上，ICA也是目前常用的一種技術(shù)。此外，ICA在金融數(shù)據(jù)分析、數(shù)據(jù)挖掘、機(jī)械故障檢測(cè)、雷達(dá)信號(hào)處理、網(wǎng)絡(luò)安全等其它許多領(lǐng)域中均獲得了成功的應(yīng)用。 獨(dú)立變量分析獨(dú)立變量分析是在上個(gè)世紀(jì)90年代逐漸興起的一種新的盲信號(hào)處理方法。ICA主要是以觀(guān)測(cè)信號(hào)的非高斯性作為判據(jù)，在假設(shè)各源信號(hào)相互統(tǒng)計(jì)獨(dú)立的基礎(chǔ)上，確立合適的能夠度量其非高斯性的目標(biāo)函數(shù)，然后借助恰當(dāng)?shù)膬?yōu)化算法將源信號(hào)提取出來(lái)。人們?yōu)榻鉀Q盲源分離問(wèn)題，提出了獨(dú)立變量分析，它經(jīng)過(guò)快速的發(fā)展，已經(jīng)成為處理信號(hào)和分析數(shù)據(jù)的有效工具。用ICA處理盲源分離的問(wèn)題時(shí)，不需要復(fù)雜的先驗(yàn)知識(shí)，只要各源信號(hào)統(tǒng)計(jì)獨(dú)立等較簡(jiǎn)單的假設(shè)就可以從觀(guān)測(cè)信號(hào)中有效地提取出各個(gè)源信號(hào)。因此，ICA是盲源分離的一種方法，而盲源分離是ICA的應(yīng)用實(shí)例之一。解決盲源分離問(wèn)題的辦法有很多，眾多ICA方法只是其中一部分而已。其實(shí)，盲源分離的目標(biāo)是得到原始源信號(hào)，并不關(guān)心它們是不是相互統(tǒng)計(jì)獨(dú)立。然而ICA是找出某種方法最大化觀(guān)測(cè)信號(hào)的非高斯性，從而使輸出的各源信號(hào)的估值盡量的相互統(tǒng)計(jì)獨(dú)立。ICA算法的實(shí)質(zhì)是在假設(shè)源信號(hào)統(tǒng)計(jì)獨(dú)立的基礎(chǔ)上，在不知道源信號(hào)及混合矩陣任何信息的情況下，試圖把觀(guān)測(cè)信號(hào)表示為各源信號(hào)的線(xiàn)性組合。混合系統(tǒng)A分離系統(tǒng)W 噪聲 源信號(hào) 觀(guān)測(cè)信號(hào)分離信號(hào) 未知 ICA的原理框圖如圖所示，源信號(hào)經(jīng)過(guò)一個(gè)混合系統(tǒng)然后和噪聲疊加便是觀(guān)測(cè)信號(hào)，即，觀(guān)測(cè)信號(hào)經(jīng)過(guò)分離系統(tǒng)便可以估計(jì)出源信號(hào)，這里有。明顯這是一個(gè)盲辨識(shí)的問(wèn)題，因?yàn)榫仃嘇和源信號(hào)矢量都是未知的。利用ICA設(shè)計(jì)出相應(yīng)的權(quán)值學(xué)習(xí)算法，就可以使權(quán)矩陣收斂到分離矩陣。(為未知的源信號(hào)矢量，為已知的觀(guān)測(cè)信號(hào)矢量，是未知的的滿(mǎn)秩混合矩陣，為分離陣)。ICA問(wèn)題的基本假設(shè)[14]：①A是列滿(mǎn)秩陣，即M≥N，可觀(guān)測(cè)序列數(shù)多于盲源數(shù)。此時(shí)混合矩陣A是一個(gè)確定的且未知的N階方陣，假設(shè)A滿(mǎn)秩時(shí)，逆矩陣A1存在。②源信號(hào)是在任何時(shí)候都相互統(tǒng)計(jì)獨(dú)立的時(shí)隨機(jī)變量，且均值為零。③源信號(hào)中最多只允許存在一個(gè)信號(hào)滿(mǎn)足高斯分布，這是因?yàn)閮蓚€(gè)統(tǒng)計(jì)獨(dú)立的高斯白噪聲混合后還是高斯白噪聲，獨(dú)立分量分析不能分離它們。④各傳感器引入的噪聲很小，可以忽略不計(jì)。⑤對(duì)各源信號(hào)的概率分布函數(shù)略有一些先驗(yàn)知識(shí)。例如，自然界的語(yǔ)音和某些音樂(lè)信號(hào)具有超高斯特性；圖像信號(hào)大多具有亞高斯特性；許多噪聲則具有高斯特性。對(duì)求得的結(jié)果也允許有如下的不確定性：①求出的各信號(hào)的幅值和符號(hào)可能不確定。②分離信號(hào)排列順序的不確定，即我們無(wú)法知道他們的對(duì)應(yīng)關(guān)系，只能自己辨別。在實(shí)際應(yīng)用中我們?yōu)榱耸构烙?jì)任意混合矩陣A的問(wèn)題變得簡(jiǎn)單，常常將觀(guān)測(cè)數(shù)據(jù)進(jìn)行預(yù)處理，包括中心化和白化，中心化是將零均值化，白化是將做一個(gè)線(xiàn)性變換得到,其中的各分量互不相關(guān)，且具有單位方差，即。白化后的信號(hào)與要分離的獨(dú)立信號(hào)兩者間的關(guān)系為 ()其中為正交陣。通常情況下由于我們假設(shè)源信號(hào)是單位方差，所以 ()通過(guò)白化，我們就將求復(fù)雜矩陣A的難題變成了求一個(gè)正交陣B這樣的容易問(wèn)題。其實(shí)ICA是一個(gè)優(yōu)化過(guò)程，也就是使提取出的各個(gè)獨(dú)立信號(hào)最大程度的成為源信號(hào)的最佳估計(jì)的過(guò)程。因此，ICA包括兩個(gè)方面：優(yōu)化判據(jù)(目標(biāo)函數(shù))和尋優(yōu)算法。在ICA算法學(xué)習(xí)過(guò)程當(dāng)中，我們應(yīng)該確立一個(gè)能夠用數(shù)值度量各輸出之間的非高斯性的以為變量的目標(biāo)函數(shù)，然后求出這個(gè)函數(shù)的極大或者極小值，則這個(gè)值所對(duì)應(yīng)的就是要求的解。非高斯性是ICA估計(jì)中最重要的，可以說(shuō)，如果沒(méi)有非高斯性就無(wú)法進(jìn)行ICA估計(jì)。中心極限定理表明，在一定條件下，獨(dú)立隨機(jī)變量的和更趨近于高斯分布[14]。所以我們就可以知道，若觀(guān)測(cè)信號(hào)是由某幾個(gè)獨(dú)立源信號(hào)線(xiàn)性組合而成，那么觀(guān)測(cè)信號(hào)要比各獨(dú)立源更加近似于高斯分布，換句話(huà)說(shuō)就是各獨(dú)立源的非高斯性要強(qiáng)于觀(guān)測(cè)信號(hào)。我們可以依據(jù)這個(gè)思想來(lái)尋找一個(gè)目標(biāo)函數(shù)來(lái)度量提取信號(hào)的非高斯性，若提取信號(hào)的非高斯性達(dá)到最大，也就是目標(biāo)函數(shù)取得了極值，便可以認(rèn)為提取出的信號(hào)是獨(dú)立源的最佳估計(jì)了。在實(shí)際計(jì)算中，非高斯性通常采用四階累積量即峭度來(lái)表示。隨機(jī)變量的峭度定義為 ()在的均值為零時(shí)，高斯信號(hào)的峭度為0，亞高斯信號(hào)的峭度小于0，超高斯信號(hào)的峭度大于0。所以可以通過(guò)使源信號(hào)估計(jì)峭度的正最大化或負(fù)最小化來(lái)提高其非高斯性，從而分離出獨(dú)立分量。然而在實(shí)際應(yīng)用中，要計(jì)算峭度值我們需要用到測(cè)得的樣本，而它對(duì)野值很敏感，即峭度不是一個(gè)魯棒的非高斯性測(cè)度。學(xué)者們希望找到一個(gè)魯棒性和計(jì)算速度俱佳的非高斯性法則，而滿(mǎn)足要求的負(fù)熵就被人們所利用了起來(lái)。根據(jù)信息論的基本知識(shí)，高斯信號(hào)是等方差的隨機(jī)信號(hào)中熵最大的。由此我們可以知道熵可以用來(lái)度量非高斯性。在此我們用微分熵的修正形式負(fù)熵來(lái)作為非高斯性的度量，高斯分布的負(fù)熵為零，且它總是非負(fù)的。負(fù)熵的定義：設(shè)為的高斯隨機(jī)矢量，與有相同的均值和協(xié)方差陣，則 () ()稱(chēng)為多變量負(fù)熵和邊緣負(fù)熵。由可知，負(fù)熵總是非負(fù)的。概率論已經(jīng)證明負(fù)熵作為非高斯性的度量是合理的。但是用定義式來(lái)計(jì)算負(fù)熵非常復(fù)雜，因?yàn)橐玫礁怕拭芏群瘮?shù)的估計(jì)形式。所以我們一般用負(fù)熵的近似式。利用高階矩的負(fù)熵近似式，如 ()其中假設(shè)是零均值、單位方差。但這個(gè)近似公式的有效性范圍有限，尤其是其中峭度估計(jì)的魯棒性不能保證[14]。為避免這個(gè)問(wèn)題，又提出如下的基于一般函數(shù)形式的負(fù)熵近似式： ()其中，為某一正常數(shù)，為零均值、單位方差的高斯變量，函數(shù)為非二次函數(shù)。研究表明，即使這種近似不是很準(zhǔn)確，但式()依然能夠較好的度量非高斯性。而且明顯式()是非負(fù)的，當(dāng)且僅當(dāng)服從高斯分布時(shí)為零。當(dāng)所有的時(shí)，式()簡(jiǎn)化為 ()其中是任意非二次函數(shù)，是任意常數(shù)。對(duì)適當(dāng)選取的，可得到比式()好得多的近似負(fù)熵，尤其是選擇增長(zhǎng)不是很快的時(shí)，可得到更具魯棒性的估計(jì)算法，下面的幾個(gè)非二次函數(shù)已被證明是非常有效的[14]： () ()其中是區(qū)間內(nèi)的常數(shù)。目標(biāo)函數(shù)實(shí)際上是隨機(jī)變量概率密度函數(shù)的泛函，只有當(dāng)隨機(jī)變量互相獨(dú)立時(shí)，目標(biāo)函數(shù)才能達(dá)到最大或最小值。在進(jìn)行ICA處理時(shí)，選擇不同的目標(biāo)函數(shù)就得到不同的算法，主要包括最小互信息(minimun mutual information，MMI)法，最大熵(maximum entropy，ME)法和最大似然估計(jì)(maximum likelihood estimation，MLE)法三大類(lèi)。在確立了目標(biāo)函數(shù)之后，我們需要選取一種學(xué)習(xí)算法，經(jīng)過(guò)不斷迭代令目標(biāo)函數(shù)取得極大或極小值。常用的學(xué)習(xí)算法有隨機(jī)梯度法和自然梯度法。本文主要介紹一種基于負(fù)熵最大的快速獨(dú)立變量分析算法。 快速獨(dú)立變量分析算法快速獨(dú)立變量分析算法，又叫FastICA算法，也叫固定點(diǎn)(fixed point)算法，是由芬蘭赫爾辛基大學(xué)的Hyvarinent等人提出來(lái)的。該算法使用了批處理方式，也就是大量的樣本數(shù)據(jù)在每一步迭代過(guò)程中都要參與運(yùn)算。FastICA算法是一種基于定點(diǎn)迭代的方法，為了找出高斯性的最大值，用近似負(fù)熵來(lái)測(cè)量獨(dú)立性，這里具有單位方差和零均值，是一個(gè)單位方差、零均值的高斯隨機(jī)變量，而的選取我們?cè)谏厦嬉呀?jīng)提到過(guò)。將帶入式()可得到以為變?cè)哪繕?biāo)函數(shù) ()首先要注意到的近似負(fù)熵的最大值一般是通過(guò)對(duì)求最大值來(lái)取得的。這樣求式()的最大值就變成了在約束條件下求的條件極值問(wèn)題。那么根據(jù)拉格朗日乘數(shù)法，可知 ()將式(