主成分分析pcappt課件(編輯修改稿)
2025-02-10 05:40 本頁(yè)面
【文章內(nèi)容簡(jiǎn)介】 ． 0IA? ??定義 0IA? ??稱以 λ 為未知數(shù)的一元ｎ次方程 為 Ａ 的 特征方程 ． 30 ? 例 1: 從一個(gè)總體中隨機(jī)抽取 4個(gè)樣本作三次測(cè)量 ,每一個(gè)樣本的觀測(cè)向量為 : 1 2 3 41 4 7 82 , 2 , 8 , 41 13 1 5? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?? ? ? ? ? ? ? ?X X X X 計(jì)算樣本均值 M和協(xié)方差矩陣 S以及 S的特征值和特征向量 . 11 niin ?? ?MX 11Tn? ?S BBSX X??31 Syntax C = cov(X) AlgorithmThe algorithm for cov is [n,p] = size(X)。 X = X ones(n,1) * mean(X)。 Y = X39。*X/(n1)。 See Also corrcoef, mean, std, var 2022/2/11 32 ? 2x1x1F2F? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 平移、旋轉(zhuǎn)坐標(biāo)軸 ? M 2022/2/11 33 為了方便，我們?cè)诙S空間中討論主成分的幾何意義。 設(shè)有 n個(gè)樣本，每個(gè)樣本有兩個(gè)觀測(cè)變量 xl和 x2，在由變量 xl和 x2 所確定的二維平面中， n個(gè)樣本點(diǎn)所散布的情況如橢圓狀 。由圖可以看出這 n個(gè)樣本點(diǎn)無論是沿著 xl 軸方向或 x2軸方向都具有較大的離散性，其離散的程度可以分別用觀測(cè)變量 xl 的方差和 x2 的方差定量地表示。顯然，如果只考慮 xl和 x2 中的任何一個(gè)，那么包含在原始數(shù)據(jù)中的信息將會(huì)有較大的損失。 2022/2/11 34 ? 如果我們將 xl 軸和 x2軸先平移，再同時(shí)按逆時(shí)針方向旋轉(zhuǎn) ?角度，得到新坐標(biāo)軸 Fl和F2。 Fl和 F2是兩個(gè)新變量 。 2022/2/11 35 Fl， F2除了可以對(duì)包含在 Xl， X2中的信息起著濃縮作用之外，還具有不相關(guān)的性質(zhì)，這就使得在研究復(fù)雜的問題時(shí)避免了信息重疊所帶來的虛假性。 二維平面上的個(gè)點(diǎn)的方差大部分都?xì)w結(jié)在Fl軸上，而 F2軸上的方差很小。 Fl和 F2稱為原始變量 x1和 x2的綜合變量。 F簡(jiǎn)化了系統(tǒng)結(jié)構(gòu)，抓住了主要矛盾。 36 稍事休息 37 167。 PCA的性質(zhì) 一、兩個(gè)線性代數(shù)的結(jié)論 若 A是 p階實(shí)對(duì)稱陣 ， 則一定可以找到正交陣 U， 使 pp???????????????p??????????00000021AUU1pii ?., ??其中 是 A的特征根。 38 若上述矩陣的特征根所對(duì)應(yīng)的單位特征向量為 ??????????????ppppppuuuuuuuuu???????212222111211),(p1uuU 則實(shí)對(duì)稱陣 屬于不同特征根所對(duì)應(yīng)的特征向量是正交的，即有 p1 uu ,?令 AIUUUU ????39 167。 PCA的性質(zhì) (續(xù) ) 均值 ()TTE x M?UU 方差為所有特征根之和 1()piiV ar F??? 2 2 21 2 1 2pp? ? ? ? ? ?? ? ? ? ? ? ? 說明主成分分析把 P個(gè)隨機(jī)變量的總方差分解成為P個(gè)不相關(guān)的隨機(jī)變量的方差之和 。 協(xié)方差矩陣 ?的 對(duì)角線上的元素之和等于特征根之和 。 40 、 精度分析 1）貢獻(xiàn)率：第 i個(gè)主成分的方差在全部方差中所占比重 ，稱為貢獻(xiàn)率 ， 反映了原來 P個(gè)指標(biāo)多大的信息，有多大的綜合能力 。 ??pi ii 1?? 2）累積貢獻(xiàn)率：前 k個(gè)主成分共有多大的綜合能力，用這 k個(gè)主成分的方差和在全部方差中所占比重 來描述，稱為累積貢獻(xiàn)率。 ????pi iki i 11??41 PCA 常用統(tǒng)計(jì)量： ? １ .特征根 λi ? ２ .各成分貢獻(xiàn)率 ? ３ .前各成分累計(jì)貢獻(xiàn)率 ? ４ .特征向量 各成分表達(dá)式中標(biāo)準(zhǔn)化原始變量的系數(shù)向量，就是各成分的特征向量。 ? ii??42 我們進(jìn)行主成分分析的目的之一是希望用盡可能少的 主成分 F1， F2， … ， Fk（ k≤p ） 代替原來的 P個(gè)指標(biāo) 。 到底應(yīng)該選擇多少個(gè)主成分 ，在實(shí)際工作中 ， 主成分個(gè)數(shù)的多少取決于能夠反映原來變量 80%以上的信息量為依據(jù) ， 即當(dāng)累積貢獻(xiàn)率 ≥ 80%時(shí)的 。 最常見的情況是主成分為2到 3個(gè) 。 主成分的個(gè)數(shù)就足夠了 43 例 設(shè)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1