beeaaa主成分分析-文庫吧
2025-07-09 08:49 本頁面
【正文】 說明兩點：一個是數(shù)學(xué)模型中為什么作線性組合 ?基于兩種原因：①數(shù)學(xué)上容易處理；②在實踐中效果很好。另一個要說明的是每次主成分的選取使 Var(Fi)最大，如果不加限制就可使 Var(Fi) 則就無意義了，而常用的限制是要求 （ 2 ）主成分的幾何意義 從代數(shù)學(xué)觀點看主成分就是 p個變量 X1… ， Xp的一些特殊的線性組合，而在幾何上這些線性組合正是把X1， … ， Xp構(gòu)成的坐標(biāo)系旋轉(zhuǎn)產(chǎn)生的新坐標(biāo)系，新坐標(biāo)軸使之通過樣品變差最大的方向 (或說具有最大的樣品方差 )。下面以最簡單的二元正態(tài)變量來說明主成分的幾何意義。 2022/8/21 10 設(shè)有 n 個樣本，每個樣本有 p個變量記為 X1， … ， Xp，它們的綜合變量記為 F1， F2， … ， Fp。當(dāng) p＝ 2時，原變量是 X1， X2，設(shè) 它們有下圖的相關(guān)關(guān)系： 對于二元正態(tài)分布變量， n個點的散布大致為一個橢園，若在橢園長軸方向取坐標(biāo)軸 F1，在短軸方向取 F2，這相當(dāng)于在平面上作一個坐標(biāo)變換，即按逆時針方向旋轉(zhuǎn) 角度，根據(jù)旋軸變換公式新老坐標(biāo)之間有關(guān)系： 2022/8/21 11 我們看到 F1， F2是原變量 X1 和 X2 的線性組合，用矩陣表示是 顯然 且是正交矩陣，即 從上圖還容易看出二維平面上的 n個點的波動 (可用方差表示 )大部分可以歸結(jié)為在 F1 軸上的波動，而在 F2軸上的波動是較小的。如果上圖的橢園是相當(dāng)扁平的，那么我們可以只考慮 F1方向上的波動，忽略 F2方向的波動。這樣一來，二維可以降為一維了，只取第一個綜合變量 F1即可。而 F1是橢園的長軸。 2022/8/21 12 一般情況， p個變量組成 p維空間， n個樣本就是 p維空間的 n個點，對 p元正態(tài)分布變量來說，找主成分的問題就是找 p維空間中橢球體的主軸問題。 3 主成分的推導(dǎo)及性質(zhì) 在下面推導(dǎo)過程中，要用到線性代數(shù)中的兩個定理先作一下復(fù)習(xí)： 定理一 若矩陣 A是 p階實對稱陣，則一定可以找到正交陣 定理二 若上述矩陣 A的特征根所對應(yīng)的單位特征向量 2022/8/21 13 則實對稱 A屬于不同特征根所對應(yīng)的特征向量是正交的即， l 主成分的推導(dǎo) 設(shè) 其中 求主成分就是尋找 X的線性函數(shù) a’ X使相應(yīng)的方差盡可能地大即使 2022/8/21 14 達(dá)到最大值，且 設(shè)協(xié)差陣的特征根為 單位特征向量為 相應(yīng)的 2022/8/21 15 由前面線性代數(shù)定理可知： 且 因此 所以 2022/8/21 16 達(dá)到最大值， 且 而且 同理 2022/8/21 17 上述推導(dǎo)表明： X1， X2， … ， Xp的主成分就是以 ∑ 的特征向量為系數(shù)的線性組合，它們互不相關(guān)，其方差為∑的特征根。 由于 ∑的特征根 了解這一點也就可以明白為什么主成分的名次是按特征根取值大小的順序排列的， 所以有： VarF 1≥VarF2≥…≥VarF po。 在解決實際問題時，一般不是取 p個主成分，而是根據(jù)累計貢獻(xiàn)率的大小取前幾個。 定義 稱第一主成分的貢獻(xiàn)率為 主成分的貢獻(xiàn)率就是主成分的方差在全部方差中的比值 因此第一 2022/8/21 18 個值越大，表明第一主成分綜合 X1 … ， Xp信息 的能力越強(qiáng)。 前兩個主成分的累計貢獻(xiàn)率定義為 前兩個主成分的累計貢獻(xiàn)率定義為 前 k 個主成分的貢獻(xiàn)率達(dá)到 85％，表明取前是個主成分基本包含了全部測量指標(biāo)所具有的信息，這樣既減少了變量的個數(shù)又便于對實際問題的分析和研究。 如果 值得指出的是：當(dāng)協(xié)差陣 ∑未知時，可用其估計值 S(樣本協(xié)差陣 )來代替， 設(shè)原始資料陣為： 2022/8/21 19 則 其中 而相關(guān)系數(shù)陣： 其中 2022/8/21 20 顯然當(dāng)
規(guī)章制度相關(guān)推薦
鄂ICP備17016276號-1