[理學(xué)]第10章主成份分析和因子分析(已修改)
2025-01-31 07:34 本頁面
【正文】 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 第 10章 主成分分析與因子分析 主成分分析 因子分析 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 2 學(xué)習(xí)目標(biāo) ? ? ? ? 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 主成分分析 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 4 主成分分析的原理 ? 多元統(tǒng)計(jì)分析處理的是多變量（多指標(biāo)）問題。由于變量較多，增加了分析問題的復(fù)雜性。但在實(shí)際問題中，變量之間可能存在一定的相關(guān)性，因此，多變量中可能存在信息的重疊。人們自然希望通過克服相關(guān)性、重疊性，用較少的變量來代替原來較多的變量，而這種代替可以反映原來多個(gè)變量的大部分信息，這實(shí)際上是一種 “降維”的思想。 ? “主成分分析”、“因子分析” 都可以用來對數(shù)據(jù)進(jìn)行降維。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 5 主成分分析的基本思想 ? 主成分分析（ Principal ponents analysis）是由 Hotelling于 1933年首先提出的。 ? 由于多個(gè)變量之間往往存在著一定程度的相關(guān)性。人們自然希望通過 線性組合 的方式，從這些指標(biāo)中盡可能快地提取信息。 ? 當(dāng)這些變量的第一個(gè)線性組合不能提取更多的信息時(shí)，再考慮用第二個(gè)線性組合繼續(xù)這個(gè)提取的過程， …… ，直到提取足夠多的信息為止。這就是主成分分析的思想。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 6 主成分分析的基本思想 ? 主成分分析適用于原有變量之間存在 較高程度相關(guān) 的情況。 ? 在主成分分析適用的場合，一般可以用較少的主成分得到較多的信息量，從而得到一個(gè)更低維的向量（即 更少的變量 ）。通過主成分既可以降低數(shù)據(jù)“維數(shù)”又保留了原數(shù)據(jù)的 大部分 信息。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 7 例：斯通關(guān)于國民經(jīng)濟(jì)的研究 ? 一項(xiàng)十分著名的工作是美國的統(tǒng)計(jì)學(xué)家斯通 (Stone)在 1947年關(guān)于國民經(jīng)濟(jì)的研究。他曾利用美國 1929一 1938年各年的數(shù)據(jù)，得到了 17個(gè)反映國民收入與支出的變量要素，例如雇主補(bǔ)貼、消費(fèi)資料和生產(chǎn)資料、純公共支出、凈增庫存、股息、利息、外貿(mào)平衡等等。 ? 在進(jìn)行主成分分析后，竟以 ％的精度，用三個(gè)新變量就取代了原 17個(gè)變量。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 8 主成分分析的幾何意義 2x1x? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 如果僅考慮 X1或 X2中的任何一個(gè)分量，那么包含在另一分量中的信息將會(huì)損失，因此，直接舍棄x1或 x2分量不是 “ 降維 ” 的有效辦法。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 9 主成分分析的幾何意義 1F2F?平移、旋轉(zhuǎn)坐標(biāo)軸 2x1x? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?對坐標(biāo)軸進(jìn)行旋轉(zhuǎn)，n個(gè)點(diǎn)在 F1軸上的方差達(dá)到最大，即在此方向上包含了有關(guān) n個(gè)樣品的最大量信息。 ?因此，欲將二維空間的點(diǎn)投影到某個(gè)一維方向上，則選擇 F1軸方向能使信息的損失最小。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 10 主成分分析的幾何意義 ? 第一主成分的效果與橢圓的形狀有關(guān)。橢圓越扁平， n個(gè)點(diǎn)在 F1軸上的方差就相對越大，在F2軸上的方差就相對越小，用第一主成分代替所有樣品造成的信息損失就越小。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 11 ? 2x1x1F2F? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的幾何意義 ? 原始變量不相關(guān)時(shí)，主成分分析沒有效果。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 12 ? 2x1x1F2F? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? 主成分分析的幾何意義 ? 原始變量相關(guān)程度越高，主成分分析效果越好。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 13 主成分分析的數(shù)學(xué)模型 ppppppppppxaxaxaFxaxaxaFxaxaxaF???????????????22112222121212121111方程滿足下列條件： （ 1） （ 2） Fi與 Fj不相關(guān)。 （ 3） F1與 Fp到 方差依次遞減。 122221 ??? ipii aaa ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 14 主成分分析的數(shù)學(xué)模型 ? 有 p個(gè) x，相應(yīng)可以計(jì)算出 p個(gè)主成分。但一般只使用少數(shù)幾個(gè)主成分就可以提取大部分信息。 ? 主成分分析的基本任務(wù)是計(jì)算系數(shù)矩陣 a11 … app。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 15 主成分求解的步驟 ? 主成分可以按以下步驟計(jì)算得出： ? 計(jì)算原始變量的相關(guān)系數(shù)矩陣 R。 ? 計(jì)算相關(guān)系數(shù)矩陣 R的 特征值 ，并按從大到小的順序排列，記為 ? 計(jì)算特征值對應(yīng)的特征向量，即為主成分 F1……F p相應(yīng)的系數(shù)。 p??? ??? ?21中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 16 主成分得分 ? 把原始變量的值代入主成分表達(dá)式中，可以計(jì)算出主成分得分。 ? 注意在計(jì)算主成分得分時(shí)需要先對原始變量進(jìn)行 標(biāo)準(zhǔn)化 。 ? 得到的主成分得分后，可以把各個(gè)主成分看作 新的變量 代替原始變量，從而達(dá)到降維的目的。 ppppppppppxaxaxaFxaxaxaFxaxaxaF???????????????22112222121212121111中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 17 主
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1