主分量分析ppt課件-展示頁
2025-05-14 22:03本頁面
【正文】 xxxxxr1 1221)()())((（ ） （二）計算特征值與特征向量 ① 解特征方程 ，常用雅可比法（ Jacobi）求出特征值，并使其按大小順序排列 ； 0?? RI?021 ???? p??? ? ② 分別求出對應于特征值 的特征向量 ，要求 =1，即 ，其中 表示向量 的第 j個分量。 從以上的分析可以看出，主成分分析的實質就是確定原來變量 xj（ j=1， 2 ， … ， p）在諸主成分 zi（ i=1， 2， … ， m）上的荷載 lij（ i=1， 2， … ， m； j=1， 2 ， … ， p）。 zm是與z1， z2， …… ， zm－ 1都不相關的 x1， x2， … xP， 的所有線性組合中方差最大者。 定義：記 x1， x2， … ， x P為原變量指標，z1， z2， … ， z m（ m≤p）為新變量指標 ???????????????????pmpmmmppppxlxlxlzxlxlxlzxlxlxlz???22112222121212121111... . . . . . . . . .() 系數(shù) lij的確定原則： ① z i與 zj（ i≠j； i， j=1， 2， … ， m）相互無關； ② z1是 x1， x2， … ， xP的一切線性組合中方差最大者， z2是與 z1不相關的 x1， x2， … ，xP的所有線性組合中方差最大者 。 二、主分量分析的基本原理 假定有 n個樣本，每個樣本共有 p個變量，構成一個 n p階的數(shù)據(jù)矩陣 ???????????????npnnppxxxxxxxxxX??????212222111211（ ） 當 p較大時，在 p維空間中考察問題比較麻煩。 舉一個例子： 對于一個訓練集， 100個樣本，特征是 10維，那么它可以建立一個 100*10的矩陣，作為樣本。通過求樣本矩陣的協(xié)方差矩陣，然后求出協(xié)方差矩陣的特征向量，這些特征向量就可以構成這個投影矩陣了。投影矩陣也可以叫做變換矩陣。 ? 對于一個 k維的特征來說，相當于它的每一維特征與其他維都是正交的（相當于在多維坐標系中，坐標軸都是垂直的），那么我們可以變化這些維的坐標系，從而使這個特征在某些維上方差大，而在某些維上方差很小。 ? PCA主要用于數(shù)據(jù)降維，對于一組樣本的特征組成的多維向量，多維向量里的某些元素本身沒有區(qū)分性，比如某個元素在所有的樣本中都為 1，或者與 1差距不大，那么這個元素本身就沒有區(qū)分性，用它做特征來區(qū)分，貢獻會非常小。這樣低階成分往往能夠保留住數(shù)據(jù)的最重要方面。主成分分析經(jīng)常用減少數(shù)據(jù)集的維數(shù)，同時保持數(shù)據(jù)集的對方差貢獻最大的特征。它是一個線性變換。主分量子空間提供了從高維數(shù)據(jù)到低維數(shù)據(jù)在均方誤差意義下的數(shù)據(jù)壓縮，它能最大程度地減少方差。評價指標間相關程度越高，主成分分析的效果就越好。主成分分析是一種特征提取的方法，也可以認為是一種數(shù)據(jù)降維的方法。 ? 我們希望可以通過某種線性組合的方法使某個變量或者某些變量的解釋方差變得比較大，這些具有較大解釋方差的變量就稱為主分量。 ? 分析對象：以網(wǎng)格點為空間點（多個變量）隨時間變化的樣本 。 把從混合信號中求出主分量（能量最大的成份）的方法 稱為主分量分析（ PCA），而次分量（ Minor Components, MCs）與主分量（ Principal Components, PCs）相對，它是混合信號中能量最小的成分，被認為是不重要的或是噪聲有關的信號，把確定次分量的方法稱為次分量分析（ MCA）。 主成分概念首先由 Karl Parson在 1901年首先提出，當時只是對非隨機變量來討論的。在用統(tǒng)計方法研究多變量問題時，變量太多會增加計算量和增加分析問題的復雜性，人們希望在進行定量分析的過程中，涉及的變量較少，得到的信息量較多。這些涉及的因素一般稱為指標，在多元統(tǒng)計分析中也稱為變量。 從數(shù)學角度來看，這是一種降維處理技術 。 因此，人們會很自然地想到，能否在相關分析的基礎上，用較少的新變量代替原來較多的舊變量，而且使這些較少的新變量盡可能多地保留原來變量所反映的信息？ 一、概述 事實上，這種想法是可以實現(xiàn)的，主分量分析方法就是綜合處理這種問題的一種強有力的工具。主分量分析與核主分量分析 ?第一節(jié) 主分量分析 ?第二節(jié) 核主分量分析 第一節(jié) 主分量分析 ? 概 述 ? 主分量分析的基本原理 ? 主分量分析的計算步驟 ? 主分量分析主要的作用 ? 主分量分析方法應用實例 許多系統(tǒng)是多要素的復雜系統(tǒng)，多變量
教學課件相關推薦
鄂ICP備17016276號-1