【文章內(nèi)容簡介】 稱為隨機向量的第一主成分，第二主成分,…，第主成分。于是隨機與隨機向量之間存在關系： (21)(2) 從相關系數(shù)矩陣出發(fā)求解主成分為：首先數(shù)據(jù)矩陣元素進行標準化 (22)式中，和分別表示變量的期望與方差，于是有 (23)于是對原始變量進行如下標準化： (24)顯然有 (25)因此，原始變量的相關矩陣實際是對原始變量標準化后的協(xié)方差陣。由相關陣求主成分的過程與主成分個數(shù)的確定準則實際上是與由協(xié)方差陣出發(fā)求主成分的過程與主成分個數(shù)的確定準則是一致的。求得的主成分與原始變量表示為：。 數(shù)學模型設有個樣品，每個樣品觀測項指標（變量）：，得到原始數(shù)據(jù)資料庫： (26)其中， 。用數(shù)據(jù)矩陣的個向量（即個指標向量）作線性組合（即綜合指標向量）為[9]: (27)上述方程要求：且系數(shù)由下列原則決定： (1) 與不相關；(2) 是與的一切線性組合（系數(shù)滿足上述方程組）中方差最大的，與是不相關的的一切線性相關中方差最大的，是與都不相關的的所有線性組合的最大者。這里要說明兩點：一個是數(shù)學模型中為什么作線性組合？基于兩種原因：① 數(shù)學上比較容易處理② 在實踐中效果很好。另一個要說明的是每次選取的主成分要使Var()最大，如果不加限制就可使Var()，這樣就沒什么意義了，常用的限制是要求。 主成分分析的基本步驟設原始資料矩陣為：(1) 將原始數(shù)據(jù)進行標準化處理：進行標準化的目的在于消除原始數(shù)據(jù)各指標的量綱不同，公式如下： (28)其中為每一列指標的標準值；為每一列指標的均方差。標準化處理后，得到新的矩陣(2) 建立變量的相關系數(shù)陣：根據(jù)公式建立樣本的相關系數(shù)矩陣；(3) 求特征根和特征向量：根據(jù)公式求出其前個特征值根據(jù)公式解出與特征值對應的單位正交化特征向量。4. 寫出主成分將原變量轉換成主成分的線性組合，且具有正交特征，綜合成為相應，而基本信息量保持不變。這樣確定的綜合變量分別稱作原變量的第一、第二、…第個主成分，且應在總方差中所占比例依次遞減。 因子分析的內(nèi)容 因子分析原理和基本思想1904年，Charles Spearman發(fā)表一篇著名論文《對智力檢驗得分進行統(tǒng)計分析》視為因子分析的起點[10]。因子分析的形成和發(fā)展有相當長的歷史，最早用以研究解決心理學和教育學方面的問題，由于計算量大，又缺少高速計算的設備使因子分析的應用和發(fā)展受到很大的限制，甚至停滯了很長的時間。后來，由于電子計算機的出現(xiàn)，才使因子分析的理論研究和計算問題，有了很大的進展。目前這一方法的應用范圍已十分廣泛，在經(jīng)濟學、社會學、考古學、生物學、醫(yī)學、地質(zhì)學以及體育科學等各個領域都取得了顯著的成績。因子分析是主成分分析的推廣和發(fā)展，它也是將具有錯綜復雜關系的變量（或樣品）綜合為數(shù)量較少的幾個因子，以再現(xiàn)原始變量與因子的相互關系，同時根據(jù)不同因子還可以對變量進行分類，它也是屬于多元分析中處理降維的一種統(tǒng)計方法。因子分析的基本思想是通過變量（或樣品）的相關系數(shù)矩陣（對樣品是相似系數(shù)矩陣）內(nèi)部結構的研究，找出能控制所有變量（或樣品）的少數(shù)幾個隨機變量去描述多個變量（或樣品）之間的相關（相似）關系，但在這里，這少數(shù)幾個隨機變量是不可觀測的，通常稱為因子。然后根據(jù)相關性的大小把變量分組，使得同組內(nèi)的變量之間相關性較高，但不同的變量相關性較低。因為因子分析的內(nèi)容很豐富，本文僅介紹因子分析常用的兩種類型：型因子分析（對變量作因子分析）和型因子分析（對樣品作因子分析）。 因子分析的性質(zhì)因子分析是主成分分析的推廣，也是一種把多個變量化為少數(shù)幾個綜合變量的多變量分析方法，其目的是用有限個不可觀測的隱變量解釋原始變量之間的相關關系[11]。因子性質(zhì)主要表現(xiàn)變量之間關聯(lián)度上，根據(jù)關聯(lián)度可以劃分為特殊因子和公共因子，利用因子分析，減少分析變量個數(shù)，通過對變量的相關關系探測，將原始變量進行分類。其中共同度表明的第個分量對于的每一分量共同依賴程度。如果它的值越大。越大，表明公共因子對的貢獻越大，或者說對的影響和作用就越大[12]。 因子分析的求解方法和數(shù)學模型 數(shù)學模型（正交因子模型）型因子分析數(shù)學模型[13]簡記為且滿足：i) ；ii) 即和是不相關的；iii) 即不相關且方差皆為1. 即不相關，且方差不同。其中是可實測的個指標所構成的維隨機向量，是不可觀測的向量，稱為的公共因子或潛因子，即前面所說的綜合變量，可以把它們理解為高維空間中相互垂直的個坐標軸；稱為因子載荷是第個變量在第個公共因子上的負荷，如果把變量看成維因子空間中的一個向量，則表示在坐標軸上的投影，矩陣稱為因子載荷矩陣；稱為的特殊因子，通常理論上要求的協(xié)方差陣是對角陣，包括隨機誤差[14]。因子分析的目的就是通過模型以代替，由于，從而達到簡化變量維數(shù)的愿望。 因子模型中公共因子，因子載荷量的統(tǒng)計意義為了便于對因子分析計算結果做解釋，將因子分析數(shù)學模型中各個量的統(tǒng)計意義加以說明是十分必要的。假定因子模型中，各個變量以及公共因子、特殊因子都已經(jīng)是標準化（均值為0，方差為1）的變量[15]。(1) 因子載荷的統(tǒng)計意義已知模型：由于在標準化下有：因此，公式中F同一所以上式可寫成： （因為各因子不相關，所以相關系數(shù)為0）故因子載荷的統(tǒng)計意義就是第個變量與第個公共因子的相關系數(shù)即表示依賴的分量（比重）。因此用統(tǒng)計學的術語應該叫做權，但由于歷史的原因，心理學家將它叫做載荷，即表示第個變量在第個公共因子上的負荷，它反映了第個變量在第個公共因子上的相對重要性。(2) 公因子的方差貢獻率的統(tǒng)計意義將因子載荷矩陣中各列元素的平方和記為 稱為公共因子對的貢獻，即表示同一公共因子對諸變量所提供的方差貢獻之總和，它是衡量公共因子相對重要性指標。 因子旋轉與因子得分建立因子分析數(shù)學模型的目的不僅要找出公共因子以及對變量進行分組，更重要的是要知道每個因子的意義，以便對實際問題作出科學的分析，如果每個公共因子的涵義不清，不便于進行實際背景的解釋，這時根據(jù)因子載荷陣的不唯一性，可對因子載荷陣實行旋轉即用一個正交陣右乘使旋轉后的因子載荷陣結構簡化，便于對公共因子進行解釋。所謂結構簡化就是使每個變量僅在一個公共因子上有較大的載荷，而在其余公共因子上的載荷比較小，至多是中等大小。這種變換因子載荷的方法稱為因子軸的旋轉，而旋轉的方法有很多。如正交旋轉，斜交旋轉等。因子分析的最后一步是計算因子得分。因子變量確定后，便可計算各因子得分即每個樣本上的具體數(shù)值，新變量形成了因子變量，它和原變量的得分是相對應的。想要在以后分析中用因子變量代替原有變量進行數(shù)據(jù)建模，就要有因子得分，或利用因子變量對樣本進行分類或評價等研究，進而實現(xiàn)降維和簡化的目標[16]。 計算步驟因子分析法的步驟入下：(1) 將原始數(shù)據(jù)標準化，為書寫方便記為；(2) 建立變量的相系數(shù)陣；(3) 求的特征根及相應的單位特征向量，分別記為和；(4) 對施行方差最大正交旋轉；(5) 計算因子得分。第3章 主成分與因子分析在黑龍江省 城市經(jīng)濟水平研究中的應用對黑龍江省12個地級市選取10個主要經(jīng)濟指標[17]（見表31），國內(nèi)生產(chǎn)總值（億元）、工業(yè)總產(chǎn)值（億元）、人均GDP（元）、工業(yè)企業(yè)單位數(shù)（個）、固定資產(chǎn)投資（億元）、社會消費品零售總額（億元）、財政收入（萬元）、金融機構存款年底余額（億元）、年末人口數(shù)（萬人）、財政支出（萬元）。運用spss軟件進行主成分和因子分析。表31 經(jīng)濟指標城市哈爾濱458101142