【正文】 Fa pipFa??A 為了更好地理解因子分析方法，有必要討論一下載荷矩陣的統(tǒng)計意義與公因子與原始變量之間的關(guān)系。矩陣 中的元素 稱為因子載荷， 的絕對值大 ，表明 與 的相依程度越大，或稱公共因子 對于 的載荷量越大，進(jìn)行因子分析的目的之一，就是要求出各個因子載荷的值。 因子分析的基本理論及模型 由模型（ ）及其假設(shè)前提知，公共因子 相互獨(dú)立且不可測，是在原始變量的表達(dá)式中都出現(xiàn)的因子。,( 21 mFFF ??F pm?0F ?)(E IF ?)c o v( F（ 3） 與 相互獨(dú)立，且 ， 的協(xié)方差陣 是對角方陣 )39。為方便把原始變量及標(biāo)準(zhǔn)化后的變量向量均用 表示，用 表示標(biāo)準(zhǔn)化的公共因子。由模型 ()還可以很容易地得到如下 與 相關(guān)系數(shù)的關(guān)系式： 22221 imii aaa ??? ? iX iX)var( ie iX iX11 ???? ija iX jXjmimjijiij aaaaaar ???? ?2211 （ ） 所以當(dāng) 與 在某一公共因子上的載荷均較大時，也就表明了 與 的相關(guān)性較強(qiáng)。 為特殊因子，與每一個公共因子均不相關(guān)且均值為 0。 ia F iX2ia對 Spearman的例子進(jìn)行推廣，假定每一門科目的考試成績都受到 個公共因子的影響及一個特殊因子的影響，于是（ ）就變成了如下因子分析模型的一般形式： mimimiii eFaFaFaX ????? ?2211 () 因?yàn)? 是一個常數(shù)，與 相互獨(dú)立且 與 的方差均被假定為 1。 Spearman注意到上面相關(guān)陣中一個有趣的規(guī)律，這就是如果不考慮對角元素的話，任意兩列的元素大致成比例，對 C列和 E列有： ????于是 Spearman指出每一科目的考試成績都遵從以下形式： iii eFaX ?? （ ） i Fiei F ieiX2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 9 目錄 上頁 下頁 返回 結(jié)束 167。 因子分析的基本理論及模型 式中，為第 門科目標(biāo)準(zhǔn)化后的考試成績，均值為 0，方差為 1。我們下面著重介紹型因子分析。這一過程也就是從一些有錯綜復(fù)雜關(guān)系的經(jīng)濟(jì)現(xiàn)象中找出少數(shù)幾個主要因子，每一個主要因子就代表經(jīng)濟(jì)變量間相互依賴的一種經(jīng)濟(jì)作用。實(shí)際上，某一類商品中很多商品的價格之間存在明顯的相關(guān)性或相互依賴性，只要選擇幾種主要商品的價格或進(jìn)而對這幾種主要商品的價格進(jìn)行綜合，得到某一種假想的 “ 綜合商品 ”的價格，就足以反映某一類物價的變動情況，這里， “ 綜合商品 ”的價格就是提取出來的因子。 因子分析的基本理論及模型 因子分析的基本思想是根據(jù)相關(guān)性大小把原始變量分組，使得同組內(nèi)的變量之間相關(guān)性較高，而不同組的變量間的相關(guān)性則較低。本章主要介紹因子分析的基本理論及方法，運(yùn)用因子分析方法分析實(shí)際問題的主要步驟及因子分析的上機(jī)實(shí)現(xiàn)等內(nèi)容。它也是利用降維的思想，由研究原始變量相關(guān)矩陣內(nèi)部的依賴關(guān)系出發(fā)，把一些具有錯綜復(fù)雜關(guān)系的變量歸結(jié)為少數(shù)幾個綜合因子的一種多變量統(tǒng)計分析方法。 因子分析的基本理論 ?167。 因子載荷的求解 ?167。相對于主成分分析，因子分析更傾向于描述原始變量之間的相關(guān)關(guān)系；因此，因子分析的出發(fā)點(diǎn)是原始變量的相關(guān)矩陣。 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 4 目錄 上頁 下頁 返回 結(jié)束 167。每組變量代表一個基本結(jié)構(gòu)，并用一個不可觀測的綜合變量表示，這個基本結(jié)構(gòu)就稱為公共因子。 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 5 目錄 上頁 下頁 返回 結(jié)束 167。抓住這些主要因子就可以幫助我們對復(fù)雜的經(jīng)濟(jì)問題進(jìn)行分析和解釋。 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 7 目錄 上頁 下頁 返回 結(jié)束 167。 為公共因子，對各科考試成績均有影響，是均值為 0，方差為 1。 因子分析的基本理論及模型 ()式與 無關(guān)，也正與在相關(guān)矩陣中所觀察到的比例關(guān)系相一致。于是有 ia F ie)v a r (1 2 ii ea ?? （ ） F iX2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 11 目錄 上頁 下頁 返回 結(jié)束 167。 則 為對第 門科目考試成績的因子載荷。 iX jXiX jX2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 12 目錄 上頁 下頁 返回 結(jié)束 167。 np pX mFFF , 21 ? )( pm?2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 13 目錄 上頁 下頁 返回 結(jié)束 167。,( 21 p??? ??ε F 0ε ?)(E ε εΣ??????????????????? ?222221100Σ)εc ov (pp?2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 14 目錄 上頁 下頁 返回 結(jié)束 167。公共因子的含義，必須結(jié)合實(shí)際問題的具體意義確定。 mFFF , 21 ?p??? , 21 ?X iX pi ,2,1 ??A ija ija )1|(| ?ijaiX jF jF iX2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 16 目錄 上頁 下頁 返回 結(jié)束 167。 A2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 17 目錄 上頁 下頁 返回 結(jié)束 167。,2,1 ?? ??ija iX jF2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 18 目錄 上頁 下頁 返回 結(jié)束 167。 因子分析的基本理論及模型 3．公因子 的方差貢獻(xiàn) jF共同度考慮的是所有公共因子 與某一個原始變量的關(guān)系，與此類似，考慮某一個公共因子 與所有原始變量 的關(guān)系。 222212 pjjjj aaag ???? ? mj ,2,1 ?? 2jgjFX pi ,2,1 ??iXjF X2jg jF XX A2jg mj ,2,1 ??2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 20 目錄 上頁 下頁 返回 結(jié)束 167。 因子旋轉(zhuǎn) 167。 因子載荷的求解 因子分析可以分為確定因子載荷，因子旋轉(zhuǎn)及計算因子得分三個步驟。下面我們著重介紹比較常用的主成分法、主軸因子法與極大似然法。但是由于用這種方法所得的特殊因子 之間并不相互獨(dú)立，因此，用主成分法確定因子載荷不完全符合因子模型的假設(shè)前提，也就是說所得的因子載荷并不完全正確。 .1 主成分法 式中， 為隨機(jī)向量 的相關(guān)矩陣的特征值所對應(yīng)的特征向量的分量，因?yàn)樘卣飨蛄恐g彼此正交，從 到 的轉(zhuǎn)換關(guān)系是可逆的，很容易得出由 到 的轉(zhuǎn)換關(guān)系為： 用主成分法尋找公因子的方法如下：假定從相關(guān)陣出發(fā)求解主成分，設(shè)有 個變量，則我們可以找出 個主成分。為完成此變換，必須將 除以其標(biāo)準(zhǔn)差，由上一章主成分分析的知識知其標(biāo)準(zhǔn)差即為特征根的平方根 。設(shè) ，則因子載荷矩陣 的一個解為： p??? ??? ?21 R pγγγ , 21 ?pm? A),(? 2211 mm γγγA ??? ?? () 共同度的估計為： 222212 ???? imiii aaah ???? ?() 那么如何確定公因子的數(shù)目 呢？一般而言，這取決于問題的研究者本人，對于同一問題進(jìn)行因子分析時，不同的研究者可能會給出不同的公因子數(shù)；當(dāng)然，有時候由數(shù)據(jù)本身的特征可以很明確地確定出因子數(shù)目。 .2 主軸因子法 主軸因子法也比較簡單，且在實(shí)際應(yīng)用中也比較普遍。 .2 主軸因子法 注意到，上面的分析是以首先得到調(diào)整相關(guān)矩陣 為基礎(chǔ)的，而實(shí)際上， 與共同度（或相對的，剩余方差）都是未知的，需要我們先進(jìn)行估計。則稱 為調(diào)整相關(guān)矩陣，顯然 的主對角元素不再是 1，而是共同度 。 ，則因子載荷矩陣 的一個主軸因子解為： A εΣA A 39。從似然函數(shù)的理論知： F εpXXX , 21 ?),( ΣμN(yùn) εΣAA39。但 ()并不能唯一確定 ，為此，添加如下條件： Σ A ?Σ AΛAΣA39。A 1ε ??? ?2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 30 目錄 上頁 下頁 返回 結(jié)束 167。39。239。 ???? 這樣的線性組合可以找到無數(shù)組，由此便引出了因子分析的第二個步驟 —— 因子旋轉(zhuǎn)。出于該種考慮，可以對初始公因子進(jìn)行線性組合，即進(jìn)行因子旋轉(zhuǎn)，以期找到意義更為明確，實(shí)際意義更明顯的公因子。而斜交旋轉(zhuǎn)則放棄了因子之間彼此獨(dú)立這個限制，因而可能達(dá)到更為簡潔的形式，其實(shí)際意義也更容易解釋。這樣，如果任一原始變量都與某些公共因子存在較強(qiáng)的相關(guān)關(guān)系，而與另外的公因子之間幾乎不相關(guān)的話，公共因子的實(shí)際意義就會比較容易確定。 .4 因子旋轉(zhuǎn) ?????????????2122211211pp aaaaaa??A 令 ?????? ??????c o ss ins inc o sΓ則 為正交陣 , Γ 記 AΓB ?????????????????????????????????????c o ss i ns i nc o sc o ss i ns i nc o sc o ss i ns i nc o s21212212222112111211pppp aaaaaaaaaaaa?????????????????2122211211pp bbbbbb?? () 經(jīng)過如上變換，希望所得結(jié)果能使載荷矩陣的每一列元素的絕對值向 1和 0兩極分化，或者說使因子的貢獻(xiàn) 盡量分散。 .4 因子旋轉(zhuǎn) 2212jjjj haav ? 這里取 是為了消除 符號不同的影響，除以 是為了消除各個變量對公共因子依賴程度不同的影響，現(xiàn)在要求總的方差達(dá)到最大，即要求使 2?ib ?ib 2ih21 VVG ??達(dá)到最大值，考慮 對 的導(dǎo)數(shù)，利用 ()，（ ）式，經(jīng)過計算知要使 G ?0??ddG須滿足： ?pBACpABDtg/)(/2422 ?????（ ） 其中： ??? pj juA1??? pj jvB1 ???? pj jjvuC122 )( ??? pj jjvuD122221 )()(jjjjj hahau ??而 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 36 目錄 上頁 下頁 返回 結(jié)束 167。如此繼續(xù)下去，當(dāng)總方差的改變不大時，就可以停止旋轉(zhuǎn)，這樣就得到了新的一組公共因子及相應(yīng)的因子載荷矩陣，使得其各列元素平方的相對方差之和最大。這就需要進(jìn)行因子分析的第三步驟的分析，即因子得分。 .5 因子得分 在上一章的分析中我們曾給出了主成分得分的概念，其意義和作用與因子得分相似。 .5 因子得分 此處因?yàn)樵甲兞颗c公因子變量均為標(biāo)準(zhǔn)化變量，因此回歸模型中不存在常數(shù)項(xiàng)。在估計出公因子得分后，可以利用因子得分進(jìn)行進(jìn)一步的分析，如樣本點(diǎn)之間的比較分析，對樣本點(diǎn)的聚類分析等，當(dāng)因子數(shù) m 較少時，還可以方便地把各樣本點(diǎn)在圖上表示出來，直觀地描述樣本的分布情況，從而便于把研究工作引向深入。主成分分析則簡單一些，它只是從空間生成的角度尋找能解釋諸多變量變異絕大部分的幾組彼此不相關(guān)的新變量（主成分）。 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 41 目錄 上頁 下頁 返回 結(jié)束 167。 在因子