【正文】 帶有原來所有變量的信息）來進(jìn)入后續(xù)的分析，則可以使用主成分分析。 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 42 目錄 上頁 下頁 返回 結(jié)束 167。 在因子分析中，因子個(gè)數(shù)需要分析者指定（ spss根據(jù)一定的條件自動(dòng)設(shè)定，只要是特征值大于 1的因子進(jìn)入分析），指定的因子數(shù)量不同而結(jié)果不同。而主成分只能用主成分法抽取。 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 41 目錄 上頁 下頁 返回 結(jié)束 167。 主成分分析中不需要有假設(shè)，因子分析則需要一些假設(shè)。主成分分析則簡單一些，它只是從空間生成的角度尋找能解釋諸多變量變異絕大部分的幾組彼此不相關(guān)的新變量（主成分）。 .6主成分分析與因子分析的區(qū)別 因子分析把展示在我們面前的諸多變量看成由對(duì)每一個(gè)變量都有作用的一些公共因子和一些僅對(duì)某一個(gè)變量有作用的特殊因子線性組合而成。在估計(jì)出公因子得分后，可以利用因子得分進(jìn)行進(jìn)一步的分析，如樣本點(diǎn)之間的比較分析，對(duì)樣本點(diǎn)的聚類分析等，當(dāng)因子數(shù) m 較少時(shí)，還可以方便地把各樣本點(diǎn)在圖上表示出來，直觀地描述樣本的分布情況，從而便于把研究工作引向深入。F 1??? （ ） 式中，為因子載荷矩陣，為原始變量的相關(guān)陣， 為原始變量向量。 .5 因子得分 此處因?yàn)樵甲兞颗c公因子變量均為標(biāo)準(zhǔn)化變量，因此回歸模型中不存在常數(shù)項(xiàng)。在主成分分析中，主成分是原始變量的線性組合，當(dāng)取 個(gè)主成分時(shí)，主成分與原始變量之間的變換關(guān)系是可逆的，只要知道了原始變量用主成分線性表示的表達(dá)式，就可以方便的得到用原始變量表示主成分的表達(dá)式；而在因子模型中，公共因子的個(gè)數(shù)少于原始變量的個(gè)數(shù)，且公共因子是不可觀測的隱變量，載荷矩陣 不可逆，因而不能直接求得公因子用原始變量表示的精確線性組合。 .5 因子得分 在上一章的分析中我們曾給出了主成分得分的概念，其意義和作用與因子得分相似。這需要我們給出公共因子用原始變量表示的線性表達(dá)式，這樣的表達(dá)式一旦能夠得到，就可以很方便的把原始變量的取值代入到表達(dá)式中求出各因子的得分值。這就需要進(jìn)行因子分析的第三步驟的分析，即因子得分。 .5 因子得分 當(dāng)因子模型建立起來之后，我們往往需要反過來考察每一個(gè)樣品的性質(zhì)及樣品之間的相互關(guān)系。如此繼續(xù)下去，當(dāng)總方差的改變不大時(shí)，就可以停止旋轉(zhuǎn)，這樣就得到了新的一組公共因子及相應(yīng)的因子載荷矩陣，使得其各列元素平方的相對(duì)方差之和最大。變換共需進(jìn)行 次，這樣就完成了第一輪旋轉(zhuǎn)，然后對(duì)第一輪旋轉(zhuǎn)所得結(jié)果用上述方法繼續(xù)進(jìn)行旋轉(zhuǎn)，得到第二輪旋轉(zhuǎn)的結(jié)果。 .4 因子旋轉(zhuǎn) 2212jjjj haav ? 這里取 是為了消除 符號(hào)不同的影響，除以 是為了消除各個(gè)變量對(duì)公共因子依賴程度不同的影響，現(xiàn)在要求總的方差達(dá)到最大，即要求使 2?ib ?ib 2ih21 VVG ??達(dá)到最大值，考慮 對(duì) 的導(dǎo)數(shù)，利用 ()，（ ）式，經(jīng)過計(jì)算知要使 G ?0??ddG須滿足： ?pBACpABDtg/)(/2422 ?????（ ） 其中： ??? pj juA1??? pj jvB1 ???? pj jjvuC122 )( ??? pj jjvuD122221 )()(jjjjj hahau ??而 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 36 目錄 上頁 下頁 返回 結(jié)束 167。分別考慮兩列的相對(duì)方差 2igpXXX , 21 ?),( 2 1221211 pbbb ?),( 2 2222212 pbbb ?? ?? ???pipi iiiihbphbpV 1 1222222)1()(1 ????????? ?? ??????pi iipi iihbhbpp 122212222 )()(12,1?? （ ） 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 34 目錄 上頁 下頁 返回 結(jié)束 167。 .4 因子旋轉(zhuǎn) ?????????????2122211211pp aaaaaa??A 令 ?????? ??????c o ss ins inc o sΓ則 為正交陣 , Γ 記 AΓB ?????????????????????????????????????c o ss i ns i nc o sc o ss i ns i nc o sc o ss i ns i nc o s21212212222112111211pppp aaaaaaaaaaaa?????????????????2122211211pp bbbbbb?? () 經(jīng)過如上變換，希望所得結(jié)果能使載荷矩陣的每一列元素的絕對(duì)值向 1和 0兩極分化，或者說使因子的貢獻(xiàn) 盡量分散。方差最大化正交旋轉(zhuǎn)方法的提出以下面的假設(shè)為前提：公因子 的解釋能力能夠以其因子載荷平方的方差，即 的方差來度量。這樣，如果任一原始變量都與某些公共因子存在較強(qiáng)的相關(guān)關(guān)系，而與另外的公因子之間幾乎不相關(guān)的話，公共因子的實(shí)際意義就會(huì)比較容易確定。 .4 因子旋轉(zhuǎn) 但不論是正交旋轉(zhuǎn)還是斜交旋轉(zhuǎn)，都應(yīng)當(dāng)使新的因子載荷系數(shù)要么盡可能地接近于 0，要么盡可能的遠(yuǎn)離 0。而斜交旋轉(zhuǎn)則放棄了因子之間彼此獨(dú)立這個(gè)限制，因而可能達(dá)到更為簡潔的形式，其實(shí)際意義也更容易解釋。 iX 2ih2ig 因子旋轉(zhuǎn)分為正交旋轉(zhuǎn)與斜交旋轉(zhuǎn)，正交旋轉(zhuǎn)由初始載荷矩陣 右乘一正交陣而得到。出于該種考慮，可以對(duì)初始公因子進(jìn)行線性組合，即進(jìn)行因子旋轉(zhuǎn)，以期找到意義更為明確，實(shí)際意義更明顯的公因子。 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 31 目錄 上頁 下頁 返回 結(jié)束 167。 ???? 這樣的線性組合可以找到無數(shù)組，由此便引出了因子分析的第二個(gè)步驟 —— 因子旋轉(zhuǎn)。 ???? ?mm FdFdFdF 22221212 39。239。1 , mFFF ? 39。39。設(shè) 是初始公共因子，則可以建立如下它們的線性組合得到新的一組公共因子 ，使得， ，彼此相互獨(dú)立同時(shí)也能很好地解釋原始變量之間的相關(guān)關(guān)系。A 1ε ??? ?2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 30 目錄 上頁 下頁 返回 結(jié)束 167。極大似然估計(jì) 、 和 ，將使 為對(duì)角陣，且使 ()式達(dá)到最大。但 ()并不能唯一確定 ，為此，添加如下條件： Σ A ?Σ AΛAΣA39。)(()39。從似然函數(shù)的理論知： F εpXXX , 21 ?),( ΣμN(yùn) εΣAA39。 .3 極大似然法 如果假定公共因子 和特殊因子 服從正態(tài)分布，則能夠得到因子載荷和特殊因子方差的極大似然估計(jì)。 ，則因子載荷矩陣 的一個(gè)主軸因子解為： A εΣA A 39。此時(shí)， 有 個(gè)正的特征值。則稱 為調(diào)整相關(guān)矩陣，顯然 的主對(duì)角元素不再是 1，而是共同度 。初始估計(jì)的方法有很多，可嘗試對(duì)原始變量先進(jìn)行一次主成分分析，給出初始估計(jì)值。 .2 主軸因子法 注意到，上面的分析是以首先得到調(diào)整相關(guān)矩陣 為基礎(chǔ)的，而實(shí)際上， 與共同度（或相對(duì)的，剩余方差）都是未知的，需要我們先進(jìn)行估計(jì)。 pm 在因子模型（ ）中，不難得到如下關(guān)于 的相關(guān)矩陣 的關(guān)系式： X RεΣAA39。 .2 主軸因子法 主軸因子法也比較簡單，且在實(shí)際應(yīng)用中也比較普遍。但對(duì)這些準(zhǔn)則不應(yīng)生搬硬套，應(yīng)按具體問題具體分析，總之要使所選取的公因子能夠合理地描述原始變量相關(guān)陣的結(jié)構(gòu)，同時(shí)要有利于因子模型的解釋。設(shè) ，則因子載荷矩陣 的一個(gè)解為： p??? ??? ?21 R pγγγ , 21 ?pm? A),(? 2211 mm γγγA ??? ?? () 共同度的估計(jì)為： 222212 ???? imiii aaah ???? ?() 那么如何確定公因子的數(shù)目 呢？一般而言，這取決于問題的研究者本人，對(duì)于同一問題進(jìn)行因子分析時(shí)，不同的研究者可能會(huì)給出不同的公因子數(shù)；當(dāng)然，有時(shí)候由數(shù)據(jù)本身的特征可以很明確地確定出因子數(shù)目。 A2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 26 目錄 上頁 下頁 返回 結(jié)束 167。為完成此變換，必須將 除以其標(biāo)準(zhǔn)差，由上一章主成分分析的知識(shí)知其標(biāo)準(zhǔn)差即為特征根的平方根 。 .1 主成分法 ???????????????????ppppppppppYYYXYYYXYYYX????????????????????22112222112212211111() 我們對(duì)上面每一等式只保留前 個(gè)主成分而把后面的部分用代替，則（ ）式變?yōu)椋? m i???????????????????????pmmppppmmmmYYYXYYYXYYYX???????????????????????2211222221122112211111 () 2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 25 目錄 上頁 下頁 返回 結(jié)束 167。 .1 主成分法 式中， 為隨機(jī)向量 的相關(guān)矩陣的特征值所對(duì)應(yīng)的特征向量的分量，因?yàn)樘卣飨蛄恐g彼此正交，從 到 的轉(zhuǎn)換關(guān)系是可逆的，很容易得出由 到 的轉(zhuǎn)換關(guān)系為： 用主成分法尋找公因子的方法如下：假定從相關(guān)陣出發(fā)求解主成分，設(shè)有 個(gè)變量，則我們可以找出 個(gè)主成分。事實(shí)上，很多有經(jīng)驗(yàn)的分析人員在進(jìn)行因子分析時(shí)，總是先用主成分法進(jìn)行分析，然后再嘗試其他的方法。但是由于用這種方法所得的特殊因子 之間并不相互獨(dú)立，因此，用主成分法確定因子載荷不完全符合因子模型的假設(shè)前提，也就是說所得的因子載荷并不完全正確。 .1 主成分法 用主成分法確定因子載荷是在進(jìn)行因子分析之前先對(duì)數(shù)據(jù)進(jìn)行一次主成分分析，然后把前面幾個(gè)主成分作為未旋轉(zhuǎn)的公因子。下面我們著重介紹比較常用的主成分法、主軸因子法與極大似然法。有很多方法可以完成這項(xiàng)工作，如主成分法，主軸因子法，最小二乘法，極大似然法， 因子提取法等。 因子載荷的求解 因子分析可以分為確定因子載荷，因子旋轉(zhuǎn)及計(jì)算因子得分三個(gè)步驟。 因子得分 167。 因子旋轉(zhuǎn) 167。 主成分法 167。 222212 pjjjj aaag ???? ? mj ,2,1 ?? 2jgjFX pi ,2,1 ??iXjF X2jg jF XX A2jg mj ,2,1 ??2022/5/29 中國人民大學(xué)六西格瑪質(zhì)量管理研究中心 20 目錄 上頁 下頁 返回 結(jié)束 167。 越大，則表明公共因子 對(duì) 的貢獻(xiàn)越大，或者說對(duì) 的影響和作用就越大。 因子分析的基本理論及模型 3．公因子 的方差貢獻(xiàn) jF共同度考慮的是所有公共因子 與某一個(gè)原始變量的關(guān)系，與此類似，考慮某一個(gè)公共因子 與所有原始變量 的關(guān)系。由因子分析模型的假設(shè)前提，易得： 22221 imii aaa ??? ? ix 2ih pi ,2,1 ??)v a r (1)v a r ( 2 iii hX ????記 ，則 2)va r(ii ?? ? 221)v a r ( iii hx ???? () () 上式表明共同度 與剩余方差 有互補(bǔ)的關(guān)系， 越大表明 對(duì)公共因子的依賴程度越大，公共因子能解釋 方差的比例越大，因子分析的效果也就越好