【文章內(nèi)容簡介】 i lllZ ?????? 22221)var( ?21222221 imjijimii hllll ????? ???1)var( 2 ??? iii hZ ?44 式（ ）表明， hi2 接近 1時(shí)， ?i 接近 0，說明 Zi 包含的幾乎全部信息都可以被公因子解釋；當(dāng) hi2 接近 0 時(shí)，表明公共因子對(duì) 的影響不大，主要由特殊因子描述。因此， hi2 也反映了變量 Zi 對(duì)公共因子的依賴程度。與此類似，矩陣 L 的第 j 列元素反映了第 j 個(gè)因子 Fj 對(duì)所有變量 Z 的影響，記為 () 稱為公共因子 Fj 對(duì)原始變量向量 Z 的方差貢獻(xiàn)，是衡量公共因子相對(duì)重要性的一個(gè)尺度，其值越大反映 Fj 對(duì)原始變量向量 Z 的方差貢獻(xiàn)也越大。 ???piijj lg12245 因子載荷的估計(jì)方法 因子分析的首要步驟是先確定因子載荷，或估計(jì)得到因子載荷矩陣 L，注意在式（ ）和式（ ）中的F1, F2, …, Fm是不可觀測的隨機(jī)變量，因此因子載荷矩陣L的估計(jì)方法都比較復(fù)雜，常用的方法有極大似然法、主成分法、迭代主成分方法、最小二乘法、 ? 因子提取法等。 46 1．極大似然法 如果假設(shè)公共因子 F 和特殊因子 ε 服從正態(tài)分布，即F～ Nm(0, I)， ? ～ Np(0, ?)， X1, X2, …, Xp 的均值為 ? = (?1, ?2 , …, ?p) ，則觀測值 X1, X2, …, Xp 為來自正態(tài)總體 Np(?, ?) 的樣本，可以采用極大似然法估計(jì)因子載荷矩陣和特殊方差，似然函數(shù)是 ? 和 ? 的函數(shù) L(? , ? )。 由于 ，因此似然函數(shù)可以更清楚地表示為 L(? , L, ? )，記 (? , L, ? )的估計(jì)量為 ，則有 （ ） ΨLLΣ ??? )???( Ψ,L,μ ),(max)?,?,?( ΨLμΨLμ LL ?47 2．主成分方法 用主成分法確定因子載荷，就是對(duì)隨機(jī)變量進(jìn)行主成分分析，把前面幾個(gè)主成分作為原始公共因子。其具體過程如下，設(shè)有 p 個(gè)變量 Z = (Z1, Z2 , …, Zp)?，可以求得從大到小排序的 p 個(gè)主成分 Y1， Y2， … ， Yp，根據(jù) 內(nèi)容可知，原始變量與主成分之間存在如下的關(guān)系： （ ） ???????????????????????????????????????????ppppppppZZZYYY?????????2121222211121121?????????48 由于 A =(?1, ?, …, ?p)?= (e1, e2, …, ep)? 為正交矩陣，則有 () 如果在式（ ）中僅取前 m個(gè)主成分，把其余的 pm 個(gè)主成分用特殊因子 ?i 代替，則式（ ）可以表示為 （ ） 式（ ）與式（ ）的形式一致， Yi 表示主成分，因此相互獨(dú)立。 YAZ ????????????????????????pmmppppmmmmYYYZYYYZYYYZ????????????????221122222112211221111149 為了使 Yi 符合式（ ）假設(shè)的公共因子，需要將主成分 Yi 的方差轉(zhuǎn)變?yōu)?1。由 ，主成分方差為特征根 ?i，只需要將 Yi 除以標(biāo)準(zhǔn)差 即可，令 ， （ ） 則式（ ）轉(zhuǎn)變?yōu)椋? （ ） 式（ ）已與式（ ）不僅在形式上一致，而且完全符合式（ ）～式（ ）的假設(shè)。由此就得到因子載荷矩陣和一組初始公共因子。 i? iii YF ?/? jiiijl ?????????????????????????pmpmpppmmmmFlFlFlZFlFlFlZFlFlFlZ???????221122222121211212111150 3．迭代主成分方法（ Iterated Principal Factors） 迭代主成分方法也叫主因子法，或主軸因子方法 ， 是對(duì)主成分法的一種修正。首先對(duì)原始變量進(jìn)行標(biāo)準(zhǔn)化處理，其相關(guān)矩陣與協(xié)方差矩陣一致，使其因子模型滿足式（ ），根據(jù)式（ ）有 () 令 () 稱 R*為調(diào)整相關(guān)矩陣，或約相關(guān)矩陣。不妨設(shè)特殊因子 ?i 的方差的初始估計(jì)為 ?i*，則有 hi*2 = 1 ?i* ，且相應(yīng)的樣本相關(guān)矩陣為 ，則對(duì)應(yīng)的約相關(guān)矩陣為 () ΨLLRΣ ???? LLΨRR ????* ?????????????????2*2122*2121122*1** ??ppppphrrrhrrrh??????ΨRR?51 設(shè) 的前 m個(gè)特征值依次為 ?1*≥ ?2* ≥ … ≥ ?m* ≥0，相應(yīng)的正交單位特征向量為 e1* , e2*,…, em*，則對(duì)應(yīng)的因子載荷矩陣 L 的解為 (） 根據(jù)式（ ）和式（ ），可以進(jìn)一步得到特殊因子方差的最終估計(jì)量為 , () 如果希望得到擬合程度更好的解，則可以采用迭代的方法，即利用式（ ）得到的特殊因子方差估計(jì)量帶入式（ ）重復(fù)上述步驟，直到所求解比較穩(wěn)定為止。 *?R ? ??? ***2*2*1*1 ,? mm eeeL ??? ???????mjijii lh122 ?1?1??pi ,2,1 ??52 下面介紹幾種求特殊因子方差和公共因子方差初始估計(jì)的幾種常用方法： （ 1） 復(fù)合相關(guān)系數(shù) （ squared multiple correlations，簡稱 SMC）方法 SMC是比較常用的一種方法，令 ，其中 rii是 的第 i個(gè)對(duì)角元素，此時(shí)公共因子方差的估計(jì)值為 它表示 Xi 與其他 p1 個(gè)解釋變量之間的復(fù)相關(guān)系數(shù)。 （ 2） 最大相關(guān)系數(shù)方法 （ max absolute correlation） 最大相關(guān)系數(shù)方法是用第 i 個(gè)變量 Xi 與其他變量相關(guān)系數(shù)絕對(duì)值的最大值來估計(jì)，即令 ，其中 rij 表示第 i 個(gè)變量 Xi 與第 j 個(gè)變量 Xj 的相關(guān)系數(shù)。 iii r/1* ??1??R iiii rh /111? *2 ???? ?ijjii rh ?? max? 253 （ 3） 對(duì)角線比例方法 （ fraction of diagonals） 該方法使用相關(guān)矩陣（或協(xié)方差矩陣）對(duì)角線元素的固定比例 ?。特殊的可以取 ? =1，此時(shí)結(jié)果等同于主成分求解得到的結(jié)果。 （ 4）分塊的協(xié)方差矩陣估計(jì)方法 （ partitioned covariance，簡稱 PACE） 由于第 3種方法 PACE的估計(jì)量是非迭代的，因此，比較適合為迭代估計(jì)方法提供初值。 （ 5） 特殊的直接取 ，則 ?i*=0，此時(shí)得到的 也是一個(gè)主成分解。 12* ?ih L?54 因子數(shù)目的確定方法及檢驗(yàn) 上述求解過程中重要的是如何確定公因子數(shù)目 m，這是因子分析中最重要的一步。本小節(jié)將列出其中幾種常用的方法 1．因子數(shù)目的確定方法 (1) 最小特征值 （ KaiserGuttman Minimum Eigenvalue） KaiserGuttman規(guī)則也叫做“特征值大于 1”方法，是最常用的一種方法。只需要計(jì)算離差矩陣（相關(guān)矩陣、協(xié)方差矩陣）的特征值，特征值超過平均值的個(gè)數(shù)作為因子個(gè)數(shù)。特別地，對(duì)于相關(guān)矩陣，特征值的均值為 1，所以通常取特征值大于 1的數(shù)作為公因子數(shù)。 55 (2) 總方差比例 （ Fraction of Total Variance） 選擇公因子個(gè)數(shù) m使得前 m個(gè)特征值的和超過公因子總方差的某一門限值。這種方法多用于主成分分析方法，比較典型的是這些成分構(gòu)成總方差的 95%（ Jackson, 1993）。 (3) MAP方法 （ Minimum Average Partial） Velicer (1976) 提出的最小平均偏相關(guān) (簡稱 MAP)方法原理是：給定 m個(gè)成分（ m = 0， 1， … ， p1），計(jì)算偏相關(guān)系數(shù)平方的平均值，應(yīng)保留因子的個(gè)數(shù)是使得平均值最小化的個(gè)數(shù) 56 (4) 分割線段 （ Broken Stick） 分割線段模型的基本原理是：首先，計(jì)算離差矩陣中第 j個(gè)最大特征值對(duì)方差的貢獻(xiàn)度，然后計(jì)算從分割線段分布得到的相應(yīng)的期望值 。當(dāng)前者超過后者時(shí)，所對(duì)應(yīng)的 j即為應(yīng)該保留的因子個(gè)數(shù)（ Jackson, 1993）。 (5) 平行分析 （ Parallel Analysis） 平行分析模擬使用的數(shù)據(jù)與原始數(shù)據(jù)有著相同方差和觀測值個(gè)數(shù)，是由隨機(jī)生成器生成的獨(dú)立隨機(jī)變量數(shù)據(jù)集。計(jì)算模擬數(shù)據(jù)的 Pearson協(xié)方差和相關(guān)矩陣及其特征值。只要原始數(shù)據(jù)的特征值超過模擬數(shù)據(jù)的對(duì)應(yīng)值，相應(yīng)的個(gè)數(shù)將作為保留因子數(shù) 57 2．公共因子個(gè)數(shù)的大樣本檢驗(yàn) 采用極大似然估計(jì)模型時(shí)，假設(shè)公共因子和特殊因子均服從正態(tài)分布，而正態(tài)分布的假定，可以幫助我們構(gòu)造模型充分性的檢驗(yàn)。設(shè)提取 m個(gè)公共因子的模型成立，則檢驗(yàn) m個(gè)公共因子的充分性等價(jià)于檢驗(yàn) （ ） 對(duì)應(yīng)的備擇假設(shè) H1 為 Σ 是任意其他的正定矩陣。 ΨLLΣ ???:0H58 在原假設(shè)成立的條件下可以構(gòu)造下面的似然比統(tǒng)計(jì)量 （ ） 其中 Sn 表示協(xié)方差矩陣的極大似然估計(jì)； ，其中 和 分別表示 L 和 ? 的極大似然估計(jì)量，而 是 的極大似然估計(jì)量。式（ ）的統(tǒng)計(jì)量服從 ?2分布。 特別的， Bartlett在 1954年證明了 2ln?抽樣分布的 ? 2近似可以用多重因子（ n1 (2p+4m+5)/6）代替式（ ）中的 n。 ?????????????nnSΣ?lnln2ΨLLΣ ???? ???L?Ψ? ΨLLΣ ???? ??? ΨLLΣ ???59 利用 Bartlett修正，只要 n和 n p大，若 （ ） 則在顯著性水平 ? 下拒絕原假設(shè) H0，認(rèn)為 m 個(gè)因子是不充分的。式（ ）表示的 ?2統(tǒng)計(jì)量也稱為Bartlett?2統(tǒng)計(jì)量。由于式（ ）中的自由度必須大于0，進(jìn)一步化簡可以得到