【正文】 orthomax， hk， promax， procrustes。缺省值為 30。缺省值 =。 ? proportion=p—— 使用先驗公因子方差估計，對被保留的因子規(guī)定所占公共方差比例為這個 p值。 （ 3） 有關(guān)規(guī)定因子個數(shù)及收斂準(zhǔn)則的 選項 ? nfactors=n—— 要求保留 n個公因子，否則只保留特征值大于 1的那些公因子。在 超 Heywood 狀況時，因子解是無效的。盡管如此，但在最終的公因子方差的迭代估計時有可能超過 1。因為公因子方差是相關(guān)系數(shù)的平方，我們要求它總是在 0 和 1 之間。常用方法為 principal（主 成分 法）、 ml（極大似然法）和 prinit（迭代主因子法）。這個結(jié)果中的部分內(nèi)容可作為進(jìn)一步因子分析的讀入數(shù)據(jù)集。 1. proc factor 語句的 選項列表 （ 1） 有關(guān)輸出數(shù)據(jù)集選項 ? out= 輸出數(shù)據(jù)集 —— 創(chuàng)建一個輸出數(shù)據(jù)集，包括輸入數(shù)據(jù)集中的全部數(shù)據(jù)和因子得分估計。 by 變量 。 freq 變量 。 var 變量表 。 factor 過程一般由下列語句控制： proc factor data=數(shù)據(jù)集 選項列表 。 五、 Factor 因子分析過程 因子分析用少數(shù)起根本作用、相互獨(dú)立、易于解釋通常又是不可觀察的因子來概括和描述數(shù)據(jù)，表達(dá)一組相互關(guān)聯(lián)的變量。 ? 在實(shí)際應(yīng)用中 ，常從相關(guān)矩陣 R 出發(fā)進(jìn)行因子模型分析。 ? 因子載荷矩陣的元素及一些元素組合有很明確的統(tǒng)計意義。而且，兩個模型的參數(shù)意義很不相同。 四、 應(yīng)注意的幾個問題 ? 因子分析 是主成分分析的推廣，它也是一種降維技術(shù)，其目的是用有限個不可觀測的隱變量來解釋原始變量之間的相關(guān)關(guān)系。因此 ， 在不同的旋轉(zhuǎn)之間進(jìn)行選擇必須根據(jù)非統(tǒng)計觀點(diǎn)。從統(tǒng)計觀點(diǎn)看，不能說一些旋轉(zhuǎn)比另一些旋轉(zhuǎn)好。如果兩種旋轉(zhuǎn)模型導(dǎo)出不同的解釋，這兩種解釋不能認(rèn)為是矛盾的。但斜交旋轉(zhuǎn)常常產(chǎn)生比正交旋轉(zhuǎn)更有用的模型。如果這些因子用正交變換（ orthogonal transformation）進(jìn)行旋轉(zhuǎn)，旋轉(zhuǎn)后的 因子也是不相關(guān)的。因此，大多數(shù)旋轉(zhuǎn)方法都是試圖最優(yōu)化模型矩陣的函數(shù)。 1的旋轉(zhuǎn)模型矩陣比系數(shù)多數(shù)為 0與177。在實(shí)際工作中，為了使載荷矩陣有更好的實(shí)際意義，在求出因子載荷矩陣 A 后，再右乘一個正交陣 ? ，這樣就變換了因子載荷矩陣，這種方法稱為因子軸的正交旋轉(zhuǎn)。由于正交陣 錯誤 !未定義書簽。這說明，若 A 和 D 是一個因子解，任給正交陣 錯誤 !未定義書簽。 根據(jù)我們前面假定：每個公因子的均值為 0，即 0)E( ?f ，每個公因子的方差為 1，即If ?)D( ，各特殊因子之間及特殊因子與公共因子之間都是相互獨(dú)立的，即jieeC ov ji ?? ,0),( 及 0),( ?feCov 。設(shè) 錯誤 !未定義書簽。因子解釋是一種主觀的方法，有時侯，通過旋轉(zhuǎn)公因子可以減少這種主觀性，也就是要使用非奇異的線性變換。 三、 因子旋轉(zhuǎn) 因子模型被估計后，還必須對得到的公因子 f 進(jìn)行解釋。接下來 ， 就可以求 A 和 D 取什么值， 使 函數(shù) ),( DA? 能達(dá) 到最大。設(shè) p 維的 n 個觀察向量 )()2()1( , nxxx ? 為來自正態(tài)總體 ),( ??pN 的隨機(jī)樣本，則樣本似然函數(shù)為 ? 和 ? 的函數(shù) ),( ??L 。即利用上面得到的 )?,?,?d ia g ( 22221* pdddD ?? 作為特殊方差的初始估計，重復(fù)上述步驟，直到解穩(wěn)定為止。以上得到的解是近似解。如果我們已知特殊因子方差的初始估計 2*)?( id ，也就是已知了先驗公因子方差的估計為 2*2* )?(1)?( ii dh ?? ，則約相關(guān)陣 DRR ??* 為 ： ?????????????????2*2122*2211122*1*)?()?()?(ppppphrrrhrrrhR???????????? () 計算 *R 的特征值和特征向量，取前 m 個正特征值 0**2*1 ???? m??? ? 及相應(yīng)特征向量為 **2*1 , m??? ? ，則有近似分解式 ： AAR ??* () 其中 ， ),( ***2*2*1*1 mmA ?????? ?? ，令 piad mt tii ,2,1,1?122 ???? ??，則 A 和)?,?,?d ia g ( 22221* pdddD ?? 為因子模型的一個解，這個解就稱為主因子解。 此 時 ， 特 殊 因 子 方 差855c06e602f9797dcac411b71b9f0a04 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 4 of 31 piad qt tiiii ,2,1,? 1 22 ????? ?? 。如果接近對角陣，說明公共因子只要取一個就行了，所有指標(biāo)主要受到這一個公共因子的影響；如果 11? aa ??? 不是近似對角陣，就取222 ???a ，然后看 2211? aaaa ????? 是否接近對角陣，如果接近對角陣，就取兩個公共因子；否則 ， 再取 333 ???a ，?，直到滿足“要求”為止。 1. 主成 分 法 主 成分 法求因子載荷矩陣 A 的具體求法如下：首先從資料矩陣出發(fā)求出樣品的協(xié)方差矩陣，記之為 ?? ，其特征值為 021 ???? p??? ? ，相應(yīng) 的 單位正交特征向量為 p??? , 21 ? ，當(dāng)最后 mp? 個特征值較小時，則對 ?? 進(jìn)行譜分解可以近似為 ： Dmmm ????????? ????????? ?222111? () 其中 ， 1? ≥ 2? ≥?≥ m? 0 是協(xié)方差矩陣 ?? 相應(yīng)的前 m 個較大特征值。 和特殊因子方差 2id 。 但在實(shí)際問題中，我們并不知道 ? 、 D ，即不知道 *? ，已知的只是 n 個樣品，每個樣品測得 p 個指標(biāo)，共有 np 個數(shù)據(jù)，樣品數(shù)據(jù)見表 。根據(jù) 式 ()有 ： AAD ???? () 記 D????* ，則 *? 是非負(fù)定矩陣。 是公共因子 jf 對 X 的各個分量總的影響 下面我們來看怎樣求解因子載荷矩陣 A 。 是 iX 和 jf 的相關(guān)系數(shù) ? 錯誤 !未定義書簽。顯然 2jg 越大， jf 對 X 的影響就越大， 2jg 成為衡量因子重要性的一個尺度。 另一方面，還可以考慮指定的一個公共 因子 jf 對各個變量 iX 的影響。 反映了公共因子 f對 iX 的影響，稱為公共因子 f 對 iX 的“貢獻(xiàn)”。 標(biāo)準(zhǔn)化，也就是說 錯誤 !未定義書簽。在這種情況下，向量 X 的協(xié)方差矩陣Σ可以表示 為 ： 855c06e602f9797dcac411b71b9f0a04 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 2 of 31 DAAeAfDXD ??????? )()( () 這里 D=diag( 22221 , pddd ?)， diag表示對角矩陣。而且每個公因子假定至少對兩個變量有貢獻(xiàn)，否則它將是一個特殊因子。在主成 分 分析中，殘差通常是彼此相關(guān)的。 是第 j 個變量在第 i 個公共因子上的負(fù)荷，從投影的角度看，jia就是jX在坐標(biāo)軸 if 上的投影。設(shè) 1f ， 2f ，?， mf 分別是均值為 0，方差為 1的隨機(jī)變量，即 mIfD ?)( ；特殊因子 1e ， 2e ，?，pe分別是均值為 0，方差為 21d ， 22d ，?， 2pd的隨機(jī)變量，即 DdddeDp ?? ),d ia g ()( 22221 ?；各特殊因子之間及特殊因子與公共因子之間都是相互獨(dú)立的，即 jieeC ovji ?? ,0),(及0),( ?feCov 。在研究樣品時，每個樣品需要檢測很多指標(biāo)，假設(shè)測得 p 個指標(biāo)，但是這 p 個指標(biāo)可能受到 m (m p )個共同因素的影響，再加上其他對這些指標(biāo)有影響的因素。 一、 何為因子分析 因子分析的目的是用有限個不可觀察的潛在變量來解釋原變量間的相關(guān)性或協(xié)方差關(guān)系。855c06e602f9797dcac411b71b9f0a04 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 1 of 31 第三十六課 因子分析 因子分析（ Factor Analysis）是主成分分析的推廣，它也是從研究相關(guān)矩陣內(nèi)部的依賴關(guān)系出發(fā)，把一些具有錯綜復(fù)雜關(guān)系的變量歸結(jié)為少數(shù)幾個綜合因子的一種多變量統(tǒng)計分析方法。具體地說，就是要找出某個問題中可直接測量的、具有一定相關(guān)性的諸指標(biāo)，如何受少數(shù)幾個在專業(yè)中有意義，又不可直接測量到，且相對 獨(dú) 立的因子支配的規(guī)律，從而可用諸指標(biāo)的測定來間接確定諸因子的狀態(tài)。在這里我們把不可觀察的潛在變量稱為公共因 子（ mon factor）。寫成數(shù)學(xué)的形式就是： ??????????????????????pmpmpppmmmmefafafaXefafafaXefafafaX?????2211222221212112121111 () 利用矩陣記號有 ： 111 ???? ?? pmmPp efAX () 各個指標(biāo)變量都受 到 if 的影響，因此 if 稱為公共因子， A 稱為因子載荷矩陣， ie 是單變量 iX 所特有的因子，稱為 iX 的特殊因子（ unique factor）。 錯誤 !未定義書簽。 主成 分 分析的目標(biāo)是降維，而因子分析的目標(biāo)是找出公共因素及特有的因素，即公共因子與特殊因子。在公因子分析中，特殊因子起到殘差的作用，但被定義為彼此不相關(guān)且和公因子也不相關(guān)。在開始提取公因子時，為了簡便還假定公因子彼此不相關(guān)且具有單位方差。如果假定已將 錯誤 !未定義書簽。 的每一個分量iX的均值都為 0，方差都是 1，即 1)( ?iXD，那么 ： ????? ??? ????? ??mj iijiimimiiidaXV arefafafaX1222211)(1? () 記 ???mj iji ah 122 ，則有 ： pidh ii ,2,1,1 22 ???? () 錯誤 !未定義書簽。 2ih實(shí)際反映了變量 iX 對公共因子 f 的依賴程度。實(shí)際上， jf 對各個變量 iX 的影響可由 A 中第 j 列的元素來描述，那么 ： ??? pi ijj ag 1 22 () 稱為公共因子 jf 對 X 的“貢獻(xiàn)”。實(shí)際上 ： ijjimk jkikji afeC ovffC ovafXC ov ??? ?? ),(),(),( 1 () 那么 ， 矩陣 A 的統(tǒng)計意義就非常清楚： ? 錯誤 !未定義書簽。 是 iX 對公共因子 f 的依賴程度 ? 錯誤 !未定義書簽。 二、 因子載荷矩陣的求解 855c06e602f9797dcac411b71b9f0a04 商務(wù)數(shù)據(jù)分析 電子商務(wù)系列 上海財經(jīng)大學(xué)經(jīng)濟(jì)信息管理系 IS/SHUFE Page 3 of 31 如果已知 X 協(xié)方差矩陣 ? 和 D ，可以很容易地求出 A 。若記矩陣 *? 的 p 個特征值 1? ≥ 2? ≥?≥ m? 1?m? = ? = p? = 0，且 m個非零特征值所對應(yīng)的特征向量分別為 1? ， 2? ，?， m? ，則 *? 的譜分解式為 ： ? ?? ??? ???????? mmmm mmm ???????????? ????????? , 22112211 222111*??? () 只要令 ： ? ?mmA ?????? , 2211 ?? () 就可以求出因子載荷矩陣 A 。為了建立公因子模型，首先要估計因子載荷 錯誤 !未定義書簽。常用的參數(shù)估計方法有以下三種：主成 分 法、主因子解法和極大似然法。先取111 ???a ，然后看 11? aa ??? 是否接近對角陣。這里的“要求” 要視具體情況而定，一般而言，就 像 主成分分析一樣，直接取前 q 個特征值和特征向量，使得它們的特征值之和占全部特征值之和的 85 ％ 以 上 即 可 。 2. 主因子解法 主因子解法是主 成分 法的一種修正，它是從資料矩陣出發(fā)求出樣品的相關(guān)矩