【文章內(nèi)容簡(jiǎn)介】 z1 1 .0001 z2 1 .0001 z3 1 發(fā)現(xiàn) z z2的顯著性 %，但 z3的顯著性為 %?？梢哉J(rèn)為 z3不顯著。 故進(jìn)行主成分回歸，最好是 y與 z z2回歸。回歸結(jié)果為： y = * x1 + * x2 + * x3 * x4 這一個(gè)主成分回歸，有同學(xué)把常數(shù)項(xiàng)省略了。這是錯(cuò)的。因?yàn)檫M(jìn)行主成分回歸的時(shí)候，常數(shù)項(xiàng)的產(chǎn)生，不僅源于因變量與主成分之間回歸時(shí)，有常數(shù)項(xiàng)，而且主要因?yàn)榘阎鞒煞直硎緸樵宰兞康木€(xiàn)性組合時(shí)，必然會(huì)含有常數(shù)項(xiàng)。 而因變量與主成分之間進(jìn)行回歸中的常數(shù)項(xiàng)，在 SAS中是沒(méi)法消除的，所以我們不應(yīng)該省略主成分回歸的常數(shù)項(xiàng)。 做逐步回歸，如果 95%顯著性，則只取 x3，如果 90%顯著性，則只取 xx1，如果取 85%顯著性，則取 x x x4。 模型分別為： y = + * x3 y = * x1 + * x3 y = * x1 + * x3 + * x4 因截距項(xiàng)都是不顯著的，（顯著性低于 40%），所以更好的模型應(yīng)為： y = * x3 y = * x1 + * x3 y = * x1 + * x3 + * x4 這一問(wèn)題用主成分回歸好，還是變量增減法的逐步回歸比較好？為什么？ —— 先請(qǐng)同學(xué)們來(lái)回答這個(gè)問(wèn)題 這一問(wèn)題，做逐步回歸更佳。 這是因?yàn)椋绻粋€(gè)問(wèn)題，諸 x（自變量）與 y（因變量）都有相關(guān)性，而 x（自變量）之間也強(qiáng)相關(guān)，這時(shí)做主成分回歸比較好，因?yàn)檫@時(shí)候，每個(gè) x們（自變量們）都參與影響了 y（因變量），所以不應(yīng)該用變量增減法刪除一部分自變量，但不刪除變量， x們之間又因相關(guān)性有多重共線(xiàn)性的問(wèn)題，這時(shí)做主成分回歸非常好，因?yàn)檫@種方法消除了多重共線(xiàn)性的問(wèn)題； 而如果一個(gè)問(wèn)題，諸 x（自變量）不一定與 y（因變量）有強(qiáng)相關(guān)性，也就是有的 x相關(guān)，有的 x不相關(guān)，這時(shí)就要選出一部分與 y的聯(lián)系緊密的 x來(lái)，而把那些跟 y無(wú)關(guān)的 x舍棄，這時(shí)做逐步回歸比較好。而我們這一習(xí)題，恰恰是后一情況。 用 SAS進(jìn)行因子分析 書(shū) p305，例 ，表 ，鹽泉水化學(xué)分析資料的因子分析 序號(hào) x1 x2 x3 x4 x5 x6 x7 1 2 3 4 26 5 6 7 8 9 10 1 11 12 13 14 15 16 17 1 18 19 20 data d831。 input x1x7。 n=_n_。 cards。 。 輸入資料 : n=_n_。這一行指出，對(duì)數(shù)據(jù)集加入一個(gè)新變量（一列），變量名為 n，其值等于樣本的實(shí)際編號(hào)。 因子分析在 SAS中用 factor過(guò)程： proc factor data=d831 method=prin priors=one simple p= 。 var x1x7。 run。 factor過(guò)程中的 simple關(guān)鍵字指出，輸出變量的均值、標(biāo)準(zhǔn)差、樣本的個(gè)數(shù) factor過(guò)程中的 method=prin（或?qū)憺?method=principal）指出，這是因子模型中的主成分法或者主因子法，再由 priors=one指出，這是主成分法（意思是說(shuō)，在主因子法中，取初始公因子方差，即初始共同度，設(shè)為 1，這就等價(jià)于主成分法）。 如果用主因子法，取第 i初始共同度為第 i變量與其它變量相關(guān)系數(shù)絕對(duì)值的最大者，則 priors=max。如果取第 i初始共同度為第 i變量與其它變量的復(fù)相關(guān)系數(shù)的平方，則 priors=smc。 如果因子模型用極大似然法，則 method=ML。 factor過(guò)程中的 p=，選取因子的個(gè)數(shù)這樣決定，這些因子的累計(jì)貢獻(xiàn)率在 80%以上，或者說(shuō)，主成分分析中幾個(gè)主成分的累計(jì)貢獻(xiàn)率在80%以上，就選幾個(gè)因子。 Eigenvalues of the Correlation Matrix: Total = 7 Average = 1 Eigenvalue Difference Proportion Cumulative 1 2 3 4 5 6 7 3 factors will be retained by the PROPORTION criterion. 我們看到，前 3個(gè)因子的累計(jì)貢獻(xiàn)率達(dá)到 %。所以選 3個(gè)因子。 輸出的一部分： 我們看到，公共因子的意義有點(diǎn)含糊不清。 載荷矩陣： Factor Pattern Factor1 Factor2 Factor3 x1 x2 x3 x4 x5 x6 x7 第一公共因子的方差貢獻(xiàn)很高。 變量的共同度和因子的方差貢獻(xiàn)： Variance Explained by Each Factor Factor1 Factor2 Factor3 Final Communality Estimates: Total = x1 x2 x3 x4 x5 x6 x7 還想進(jìn)行因子旋轉(zhuǎn) 使因子更有意義 … 為了各因子有更好的意義，對(duì)因子進(jìn)行旋轉(zhuǎn)： proc factor data=d831 rotate=varimax n=3 。 var x1x7。 run。 factor過(guò)程中的 rotate=varimax指出，用方差最大正交旋轉(zhuǎn)法，對(duì)因子進(jìn)行旋轉(zhuǎn)。 如果用四次方最大旋轉(zhuǎn)，則 rotate=QUARTIMAX，或?qū)憺?rotate=QMAX。 n=3指出計(jì)算 3個(gè)因子。這里也可以繼續(xù)使用 p=，指出使累計(jì)貢獻(xiàn)率達(dá)到 80%的因子個(gè)數(shù)。但我們?cè)趧偛乓粋€(gè)程序的結(jié)果中已經(jīng)知道了這一條件將得到 3個(gè)因子，所以這里明確指出 n=3。 這個(gè)程序只指出了旋轉(zhuǎn)所用的方法，那么它解因子分解模型時(shí)，用的是主成分法，還是主因子法，還是極大似然法呢，如果是主因子法，又是哪一種主因子法呢？原來(lái)，默認(rèn)的情況下， method=principal（也就是method=prin）， priors=one，這表示初始共同度設(shè)為 1的主因子法，也就是主成分法。 如果我們不想用默認(rèn)的方法，也可以在這里用 method=..和 priors=..來(lái)指出使用具體哪種因子模型。 Rotation Method: Varimax Orthogonal Transformation Matrix 1 2 3 1 2 3