【正文】 多重共線性 ? .Multicollinearity arises because we have put in too many variables that measure the same thing. ? As the degree of multicollinearity increases, the regression model estimates of the coefficients bee unstable and the standard errors for the coefficients can get wildly inflated. ? Measure :vif, tol=1/vif,condition index。etc. kXXra n k ?? )(多重共線性的后果 ? ,參數(shù)的估計(jì)值無(wú)法確定 ,而且估計(jì)值的方差變?yōu)闊o(wú)窮大 . ? ,可以估計(jì)參數(shù)值 ,但是數(shù)值不穩(wěn)定 ,而且方差很大 . ? ,甚至失效 ,增大零假設(shè)接受的可能性 (t值變小 ). 多重共線性的檢測(cè)方法 (1)樣本可決系數(shù)法 ? 如果樣本的可決系數(shù) Rsquare 比較大 ，且 回歸系數(shù)幾乎沒(méi)有統(tǒng)計(jì)上的顯著性 ，則可認(rèn)為存在多重共線性。接近于線性；，則認(rèn)為不存在多重共若該系數(shù)接近于數(shù)后的回歸方程的可決系去掉指標(biāo)10。( 22212jjjpjxRRRRT h e i l???? ??Theil test results ? Sas 結(jié)果： ? 結(jié)果表明有多重共線性。 ? 相應(yīng)的檢驗(yàn)統(tǒng)計(jì)量為： 因；是造成多重共線性的原則可認(rèn)為性；若顯著則存在多重共線的可決系數(shù)量的回歸個(gè)自變量對(duì)其余解釋變?yōu)榈趇iiiixiRpTpFpTRpRF。 。(。(。(233212211?????????Rp r o bFRp r o bFRp r o bF多重共線性檢驗(yàn)方法 （ 3）樣本相關(guān)系數(shù)檢驗(yàn)法 否則不存在；；，則認(rèn)為有多重共線性如果拒絕檢驗(yàn)統(tǒng)計(jì)量：共線性嚴(yán)重。1(() ) 。1)d e t (。 ? 具體那些變量之間存在多重共線性，除了上面提到的輔助回歸的方法外，還有以下提到的條件數(shù)檢驗(yàn)和方差膨脹因子法。 為第 k各自變量和其余自變量回歸的可決系數(shù) . VIF10,有多重共線性 。 ? 條件指數(shù) : ? 條件數(shù) : 。 ? Sas 結(jié)果如下 :Pearson Correlation Coefficients, N = 11 Prob |r| under H0: Rho=0 ? x1 x2 x3 ? x1 ? GDP .0001 ? x2 ? 存蓄量 ? x3 ? 總消費(fèi) .0001 ? 從上面可以看出 x1和 x3線性相關(guān)嚴(yán)重 . 多重共線性的檢驗(yàn)和補(bǔ)救 ? (2)回歸結(jié)果 : Parameter Estimates ? Parameter Standard Variance ? Variable DF Estimate Error t Value Pr |t| Inflation ? Intercept 1 .0001 0 ? x1 1 ? x2 1 ? x3 1 ? 發(fā)現(xiàn) x1的系數(shù)為負(fù) ,和現(xiàn)實(shí)經(jīng)濟(jì)意義不符 ,出現(xiàn)原因就是 x1 和 x3之間的線性相關(guān) . 補(bǔ)救措施 ? 增加樣本 。 ? 至少去掉一個(gè)具有多重共線性的變量 。 ? K的選取 : ? 即使 b(k)的均方誤差比 b的均方誤差小 . YXkIXXkb ???? ? 1)()()])(())([(m i n ?? ???? kbkbk嶺跡圖 嶺回歸結(jié)果 Obs _MODEL_ _TYPE_ _DEPVAR_ _RIDGE_k _PCOMIT_ _RMSE_ Intercept x1 x2 x3 y 1 MODEL1 PARMS y 1 2 MODEL1 RIDGEVIF y 方差膨脹因子 – 1 3 MODEL1 RIDGE y – 1 4 MODEL1 RIDGEVIF y 1 5 MODEL1 RIDGE y – 1 6 MODEL1 RIDGEVIF y 1 7 MODEL1 RIDGE y 1 8 MODEL1 RIDGEVIF y 1 9 MODEL1 RIDGE y 1 10 MODEL1 RIDGEVIF y 1 11 MODEL1 RIDGE y 1 主分量回歸 ? 主分量回歸是將具有多重相關(guān)的變量集綜合得出少數(shù)幾個(gè)互不相關(guān)的主分量 . ? 兩步 :(1)找出自變量集的主分量 ,建立 y與互不相關(guān)的前幾個(gè)主分量的回歸式 .(2)將回歸式還原為原自變量結(jié)果 . ? 詳見(jiàn) ,實(shí)用多元統(tǒng)計(jì)分析 ,方開(kāi)泰 。 ? 該方程的系數(shù)都有意義，且回歸系數(shù)的方差膨脹因子均小于 ；主分量回歸方程的均方根誤差（ _RMSE=) 比普通 OLS方程的均方根誤差（ _RMSE=) 有所增大但不多。 ? input x1 x2 x3 y。 ? label x2=存儲(chǔ)量 。 ? label y=進(jìn)口總額 。 ? ? ? ? ? ? ? 146 ? ? ? ? ? 。 ? proc corr data=ex01。 ? run。 ? proc reg data=ex01 outest=ex012 graphics outvif。 ? plot/ridgeplot。 ? proc print data=ex012。 ? *主分量回歸法 *。 ? model y=x1x3/pit=1,2 outvif。 ? run。run。 ? proc reg data=ex01。 ? equation2:model y=x1 x3。 ? run。r3s=*/。 ? rsq=。r2s=。 ? theil=rsq(3*rsq(r1s+r2s+r3s))。 ? run。 ? proc reg data=ex01。 ? equation2:model x2=x1 x3。 ? run。 ? proc corr data=ex01 outp=corr nosimple。run。run。 ? proc iml。 ? d=det(R)。 ? run。 ? title 計(jì)算檢驗(yàn)統(tǒng)計(jì)量及其 p值 。 ? n=11。d=。df=p(p1)/2。 ? put fg= p=。/*fg= p=,拒絕零假設(shè) */。t, F test invalid。 p o s i t i v e d i ag o n al a ,)( 2 isV a r ??? ??異方差的檢測(cè) ? There a