【正文】 ??????pjjjjjjXXXXXXt o lRXt o l?2 確定系數(shù) 判定準(zhǔn)則 作共線性的測度 ? (1) VIF (variance inflation factor) ? ? VIFj=1/(1 R2j ) for j=0,1,2,…,p1. ? 當(dāng) max(VIFj)≥30時 , 有強共線性問題 ? 當(dāng) max(VIFj)≥10時 , 有共線性問題 ? 當(dāng) (VIFj)接近 1時 , 弱共線性問題 ? (這是經(jīng)驗公式 ,無精確理論基礎(chǔ) ) ? ? 注意 : VIF0≡1/(1 R20 ) ? 其對應(yīng)模型是 ? 此模型右邊無常數(shù)項 . exx pp ???? ?? 1111 ...1 ?? 第一節(jié) 多重共線性 5．條件指數(shù)（ Collinearity） 由特征根判定準(zhǔn)則知， )( XX T近似為零的特征值則可知 X自變量間存在多重共線性。 ? MODEL Y=X1X4/SELECTION=FORWARD SLE= STB。 model y=x1 x2 x3 X4 / selection= BACKWARD stb。 model y=x1 x2 x3 x4 / selection=stepwise stb。 VAR 變量名列 。多重回歸程序模式 ? DATA A。 MODEL 響應(yīng)變量名 =自變量名列 /[SELECTION=F或 B或 S]。 model y=x1 x2 x3 X4 / selection= BACKWARD stb。 model y=x1 x2 x3 x4 / selection= FORWARD stb。 ? MODEL Y=X1X4/SELECTION=BACKWORD SLS= STB。它表示很大???? ?? ti istrM S E1212 1)()?(????12 )()?( ?? XXD T??的估計精度降低。 input id x1 x2 x3 x4 Y。 第二節(jié) 回歸共線診斷變量篩選法 ? Parameter Estimates Parameter Standard Variance Variable DF Estimate Error t Value Pr |t| Tolerance Inflation （容限） （方差膨脹因子） x1 1 x2 1 x3 1 Collinearity Diagnostics Number Eigenvalue Index Intercept x1 x2 x3 特征值 條件指數(shù) 2 3 4 1 Condition Proportion of Variation(方差比例 ) Intercept 1 .0001 . 0 注 :方差比例 變量對特征值的貢獻 ,方差比例 變量構(gòu)成相關(guān)變量集合 tol1=1R1.?0表明X1與其他變量有很強的相關(guān)性 data fitness。 它仍為系數(shù)的線性估計（ K為常數(shù)），且對 LP估計有所改善，具體的說，是希望找到某個 K0,使系數(shù)估計值的均方誤差小，但具體操作時 K與方程的方差有關(guān)， 較難做到 均方誤差小 。 run。 run。 proc reg data=fitness outest=est。為了使最終的回歸方程中包含較多的 變數(shù)， SLE不宜太小， SLS也不宜太大。 第一節(jié) 多重共線性 ? Number in Estimated MSE ? Model RSquare C(p) AIC BIC of Prediction J(p) MSE ? （因子個數(shù) ）（決定系數(shù)）（ CP統(tǒng)計量） (AIC BIC信息準(zhǔn)則 ) (均方誤差 ) ? 1 ? 1 ? ? 2 ? 2 ? ? 3 ? 模型選擇比較與估計信息 ? Number in Parameter Estimates ? Model RSquare SBC Intercept x1 x2 x3 ? 1 . . ? 1 . . ? ? 2 . ? 2 . ? ? 3 第三節(jié) .多重共線性 多重線性回歸模型 ????? ?????? pp xxxy ,...,22110要求設(shè)計矩陣 X的秩 R(X)=P+1,即要求 X中的列向量線性無關(guān)。 ? input X1X4 Y 。 cards。 … 。此外，若剛被刪除的變數(shù)又被引入時，逐步過程也停止。 ? PROC REG CORR。 OUTPUT OUT=新數(shù)據(jù)集名 關(guān)鍵字 =新變量名 …。 ? cards。 ? input X1X4 Y 。 ? input x1 x2 x3 y 。Al2O3的成分（％）， x2:3Cao model y=x1 x2 x3 X4 / selection= BACKWARD stb。 model y= x1 x2 x3/ selection=rsquare mse jp gmsep cp aic bic sbc b best=2。 input x1 x2 x3 y 。 。 run。 run。Al2O3 ? ? ? ? ? ? ? ? ? ? ? ? 。 ? 10 23 113 9 20 106 10 22 111 ? 13 21 109 10 22 110 10 23 103 ? 8 23 100 10 24 114 10 20 104 ? 10 21 110 10 23 104 8 21 109 ? 6 23 114 8 21 113 9 22 105 ? 。 ? PROC REG CORR。 變量篩選 語法選項 (MODEL語句選項 ) 1. SELECTION=method， 規(guī)定變量篩選的方法，method可以是以下幾種選項 ? FORWARD(或 F)，前進法，按照 SLE規(guī)定的 P值從無到有依次選一個變量進入模型 ? BACKWARD（或 B）， 后退法，按照 SLS規(guī)定的 P值從含有全部變量的模型開始，依次剔除一個變量 ? STEPWISE（或 S）， 逐步法，按照 SLE的標(biāo)準(zhǔn)依次選入變量，同時對模型中現(xiàn)有的變量按 SLS的標(biāo)準(zhǔn)剔除不顯著的變量 ?NONE，即不選擇任何選項，不作任何變量篩選，此時使用的是含有全部自變量的全回歸模型 變量篩選 MODEL語句選項 2. SLE=概率值，入選標(biāo)準(zhǔn)，規(guī)定 變量入選 模型的顯著性水平，前進法的默認(rèn)是 ，逐步法是 3. SLS=概率值，剔除標(biāo)準(zhǔn)，指定 變量保留 在模型的顯著水平，后退法默認(rèn)為 ，逐步法是 4. 標(biāo)準(zhǔn)化偏回歸系數(shù) STB 可用來比較各個自變量作用的大小 5. COLLIN 要求詳細分析自變量之間的共線性，給出信息矩陣的 特征根和條件指數(shù) ，來判斷自變量之間有無多重共線性。 ? RUN。僅當(dāng)經(jīng)過測驗并把所有不顯著的變數(shù)刪除后，再考慮是否引入新變數(shù)。 input id y x1 x2 x3 x4。 Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr F Model 1 .0001 Error 13 Corrected Total 14 Parameter Standard Variable Estimate Error Type II SS F Value Pr F Intercept X1 .0001 Bounds on condition number: 1, 1 Forward Selection: Step 2 Variable X3 Entered: RSquare = and C(p) = Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr F Model 2 .0001 Error 12 Corrected Total 14 Parameter Standard