【正文】 Mean Source DF Squares Square F Value Pr F Model 4 .0001 Error 10 Corrected Total 14 Parameter Standard Variable Estimate Error Type II SS F Value Pr F Intercept X1 .0001 X2 X3 X4 Bounds on condition number: , Backward Elimination: Step 1 Variable X4 Removed: RSquare = and C(p) = Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr F Model 3 .0001 Error 11 Corrected Total 14 The SAS System 14:40 Friday, April 30, 2022 13 The REG Procedure Model: MODEL1 Dependent Variable: Y Backward Elimination: Step 1 Parameter Standard Variable Estimate Error Type II SS F Value Pr F Intercept X1 .0001 X2 X3 Bounds on condition number: , All variables left in the model are significant at the level. Summary of Backward Elimination Variable Number Partial Model Step Removed Vars In RSquare RSquare C(p) F Value Pr F 1 X4 3 The SAS System 14:40 Friday, April 30, 2022 14 The REG Procedure Model: MODEL1 Dependent Variable: Y Analysis of Variance Sum of Mean Source DF Squares Square F Value Pr F Model 3 .0001 Error 11 Corrected Total 14 Root MSE RSquare Dependent Mean Adj RSq Coeff Var Parameter Estimates Parameter Standard Standardized Variable DF Estimate Error t Value Pr |t| Estimate Intercept 1 0 X1 1 .0001 X2 1 X3 1 逐步法回歸程序模式 ? DATA A。 run。 input id y x1 x2 x3 x4。 前進(jìn) ,后退法回歸程序模式 ? DATA A。 cards。 WEGHT 變量名列 。當(dāng)在模型外的所有變數(shù)在選擇的水平上都不顯著，而且在模型內(nèi)的任一個(gè)變數(shù)的 F統(tǒng)計(jì)量在選擇的水平上都是顯著時(shí)，逐步回歸過程才停止。 ? cards。 ? MODEL Y=X1X4。當(dāng)缺省時(shí)，其值為 。 PLOT 縱坐標(biāo) *橫坐標(biāo) [=繪圖符號(hào) ]…/[ 選項(xiàng) ]。 model y=x1 x2 x3 x4 /stb。 ? 10 23 113 9 20 106 10 22 111 ? 13 21 109 10 22 110 10 23 103 ? 8 23 100 10 24 114 10 20 104 ? 10 21 110 10 23 104 8 21 109 ? 6 23 114 8 21 113 9 22 105 ? 。 proc reg data=b。 ? cards。 ? 10 23 113 9 20 106 10 22 111 ? 13 21 109 10 22 110 10 23 103 ? 8 23 100 10 24 114 10 20 104 ? 10 21 110 10 23 104 8 21 109 ? 6 23 114 8 21 113 9 22 105 ? 。 ? datalines。 .)(, . . . ,/)(,...,...,12100112211110相關(guān)強(qiáng)烈近似則使或至少存在一個(gè)使存在????????????pkjkjjkpppxxxcxccxKcxcxcxcccc? 跡象： XTX至少有一個(gè)很小的特征值 λj (≈0) ? 注意 : λj≥0 for j=1,2,…,p (這里 λj 是 XTX的特征值 ). 影響 : 典型的影響是使參數(shù)估計(jì)的方差增大從而使整個(gè)估計(jì)不精確 . 第三節(jié) 多重共線性 故可得： 1,...,1,0)( ???? kpkkiXX iT 時(shí)，的特征值當(dāng) ?上式兩邊左乘 X得 ???????????????1.....................1...1)(3212232111312pppppTrrrrrrrrrXX0......, 21 ????? pj ????其特征值為 piXXiT , . . . ,2,1,1)( 1 ???的特征值為而1,. . . ,1,1)( 1 ????? kpkkiXXiT ，的特征值則 －?0)( ?? CCXX T ?0?XCXX T 0)( ?? XCXX TT1))(( ?TT XX兩邊左乘 0?XC則有存在多重共線性即 ???????? nkkixcxcxcc ippii ,...,1,0,...,22110 第三節(jié)病態(tài)回歸 對(duì)線性模型 其最小二乘法估計(jì)為 ，當(dāng) 接近奇異時(shí)，即呈現(xiàn)所謂“病態(tài)”， LS估計(jì)的性能變壞 . 事實(shí)上，由于（ 1） （ 2） 可見，當(dāng) S呈現(xiàn)所謂“病態(tài)”時(shí)，即當(dāng)其某一特征根很接近 0時(shí)，其均方誤差、估計(jì)值與理論值的方差均很大，即它們差的平方和的 Q值很大，而且很不穩(wěn)定， 各個(gè)變量有近似的線性關(guān)系 ，故在此情況下很難把該 LS估計(jì)為良好估計(jì) 。SiO2的成分（％）， x3:4Cao 7 26 6 60 1 29 15 52 11 56 8 20 11 31 8 47 7 52 6 33 11 55 9 22 3 71 17 6 1 31 22 44 2 54 18 22 21 47 4 26 1 40 23 34 11 66 9 12 10 68 8 12 。 model y=x1 x2 x3 X4/ selection=stepwise stb。 ％共線診斷 proc print data=est。 ％因子選擇 proc print data=est。 RUN。 CARDS。 RUN _MODEL_ _TYPE_ _DEPVAR_ _RIDGE__PCOMIT_ _RMSE_ Intercept x1 x2 x3 y ? 1 MODEL1 PARMS y . . 1 ? 2 MODEL