第五章自變量的選擇(參考版)
2024-10-02 13:39本頁(yè)面
【正文】 。 model y=x1 x2 x3 x4/selection=cp jp。 run。 Stepwise Selection: Step 3 Variable x2 Entered: RSquare = and C(p) = AIC準(zhǔn)則 proc reg。 proc print data=。 proc reg data= outest=。 print cli clm。 proc reg。 7 26 6 60 1 29 15 52 11 56 8 20 11 31 8 47 7 52 6 33 11 55 9 22 3 71 17 6 1 31 22 44 2 54 18 22 21 47 4 26 1 40 23 34 11 66 9 12 10 68 8 12 。 input x1x4 y。d:\user39。 run。 run。例如： proc reg data=… outest= 新數(shù)據(jù)集 。 對(duì) backward和 stepwise方法規(guī)定變量保留在模型里的顯著性水平。 對(duì) forward和 stepwise方法規(guī)定變量選入回歸模型里的顯著性水平。若顯著，則保留1kx若不顯著則刪除； ( 4 ) 重復(fù)上面各步， 直 到 沒(méi)有變量可引入 也 沒(méi) 有 變量 可 刪除為止 。若顯著，則引入2kx； ? 建立關(guān)于1kx，2kx的二元線性回歸方程。 （ 2 ）選第二個(gè)變量 ? 計(jì)算剩下的1?t個(gè)變量的偏回歸平 方程 ，)2(jv tj ?,2,1? 1kj ?。,2,1 tj ??； ? 令)1()1(1 m a x jjk vv ?； ? 用21)1(11 svF k?對(duì)1kx的回歸系數(shù)進(jìn)行檢驗(yàn)。 其步驟如下： （ 1 ） 選第一個(gè)變量。其基本思想是變量一一引入，對(duì)此要引入的變量用偏回歸平方和作F檢驗(yàn)，顯著時(shí)才引入；而一旦新的變量引入后又要對(duì)老的變量重新檢驗(yàn)，若它變成不顯著了就要將它從方程中剔除，直到?jīng)]有變量可剔除也沒(méi)有變量可引入為止。由于偏相關(guān)系數(shù)檢驗(yàn)幾計(jì)算較復(fù)雜，且不能保證最后所得的回方程系數(shù)均為顯著，故使用不太普遍。 ? 后退法（ back w ard ） 先建立t元線性回歸方程，再對(duì)系數(shù)逐一檢驗(yàn)，刪去不顯著變量中偏回歸平方和最小的變量，重新先建立 1?t 元線性回歸方程，再對(duì)每一個(gè)系數(shù)作檢驗(yàn) ，直到方程中所含回歸變量均顯著為止。 逐步回歸的思想 ? 當(dāng)可供選擇的自變量太多時(shí)，當(dāng)然可用前面所述的自變量選擇的準(zhǔn)則去選擇好的方程，但很復(fù)雜，因此很不實(shí)用。 ? 極大似然估計(jì)出發(fā) 在正態(tài)條件下，?的最小二乘估計(jì)與極大似然估計(jì)是一致的。此時(shí) ? 的最小二乘估計(jì)為)()(1)()()()(?iiiiiYXXX????? 用)(?i? 去預(yù)測(cè)第 i 點(diǎn)，此時(shí)的預(yù)測(cè)偏差為)( ie )()(?iiiixye ???? 定義預(yù)測(cè)平方和為 ? ?2)(??ieP R E S S 記 :)()()()( ? iiii xye ???為全模型用除i點(diǎn)之外，剩下的1?n個(gè)點(diǎn)作參數(shù)估計(jì)后，對(duì)i點(diǎn)的預(yù)測(cè)的偏差；iih為XXXXH ??? ? 1)(的第i個(gè)對(duì)角元即)(1)( iiii xXXxh????。設(shè)n組數(shù)據(jù)的回歸模型為?? ?? XY。 準(zhǔn)則 6 預(yù)測(cè)平方和pP R E S S達(dá)到最小。 準(zhǔn)則 5 pC統(tǒng)計(jì)量 22sSSEnpCpp??? 其中 2s是全模型中 2?的無(wú)偏估計(jì) . 考慮在n個(gè)樣本點(diǎn)上，用選模型作預(yù)測(cè)時(shí)，預(yù)測(cè)值與期望值的相對(duì)偏差平方和為： ?? ??????iipipiiipxxEyyJ2222)~(1)~(1???? 而? ????????iipippippipp xxExExEEJ ])~()~~([1 222?????)(1? 212 II ??? ? ? ? ????????i i iipppipippippip xXXxxDxxDI121 )(~~ ??? ? ? ?????? ??i iipipppipippp xxxxtrxxxxtr1212 )()( ?? p2?? ??????niipipxxEI122)~( ?? ???????niqiqqipxCBx121)( ?? ???????????niqiqipiqipqxCBxxxBC111))(( ?? qiqiqiqipipiqipipniqxxxxBCCBxxcBxxBC ?? )(11111????????????????? qiqiqniiqipipiqipipq xxxxBCCBxxCBxxBC ?? )(11111?? ?? ???????????????? qq DCBCCBCCBBBC ?? )1111 ???????? ?? qq CBCD ?? )(1????? ))(~( 22 pnE p ??? ?? 由此可知： ? ?? ?npE S S EnPPNEpnpnEEJpppp???????????2)2()(~1)2()(~12222222??????? 故選22sSSEnpCpp???。 準(zhǔn)則 4 平均預(yù)測(cè)均方誤差pS達(dá)到最小。 1 2( ) ( 1 ( ) )i i
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1