【正文】 ??????????p????10β?????????????npnppxxxxxx???????1221111111X???????????????neee?21e),( 222221 yxxx p?),( 21 nnpnn yxxx ?回 歸 分 析 — 多元線性回歸 2 線性回歸 自變量的選擇 本章目錄 30 選擇自變量的準則 選擇自變量進入回歸模型的方法 因此（ I）式可寫成如下矩陣形式： eXβy ?? （ II） 0e ?)(EnC o v Ie 2)( ??此為多元線性回歸方程。H 1?? ),...,1( 1 ipi xx?ix39。 pXXX ,..., 21Y)( iyE iy本章目錄 24 例 回 歸 分 析 — 多元線性回歸 2 線性回歸 回歸方程的假設(shè)檢驗 — 預測與置信區(qū)間 ]?)(?,?)(?[ 221221 ?? ?? iipniipn htht ???? ?? βxβx ii 預測值的 置信區(qū)間為： ??1iy]?)1()(?,?)1()([ 221221 ?? ?? iipniipn htht ???? ???? βxβx ii ?)( iyE ??1的 置信區(qū)間為： X39。 因此預測是一件很簡 單的事 ， 只要確定了一個非常有效的回歸方程即 可 。反之則認為該變量與 因變量之間沒有顯著的線性關(guān)系。其中 ， 的標準誤為 ，其估計為 。βyy39。β ySS ?? ?回歸 yX39。yX39。 y)(12 ???? ??nii yyT SS 總39。 首先將因變量的離均差平方和分解為由回歸和 誤差引起兩部分，然后構(gòu)造 F統(tǒng)計量來進行統(tǒng)計 推斷的 本章目錄 20 y139。如果檢驗的結(jié)果是拒絕 ，即接受其備擇 假設(shè)，說明至少有一個回歸系數(shù) ，從而說明 變量 線性依賴于某個變量 ；若檢驗的結(jié)果是 接受 ，則說明所有變量 對變量的線性 關(guān)系是不重要的。i?ixYix本章目錄 18 回 歸 分 析 — 多元線性回歸 2 線性回歸 回歸方程的假設(shè)檢驗 — 模型的檢驗 對于任一組觀測數(shù)據(jù)，我們都可按上述方法建立 回歸方程，那么它們是否具備建立線性回歸方程 的條件呢？這就需要進行回歸方程的顯著性檢驗。i? 39。另外 的正號反映了 與 間 是正相關(guān)關(guān)系，負號則為負相關(guān)關(guān)系 pXXX ,..., 21 iiii S XXx ?? pi ,1 ????? njjii xX1? ?? 212 )( ijini xxS39。標準化回歸系數(shù) 表示當其 他自變量固定時， 每變化一個單位，因變量 平 均變化 個單位。X)(X39。 DFFITS 預測值的標準影響力 . 本章目錄 12 回 歸 分 析 — 多元線性回歸 2 線性回歸 線性回歸的數(shù)學表示 因變量 y 自變量為 pxxx , 21 ?滿足線性關(guān)系 exxy pp ????? ??? ?110 （ I） 次觀測， 對 進行 n 所得的 n 組數(shù)據(jù)為 ),2,1(, ,21 nixxx ipii ?? ?它們均滿足（ I）式 pxxx , 21 ? y本章目錄 13 回 歸 分 析 — 多元線性回歸 2 線性回歸 線性回歸的數(shù)學表示 因變量 y 自變量為 pxxx , 21 ?滿足線性關(guān)系 exxy pp ????? ??? ?110 （ I） 次觀測， 對 進行 n 所得的 n 組數(shù)據(jù)為 ),2,1(, ,21 nixxx ipii ?? ?它們均滿足（ I）式 pxxx , 21 ? y本章目錄 14 1111101 exxy pp ????? ??? ?2221102 exxy pp ????? ??? ?nnppnn exxy ????? ??? ?110),( 111211 yxxx p??? ?????????????????nyyy21?y???????????????p????10β?????????????npnppxxxxxx???????1221111111X???????????????neee?21e),( 222221 yxxx p?),( 21 nnpnn yxxx ?回 歸 分 析 — 多元線性回歸 2 線性回歸 線性回歸的數(shù)學表示 本章目錄 15 因此（ I）式可寫成如下矩陣形式： eXβy ?? （ II） 0e ?)(EnC o v Ie 2)( ??此為多元線性回歸方程。X X39。 線性回歸 回歸參數(shù)的估計 回歸方程的假設(shè)檢驗 自變量的選擇 多重共線性識別及處理 回歸診斷 綜合實例 返回 2 回 歸 分 析 — 多元線性回歸 回歸分析是研究變量間的依賴關(guān)系一種方法 本章目錄 3 回 歸 分 析 — 多元線性回歸 提 綱 REG過程 回歸分析的基本內(nèi)容 回歸分析實例 本章目錄 4 回 歸 分 析 — 多元線性回歸 ?REG過程的調(diào)用格式 ： PROC REG DATA=SAS數(shù)據(jù)集 選項 1； MODEL 因變量 =自變量名表 /選項 2； PLOT Y變量 *X變量 /選項 3； OUTPUT OUT=數(shù)據(jù)集名 關(guān)鍵字 =變量名 …. ； RUN； 必選項 1 REG過程 本章目錄 5 回 歸 分 析 — 多元線性回歸 1 REG過程 ?選項 1中常用選擇項有： GRAPHICS 高分辯率的圖形方式 OUTEST=SAS數(shù)據(jù)集 保存回歸分析的結(jié)果 COVOUT=SAS數(shù)據(jù)集 存入估計的協(xié)方差陣 OUTSSCP=SAS數(shù)據(jù)集 保存離差陣 RIDGE=值 給出嶺回歸中的 K值，其方式有 M、 M TO N、 M TO N BY I 、 M1， M2 TO M3 NOPRINT 不打印輸出 本章目錄 6 回 歸 分 析 — 多元線性回歸 1 REG過程 ?選項 2中常用選擇項有： CLI 每個個體預測值的 95%上、下限 CLM 每個觀測因變量期望值的 95%上、下限 R 每個個體的預測值、殘差及標準誤 P 每個個體的觀測值、預測值、殘差等 （若選擇 CLI CLM R，則無需選擇它） I 計算 (X39。1 第六章 回 歸 分 析目錄 回歸分析 167。 REG過程 167。X)1 XPX 計算 X39。Y 本章目錄 7 回 歸 分 析 — 多元線性回歸 1 REG過程 ?選項 2中常用選擇項有： VIF 方差膨脹因子 ,它表示由于共線性的存在而使參數(shù) 估計值的方差增大的情況 . STB 標準化偏回歸系數(shù) CORRB 參數(shù)估計的相關(guān)陣 COVB 參數(shù)估計的協(xié)方差陣 COLLIN 要求進行共線性分析 INFLUENCE 要求分析觀測值對參數(shù)估計和預測值的影響 本章目錄 8 回 歸 分 析 — 多元線性回歸 1 REG過程 ?選項 2中常用選擇項有： SELECTION= ? BACKWARD 后退法 SLSTAY=值（缺省值為 ） ? FORWARD 向前法 SLENTRY=值 (缺省值為 ) ? STEPWISE 逐步回歸法 SLSTAY=值 SLENTRY=值 (缺省值均為) ? RSQUARE R2選擇法 ? ADJRSQ 修正 .R2選擇法 ? CP Mallous Cp統(tǒng)計量 ? MAXR R2最大增量法 ? MINR R2最小增量法 本章目錄 9 回 歸 分 析 — 多元線性回歸 1 REG過程 ?選項 3中常用選擇項有： OVERLAY 多個圖在一個圖上表示 SYMBOL= 用某一符號表示圖形 HPLOTS=N 在同一頁水平方向作 N幅圖 VPLOTS=N 在同一頁垂直方向作 N幅圖 本章目錄 10 回 歸 分 析 — 多元線性回歸 1 REG過程 ?常用的 統(tǒng)計關(guān)鍵詞 有 ： P（ PRIDICTED） 預測值 R（ RESIDUAL） 殘差 L95M 期望值的 95%下限 U95M 期望值的 95%上限 L95 個體預測值的 95%下限 U95 個體預測值的 95%上限 STDP 期望值的標準誤 本章目錄 11 回 歸 分 析 — 多元線性回歸 1 REG過程 ?常用的 統(tǒng)計關(guān)鍵詞 有 ： STDI 預測值的標準誤 STUDENT 學生化殘差 RSTUDENT 去掉某觀測后的學生化殘差 COOKD COOK D值 H 杠桿值 PRESS 當去掉第 I個觀測值后擬合模型的第 I個觀測的殘差除以 1H。 回 歸 分 析 — 多元線性回歸 2 線性回歸 線性回歸的數(shù)學表示 本章目錄 16 yX39。β 1???最小二乘法解 回 歸 分 析 — 多元線性回歸 2 線性回歸 回歸參數(shù)的估計 本章目錄 17 回 歸 分 析 — 多元線性回歸 2 線性回歸 回歸參數(shù)的估計 若對 進行標準化，即 ， 其中 ， ，則得到的回歸系數(shù) 即 標準化回歸系數(shù) 。因此 反映了自變量 對因 變量 的影響大小。i?Y39。i?ixY 39。 即檢驗假設(shè) ，也就是所有回歸系數(shù)都等 于零。 0β ?:0H0H0?i?Y iX0H pXXX ,..., 21本章目錄 19 回 歸 分 析 — 多元線性回歸 2 線性回歸 回歸方程的假設(shè)檢驗 — 模型的檢驗 方差來源 平方和 自由度 均方 F 值