【正文】 回歸分析 線性回歸 曲線估計(jì) 二分量邏輯分析 多項(xiàng)式邏輯分析 標(biāo)稱變量分析 概率回歸 非線性回歸 加權(quán)估計(jì) 2階段最小二乘法 571 線性回歸模型 ????? ?????? kk XXXY ?22110總體回歸模型 ?j也被稱為 偏回歸系數(shù) (partial regression coefficients)，表示在其他解釋變量保持不變的情況下， Xj每變化 1個(gè)單位時(shí)， Y的均值 E(Y)的變化。 kk XXXY ???? ????? 22110 ????? ?樣本回歸函數(shù) ?參數(shù)估計(jì) 最小二乘法 ?模型統(tǒng)計(jì)推斷檢驗(yàn) 擬合優(yōu)度檢驗(yàn) 方程顯著性檢驗(yàn)（ F檢驗(yàn)） 變量顯著性檢驗(yàn)（ t檢驗(yàn)） （ 1）擬合優(yōu)度檢驗(yàn) 回歸方程的擬合優(yōu)度檢驗(yàn)就是要檢驗(yàn)樣本數(shù)據(jù)聚集在樣本回歸直線周圍的密集程度，從而判斷回歸方程對(duì)樣本數(shù)據(jù)的代表程度。 回歸方程的擬合優(yōu)度檢驗(yàn)一般用調(diào)整判定系數(shù) R2實(shí)現(xiàn)。該統(tǒng)計(jì)量的值越接近于 1越好。（ 注：在一元線性回歸中擬合優(yōu)度的檢驗(yàn)可用判定系數(shù) R2實(shí)現(xiàn)） （ 2）回歸方程的顯著性檢驗(yàn)（ F檢驗(yàn)） 回歸方程的顯著性檢驗(yàn)是對(duì)因變量與所有自變量之間的線性關(guān)系是否顯著的一種假設(shè)檢驗(yàn)。 回歸方程的顯著性檢驗(yàn)一般采用 F檢驗(yàn)，利用方差分析的方法進(jìn)行。 Fα H k0 1 20 0 0: , , ,? ? ?? ? ?? （ 3）回歸系數(shù)的顯著性檢驗(yàn)（ t檢驗(yàn)） 所謂回歸系數(shù)的顯著性檢驗(yàn)，就是根據(jù)樣本估計(jì)的結(jié)果對(duì)總體回歸系數(shù)的有關(guān)假設(shè)進(jìn)行檢驗(yàn)。 之所以對(duì)回歸系數(shù)進(jìn)行顯著性檢驗(yàn)，是因?yàn)榛貧w方程的顯著性檢驗(yàn)只能檢驗(yàn)所有回歸系數(shù)是否同時(shí)與零有顯著性差異，它不能保證回歸方程中不包含不能較好解釋說明因變量變化的自變量。因此，可以通過回歸系數(shù)顯著性檢驗(yàn)對(duì)每個(gè)回歸系數(shù)進(jìn)行考察。 回歸參數(shù)顯著性檢驗(yàn)的基本步驟。 ① 提出假設(shè) ② 計(jì)算回歸系數(shù)的 t統(tǒng)計(jì)量值 ③ 根據(jù)給定的顯著水平 α 確定臨界值，或者計(jì)算 t值所對(duì)應(yīng)的 p值 ④ 作出判斷 H0： ?j =0 （ j=1,2…k ） 一、一元線性回歸 y=a+bx 例 571 已知我國分地區(qū)家庭人均食品支出、人均收入。試作一元線性回歸分析。（ e571) 操作步驟：使用系統(tǒng)默認(rèn)選擇項(xiàng)進(jìn)行線性回歸分析 AnalyzeRegressionLinear 分析 ——回歸 ——線性 Dependent:存放因變量 Independent:存放自變量 輸出結(jié)果及結(jié)果分析 Variables E ntered/Removed bI N C O M E a . E n t e rM o d e l1V a r i a b l e sE n t e r e dV a r i a b l e sR e m o v e d M e t h o dA l l r e q u e s t e d v a r i a b l e s e n t e r e d .a . D e p e n d e n t V a r i a b l e : F O O D E X Pb . 變量引入或剔出表： Model 1 引入變量 ine, 用強(qiáng)迫輸入法 Enter。 輸入／移去的變量 bi n c o m e a . 輸入模型1輸入的變量 移去的變量 方法已輸入所有請(qǐng)求的變量。a . 因變量: f o o d e x pb . Model Summa ry. 9 2 3 a . 8 5 2 . 8 4 7 7 3 . 8 3M o d e l1R R S q u a r eA d j u s t e d RS q u a r eS t d . E r r o r o ft h e E s t i m a t eP r e d i c t o r s : ( C o n s t a n t ) , I N C O M Ea . 模型摘要表 相關(guān)系數(shù) R=, 判定系數(shù) R2=,調(diào)整判定系數(shù)R2=,估計(jì)值的標(biāo)準(zhǔn)誤為 注：在一元線性回歸中可用判定系數(shù) R2來判斷模型的擬合度。調(diào)整判定系數(shù) R2的值越大，模型的擬合優(yōu)度越好。 模型摘要. 9 2 3 a . 8 5 2 . 8 4 7 7 3 . 8 2 9模型1R R 方 調(diào)整的 R 方 估計(jì)的標(biāo)準(zhǔn)差預(yù)測變量: ( 常量) , i n c o m e 。a . ANOVA b8 7 8 3 8 2 . 3 3 1 8 7 8 3 8 2 . 3 3 4 1 6 1 . 1 4 9 . 0 0 0 a1 5 2 6 2 1 . 1 3 28 5 4 5 0 . 7 5 51 0 3 1 0 0 3 . 5 29R e g r e s s i o nR e s i d u a lT o t a lM o d e l1S u m o fS q u a r e s df M e a n S q u a r e F S i g .P r e d i c t o r s : ( C o n s t a n t ) , I N C O M Ea . D e p e n d e n t V a r i a b l e : F O O D E X Pb . 方差分析表 回歸的均方 (Regression–Mean Square)=,剩余 (殘差）的均方 (ResidualMean square)=, F= P=認(rèn)為這兩個(gè)變量之間有直線關(guān)系 . 注： H0為模型線性關(guān)系不成立 ,即 b=0 A N O V A b8 7 8 3 8 2 . 3 3 1 8 7 8 3 8 2 . 3 3 1 6 1 . 1 4 9 . 0 0 0a1 5 2 6 2 1 . 1 3 28 5 4 5 0 . 7 5 51 0 3 1 0 0 3 . 5 29回歸殘差合計(jì)模型1平方和 df 均方 F 顯著性預(yù)測變量: ( 常量) , i n c o m e 。a . 因變量: f o o d e x pb . Coefficients a 5 3 . 0 8 6 6 7 . 9 6 3 . 7 8 1 . 4 4 1. 4 2 2 . 0 3 3 . 9 2 3 1 2 . 6 9 4 . 0 0 0( C o n s t a n t )I N C O M EM o d e l1B S t d . E r r o rU n s t a n d a r d i z e dC o e f f i c i e n t sB e t aS t a n d a r d iz e dC o e f f i c i en t st S i g .D e p e n d e n t V a r i a b l e : F O O D E X Pa . 系數(shù) a 5 3 . 0 8 6 6 7 . 9 6 3 . 7 8 1 . 4 4 1. 4 2 2 . 0 3 3 . 9 2 3 1 2 . 6 9 4 . 0 0 0（常量）i n c o m e模型1B 標(biāo)準(zhǔn)誤非標(biāo)準(zhǔn)化系數(shù)B e t a標(biāo)準(zhǔn)化系數(shù)t 顯著性因變量: f o o d e x pa . 變量顯著性檢驗(yàn)（ t 檢驗(yàn)） 回歸系數(shù)： t=, p=, 拒絕原假設(shè)，顯著不為 0 常數(shù)項(xiàng)： t=， p=，接受原假設(shè)，常數(shù)項(xiàng)與 0沒有顯著差異。 注意：在實(shí)際中一般不以 t檢驗(yàn)決定常數(shù)項(xiàng)是否保留在模型中，而是從經(jīng)濟(jì)意義方面分析回歸線是否應(yīng)該通過原點(diǎn)。 回歸方程： 常數(shù)項(xiàng) =, 回歸系數(shù) =, 則線性回歸方程為 : y=+ 二、多元回歸分析 從 “ Analyze” （分析） ——“Regression”（回歸） ——“Linear”（線性），打開 Linear線性回歸主對(duì)話框 。 在左側(cè)的源變量欄中選擇一數(shù)值變量作為因變量進(jìn)入 Dependent欄中，選擇一個(gè)或更多的變量作為自變量進(jìn)入 Independent（ s）欄中。 如果要對(duì)不同的自變量采用不同的引入方法，可利用“ Previous‖ 與“ Next‖ 按鈕把自變量歸類 到不同的自變量塊 (Block)中，然后對(duì)不同的變量子集選用不同的引入方法（ Method）。 Enter（進(jìn)入）：強(qiáng)迫引入法，默認(rèn)選擇項(xiàng)。定義的全部自變量均引入方程。 Remove（移去）：強(qiáng)迫剔除法。定義的全部自變量均刪除。 Forward（向前）：向前引入法。自變量由少到多一個(gè)一個(gè)引入回歸方程，直到不能按檢驗(yàn)水準(zhǔn)引入新的變量為止。該法的缺點(diǎn)是：當(dāng)兩個(gè)變量一起時(shí)效果好，單獨(dú)時(shí)效果不好，有可能只引入其中一個(gè)變量，或兩個(gè)變量都不能引入。 Backward（向后）：向后剔除法。自變量由多到少一個(gè)一個(gè)從回歸方程中剔除，直到不能按檢驗(yàn)水準(zhǔn)剔除為止，能克服向前引入法的缺點(diǎn)。當(dāng)兩個(gè)變量一起時(shí)效果好，單獨(dú)時(shí)效果不好，該法可將兩個(gè)變量都引入方程。 Stepwise（逐步）：逐步引入一剔除法。將向前引入法和向后剔除法結(jié)合起來，在向前引入的每一步之后都要考慮從已引入方程的變量中剔除作用不顯著者，直到?jīng)]有一個(gè)自變量能引入方程和沒有一個(gè)自變量能從方程中剔除為止。缺點(diǎn)同向前引入法，但選中的變量比較精悍。 說明：為彌補(bǔ)各種選擇方法和各種標(biāo)準(zhǔn)的局限性，不妨分別用各種方法和多種引入或剔 除處理同一問題，若一些變量常被選中，它們就值得重視。 Selection variable(選擇變量）：可從源變量欄中選擇一個(gè)變量，單擊 Rule后，通過該變量大于、小于或等于某一數(shù)值，選擇進(jìn)入回歸分析的觀察單位。 Case Labels（個(gè)案標(biāo)簽）：在左側(cè)的源變量框中選擇一變量作為標(biāo)簽變量進(jìn)入 Case Labels框中。 Statistics（統(tǒng)計(jì)）對(duì)話框 單擊“ Statistics‖按鈕，進(jìn)入統(tǒng)計(jì)對(duì)話框如圖 : Estimates(默認(rèn)選擇項(xiàng) )：回歸系數(shù)的估計(jì)值 (B)及其標(biāo)準(zhǔn)誤（ Std． Error）、常數(shù)（ Constant）；標(biāo)準(zhǔn)化回歸系數(shù)（ Beta）； B的 t值及其雙尾顯著性水平(Sig.）。 Model fit（默認(rèn)選擇項(xiàng)）：列出進(jìn)入或從模型中剔除的變量；顯示下列擬合優(yōu)度統(tǒng)計(jì)量 :復(fù)相關(guān)系數(shù)（ R）、判定系數(shù)（ R2）、調(diào)整 R2（ Adjusted R Square）、估計(jì)值的標(biāo)準(zhǔn)誤以及方差分析表。 Confidence intervals：回歸系數(shù) B的 95％可信區(qū)間（ 95％ Confidence interval for B）。 Descriptives：變量的均數(shù)、標(biāo)準(zhǔn)差、相關(guān)系數(shù)矩陣及單尾檢驗(yàn)。 Covariance matrix：方差 ——協(xié)方差矩陣。 R sqared change： R2和 F值的改變，以及方差分析 P值的改變。 Part and partial correlations: 顯示方程中各自變量與因變量的零階相關(guān)（ Zero一 order，即 Pearson相關(guān)）、偏相關(guān) (Partial)和部分相關(guān) (part）。進(jìn)行此項(xiàng)分析要求方程中至少有兩個(gè)自變量。 Collinearity diagnostic（共線性診斷）。顯示各變量的容差（ Tolerance）、方差膨脹因子 (VIC， Variance Inflation Factor）和共線性的診斷表。 容差（ Tolerance）是不能由方程中其它自變量解釋的方差所占的構(gòu)成比。所有進(jìn)入方程的變量的容差必須大于默認(rèn)的容差水平值（ Tolerance： ）。該值愈小，說明該自變量與其他自變量的線性關(guān)系愈密切。該值的倒數(shù)為方差膨脹因子（ Variance Inflation Factor）。當(dāng)自變量均為隨機(jī)變量時(shí)，若它們之間高度相關(guān)，則稱自變量間存在共線性。在 多元線性回歸時(shí)，共線性會(huì)使參數(shù)估計(jì)不穩(wěn)定。逐步選擇變量是解決共線性的方法之一。 Durbin－ Waston：用于隨機(jī)誤差項(xiàng)的分析，以檢驗(yàn)回歸模型中的誤差項(xiàng)的獨(dú)立性。如果誤差項(xiàng)不獨(dú)立，那么對(duì)回歸模型的任