【正文】 SPSS 16實用教程 第 7章 回歸分析 回歸分析基本概念 一元線性回歸分析 多元線性回歸分析 非線性回歸分析 曲 線 估 計 時間序列的曲線估計 含虛擬自變量的回歸分析 含虛擬自變量的回歸分析 在數(shù)量分析中，經(jīng)常會看到變量與變量之間存在著一定的聯(lián)系。要了解變量之間如何發(fā)生相互影響的，就需要利用相關(guān)分析和回歸分析。在上一章講述了相關(guān)分析有關(guān)內(nèi)容。本章介紹回歸分析基本概念，回歸分析的主要類型：一元線性回歸分析、多元線性回歸分析、非線性回歸分析、曲線估計、時間序列的曲線估計、含虛擬自變量的回歸分析以及邏輯回歸分析等。 回歸分析基本概念 相關(guān)分析和回歸分析都是研究變量間關(guān)系的統(tǒng)計學(xué)課題。在應(yīng)用中，兩種分析方法經(jīng)常相互結(jié)合和滲透，但它們研究的側(cè)重點和應(yīng)用面不同。 ? 在回歸分析中，變量 y稱為因變量，處于被解釋的特殊地位；而在相關(guān)分析中，變量y與變量 x處于平等的地位，研究變量 y與變量 x的密切程度和研究變量 x與變量 y的密切程度是一樣的。 ? 在回歸分析中，因變量 y是隨機(jī)變量，自變量 x可以是隨機(jī)變量，也可以是非隨機(jī)的確定變量；而在相關(guān)分析中，變量 x和變量 y都是隨機(jī)變量。 ? 相關(guān)分析是測定變量之間的關(guān)系密切程度，所使用的工具是相關(guān)系數(shù)；而回歸分析則是側(cè)重于考察變量之間的數(shù)量變化規(guī)律，并通過一定的數(shù)學(xué)表達(dá)式來描述變量之間的關(guān)系，進(jìn)而確定一個或者幾個變量的變化對另一個特定變量的影響程度。 具體地說，回歸分析主要解決以下幾方面的問題。 ? 通過分析大量的樣本數(shù)據(jù)，確定變量之間的數(shù)學(xué)關(guān)系式。 ? 對所確定的數(shù)學(xué)關(guān)系式的可信程度進(jìn)行各種統(tǒng)計檢驗，并區(qū)分出對某一特定變量影響較為顯著的變量和影響不顯著的變量。 ? 利用所確定的數(shù)學(xué)關(guān)系式，根據(jù)一個或幾個變量的值來預(yù)測或控制另一個特定變量的取值，并給出這種預(yù)測或控制的精確度。 作為處理變量之間關(guān)系的一種統(tǒng)計方法和技術(shù)，回歸分析的基本思想和方法以及 “ 回歸（ Regression） ” 名稱的由來都要歸功于英國統(tǒng)計學(xué)家 FGalton（ 1822～ 1911）。 在實際中，根據(jù)變量的個數(shù)、變量的類型以及變量之間的相關(guān)關(guān)系，回歸分析通常分為一元線性回歸分析、多元線性回歸分析、非線性回歸分析、曲線估計、時間序列的曲線估計、含虛擬自變量的回歸分析和邏輯回歸分析等類型。 一元線性回歸分析 統(tǒng)計學(xué)上的定義和計算公式 定義：一元線性回歸分析是在排除其他影響因素或假定其他影響因素確定的條件下，分析某一個因素（自變量）是如何影響另一事物（因變量）的過程，所進(jìn)行的分析是比較理想化的。其實，在現(xiàn)實社會生活中，任何一個事物（因變量）總是受到其他多種事物（多個自變量）的影響。 在實際問題中，由于所要研究的現(xiàn)象的總體單位數(shù)一般是很多的，在許多場合甚至是無限的，因此無法掌握因變量 y總體的全部取值。也就是說，總體回歸方程事實上是未知的，需要利用樣本的信息對其進(jìn)行估計。顯然，樣本回歸方程的函數(shù)形式應(yīng)與總體回歸方程的函數(shù)形式一致。 （ 三 ） 模型的古典假定 （ 1）零均值： 0)( ?iuE???????????????????????????????????????000)(2121???nnEuEuEuuuuEUE （ 2） 同方差和無自相關(guān)性 ??????????kikiuuEEuuEuuEuuC OVkikkiiki,0,),()])([(),(2? （ 3） 隨機(jī)擾動項與解釋變量不相關(guān) ， 即 0?),(iji uXC O V kj ,2 ?? ni ,2,1 ?? （ 4） 無多重共線性 ， 即假定各變量之間不存在線性關(guān)系 。 （ 5） 正態(tài)性：隨機(jī)擾動項服從正態(tài)分布 通過樣本數(shù)據(jù)建立一個回歸方程后，不能立即就用于對某個實際問題的預(yù)測。因為，應(yīng)用最小二乘法求得的樣本回歸直線作為對總體回歸直線的近似，這種近似是否合理，必須對其作各種統(tǒng)計檢驗。一般經(jīng)常作以下的統(tǒng)計檢驗。 （ 1）擬合優(yōu)度檢驗 回歸方程的擬合優(yōu)度檢驗就是要檢驗樣本數(shù)據(jù)聚集在樣本回歸直線周圍的密集程度，從而判斷回歸方程對樣本數(shù)據(jù)的代表程度。 回歸方程的擬合優(yōu)度檢驗一般用判定系數(shù)R2實現(xiàn)。該指標(biāo)是建立在對總離差平方和進(jìn)行分解的基礎(chǔ)之上。 160165170175180185140 150 160 170 180 190 200YXyy ??yy??yy? 總變差的分解 )?()?( iiiii YYYYYY ?????總離差平方和 TSS的分解式為： 222 )?()?()(iiii YYYYYY ???????? 即 TSS=ESS+RSS — 回歸離差平方和 （ ESS） 2)?( YY i ??2)?(ii YY ?? — 剩余離平方和（ RSS） 1） 可決系數(shù)： 回歸變差占總變差的比重 T S SR S SYYYYT S SE S Sni ini i ?????????? 1)()?(12122? 2） 可決系數(shù)的取值范圍 10 2 ?? ?2???r 3）可決系數(shù)與相關(guān)系數(shù)的關(guān)系 擬合優(yōu)度檢驗 （ 一 ） 可決系數(shù) （ 判定系數(shù) ） ???????? 222 11)YY(eTS SR S STS SE S SRii 修正的可決 （ 判定 ） 系數(shù) ??????????????22222 1111 )YY(eknn)n/()YY()kn(eRiiiiknn)R(R????? 111 22A NOV Ab1 . 8 E + 0 9 4 4 6 0 2 0 5 3 6 5 2 5 2 1 8 0 . 3 . 0 0 0a2 1 8 9 8 . 8 7 12 1 8 2 4 . 9 0 61 . 8 E + 0 9 16R e g r e s s ionR e s id u a lT ot a lMo d e l1S u m ofS q u a r e s df Me a n S q u a r e F S ig .P r e d ic t or s : (C on s t a n t ), 從業(yè)人員（萬人） , 其它收入（億元） , 稅收　（億元） , G D P （億元）a . D e p e n d e n t V a r ia b le : 財政收入（億元）b . M od e l S u m m a r y1 . 0 0 0a1 . 0 0 0 1 . 0 0 0 4 2 . 7 1 8 9 2M o d e l1R R S q u a r eA d j u s t e dR S q u a r eS t d . E r r o r o ft h e E s t im a t eP r e d ict o r s : (C o n s t a n t ), 從業(yè)人員（萬人） , 其它收入（億元） , 稅收?。▋|元） , G D P （億元）a . （ 2）回歸方程的顯著性檢驗（ F檢驗） 回歸方程的顯著性檢驗是對因變量與所有自變量之間的線性關(guān)系是否顯著的一種假設(shè)檢驗。 回歸方程的顯著性檢驗一般采用 F檢驗，利用方差分析的方法進(jìn)行。 回歸方程的顯著性檢驗 F檢驗：檢驗因變量和諸自變量之間是否存在顯著的線性關(guān)系。 檢驗的假設(shè)為： 0320 ???? kH ??? ?：不全為零： )k,j(H j ?321 ??)kn,k(F~)kn(R S S )k(E S SF ????? 11對給定的顯著性水平 ，查 F分布表確定臨界值。 ，拒絕原假設(shè)，說明回歸方程顯著。 ?)kn,k(FF ??? 1?ESS 1?k )k/(ESS 1?)kn(R S S)k(E S SF??? 1RSS kn? )kn/(R SS ?TSS 1?n變差來源 平方和 自由度 方差 F統(tǒng)計量 回 歸 殘 差 總 和 （ 3）回歸系數(shù)的顯著性檢驗（ t檢驗） 所謂回歸系數(shù)的顯著性檢驗，就是根據(jù)樣本估計的結(jié)果對總體回歸系數(shù)的有關(guān)假設(shè)進(jìn)行檢驗。 之所以對回歸系數(shù)進(jìn)行顯著性檢驗，是因為回歸方程的顯著性檢驗只能檢驗所有回歸系數(shù)是否同時與零有顯著性差異，它不能保證回歸方程中不包含不能較好解釋說明因變量變化的自變量。因此，可以通過回歸系數(shù)顯著性檢驗對每個回歸系數(shù)進(jìn)行考察。 回歸參數(shù)顯著性檢驗的基本步驟。 ① 提出假設(shè) ② 計算回歸系數(shù)的 t統(tǒng)計量值 ③ 根據(jù)給定的顯著水平 α 確定臨界值，或者計算 t值所對應(yīng)的 p值 ④ 作出判斷 1. 關(guān)于系數(shù) 的假設(shè) 方差未知情形，檢驗的步驟如下： 1）提出原（零）假設(shè)和備擇假設(shè) 0 :0kH ? ? 1 :0kH ? ? 3）對給定的 a ，查 t分布表確定臨界值 2?t? 2）若成立 ，則 0H ? ~ ( 2 )??()kkt t nSE?????t 4）根據(jù)樣本數(shù)據(jù)計算 5）若 接受 ，認(rèn)為 X 對 Y沒有顯著影響；否則拒絕；反之，拒絕 ，認(rèn)為 X對 Y有顯著影響。 2?tt ?? 0H0H ? 研究問題 合成纖維的強度與其拉伸倍數(shù)有關(guān)，測得試驗數(shù)據(jù)如表 71所示。求合成纖維的強度與拉伸倍數(shù)之間是否存在顯著的線性相關(guān)關(guān)系。 SPSS中實現(xiàn)過程 表 71 強度與拉伸倍數(shù)的試驗數(shù)據(jù) 序 號 拉 伸 倍 數(shù) 強度（ kg/mm2） 1 2 3 4 5 6 7 8 9 10 11 12 ? 實現(xiàn)步驟 圖 71 在菜單中選擇“ Linear”命令 圖 72 “Linear Regression”對話框（一） 【 Dependent框 】 用于選入回歸分析的應(yīng)變量。 【 Block按鈕組 】 由 Previous和 Next兩個按鈕組成，用于將下面Independent框中選入的自變量分組。 【 Independent框 】 用于選入回歸分析的自變量。 【 Method下拉列表 】 用于選擇對自變量的選入方法，有 Enter（強行進(jìn)入法）、 Stepwise（逐步法）、 Remove（強制剔除法）、 Backward（向后法）、 Forward（向前法）五種。該選項對當(dāng)前 Independent框中的所有變量均有效。 【 Selection Variable框 】 選入一個篩選變量，并利用右側(cè)的 Rules鈕建立一個選擇條件，這樣，只有滿足該條件的記錄才會進(jìn)入回歸分析。 【 Case Labels框 】 選擇一個變量，他的取值將作為每條記錄的標(biāo)簽。最典型的情況是使用記錄 ID號的變量。 【 WLS鈕 】 可利用該按鈕進(jìn)行權(quán)重最小二乘法的回歸分析。單擊該按鈕會擴(kuò)展當(dāng)前對話框，出現(xiàn)WLS Weight框，在該框內(nèi)選入權(quán)重變量即可。 圖 73 “Linear Regression： S