【正文】 出估計(jì)值 ； ? 用 SPSS中的 Transform Compute產(chǎn)生新變量 ，即用 原變量 (t)減去 自相關(guān)系數(shù) 乘以 原變量(t1)。 回歸分析中有幾個(gè)變量 ， 就相應(yīng)產(chǎn)生幾個(gè)變量。 ? 對(duì)新變量進(jìn)行回歸 ， 觀察 DW值是否已經(jīng)得到改善。 估計(jì)自相關(guān)系數(shù)的 DW兩步法 ? 若得出 e(t)對(duì) e(t1)的 回歸效果好 ， 則對(duì)因變量 (t1)、 原 自變量及自變量 (t1)進(jìn)行多元回歸分析 ， 找出自相關(guān)系數(shù)。 ? 用自相關(guān)系數(shù)分別重新計(jì)算上一步的自變量和因變量 ， 再對(duì)重新計(jì)算的自變量和因變量進(jìn)行回歸 ， 則效果更好。 人均收入與人均食品支出關(guān)系的散點(diǎn)圖 一元線性回歸模型的設(shè)定 uXY ??? 10 ?? 人均收入與多孩率的散點(diǎn)圖 uXY ??? ln21 ??uZY ??? 21 ??一元線性回歸模型的設(shè)定 uXY ??? 10 ????? ??? xy 10 ??? ： ： xy 10 ??? ?? ??樣本回歸直線 ： XXYE ii 10)/( ?? ??總體回歸直線 ： XY 10 ?? ??即 服從 高斯假設(shè) (1) (2) (3) (4) (5) (6) iu? ? 0?iuE? ? 2uiuV ar ??? ? 0?ji uuE ? ?ji ? jiuuiu? ?2,0 uN ?? ? 0?ji uXE 。 分布。正態(tài)性假設(shè) ； 為隨機(jī)變量 ； 即所有隨機(jī)誤差都具有相同方差 隨機(jī)擾動(dòng)項(xiàng)協(xié)方差等于零 ， 相互獨(dú)立。無序列相關(guān)假設(shè) ； 獨(dú)立性假設(shè)或零均值假設(shè) ； 一元線性回歸模型的求解 ? 最小平方法 m in)( 2 ??? yym i n)??( 210 ???? xy ???????????0?0?10?????????????????????))()??(2(?)1())??(2(?101100xxyxy????????????????????21010????xxxyxny????xy 10 ??? ?? ??普通最小二乘法估計(jì)式 在模型中 ， 代入樣本觀察值之后 ， 可得 ???????????????????????????????????????????????????????nnkkknn uuXXXXYY??????1121221111???uXY ?? ?此式也可用向量、矩陣方式表達(dá)為 式中， X kn??? ),( 21 nYYYY ??? ),( 21 nuuuu ??? ),( 21 k???? ?是 階矩陣 這就是普通最小二乘法估計(jì)系數(shù)的公式。 ?? )?,?,?(? 21 k???? ? ??? XY ? eYY ?? ?eXeYY ???? ????XeXXXYX ??? ?? ??eX ? 0??eX??YXXX ???? 1)(??若估計(jì)出 ， 則有 , 所以 于是有 兩邊左乘 , 得 由幾何解釋 , 故而上式中 , 所以可以求出 如下： 回歸方程的顯著性檢驗(yàn) — F檢驗(yàn) 2/ ??nS S ES S RF? ?? 2)( yySST? ?? 2)?( yySSR0H1H： 回歸方程不顯著 ： 回歸方程顯著 ? ?? 2)?( yySSE： 總離差平方和 ： 剩余平方和 /殘差平方和 ： 回歸離差平方和 判定相關(guān)系數(shù)越接近 1， 表明回歸平方和占總離差平方和的比例越大 ， 用 x的變動(dòng)解釋 y 值變動(dòng)的部分就越多 ， 回歸的效果就越好。 回歸效果的檢驗(yàn) —— 判定相關(guān)系數(shù)檢驗(yàn) ? ?? ???????2222212)()(?1yynxxnS S TS S ES S TS S RR ?12 ?R若全部觀測(cè)值都落在回歸直線上 ， 則 若 x完全無助于解釋 y的變動(dòng) ，則 02 ?R—— F檢驗(yàn) 校正的判定系數(shù) 統(tǒng)計(jì)量 中不含有自由度。所謂 校正的判定系數(shù) 是指 “ 考慮了自由度的判定系數(shù) ” 。其定義如下 ： 2R2R2abjRknnRnykneR abj????????? 1)1(1)1/()/(1 22222abjR剔除了 自由度的影響。 校正的判定系數(shù) Adjusted 式中： 回歸效果的檢驗(yàn) — F檢驗(yàn) 2211/1/RRkknknS S EkS S RF????????kn2R： 樣本容量 ： 自變量的個(gè)數(shù) (含常數(shù)項(xiàng) ) ： 判定系數(shù) 回歸系數(shù)的顯著性檢驗(yàn) — T檢驗(yàn) 0:0 ?jH ? 0:1 ?jH ?jjjt?????? ??)( knt ?～ 成立 ,即 )(2kntt ?? ? 1H j?當(dāng) 時(shí) 顯著異于 0。 針對(duì)回歸系數(shù)的 t 統(tǒng)計(jì)量的顯著性檢驗(yàn)決定了相 應(yīng)的變量能否作為解釋變量進(jìn)入回歸方程。 總體均值的置信區(qū)間 0?Y )))()(1(( 2220010 ??? ? ????XXXXnXNi，? ?????220000)()(1?)/(?XXXXnXYEYTi?～ 用 代替 可以得到統(tǒng)計(jì)量 2?22???nS S RS S T?)2( ?nt～ 回歸系數(shù)的置信區(qū)間 給定一置信水平 區(qū)間 為 水平上的置信區(qū)間。 例 ， 則 即 ? )??),(??( 2/?2/? ???? ???? tknt ????? ???)(??)( ? ????????????????? kntkntp????)??)(??( ???????? tkntP ?? ?????標(biāo)準(zhǔn)化即剔除自變量單位的影響 ， 是指對(duì)變量 標(biāo)準(zhǔn)回歸系數(shù) kXXY , 2 ?進(jìn)行如下處理 ： Yjjjj SYYySXXx ???? ,? ???ijijj XXnS2)(11 ????iiY YYnS2)(11uXXY kk ????? ??? ?221??? ???? kk xxy ?22轉(zhuǎn)化為標(biāo)準(zhǔn)方程 于是 原始方程 ， 式中 ： 多元回歸的高斯假設(shè) (1) 為隨機(jī)向量 u0)( ?uEnuuuEuC o v ??? ? 2)()( ?ji? 0)(),( ?? jiji uuEuuC o v2)( uiuV a r ??),0(~ 2 nuNu ???????????????nknkkXXXXXXX???????2222112111(2) (3) (4) 包括 (5) 0)( ?? uXE 或者 X為確定矩陣 )(,)( nkkX ???XX ?(6)秩 (7)行列式 遠(yuǎn)離零。 應(yīng)當(dāng)滿足 ： 統(tǒng)計(jì)量的值 的顯著性概率 小于等于選定的顯著性水平 的 先進(jìn)入方程 ； 最后一個(gè)進(jìn)入方程的自變量 (即 偏解釋變差 )最大的 變量 ， 進(jìn)入回歸方程。即進(jìn)入的變量與因變量具有最大的 正相關(guān) 或 負(fù)相關(guān)而對(duì) 已解釋變差貢獻(xiàn)大小的判別依據(jù) ， 是包含了偏解釋變差的 F統(tǒng)計(jì)量 的值 。 統(tǒng)計(jì)量 第一種方法 最大 kXX ?,2kXX ?,2jF jF jfjx jxjf p在考慮 y對(duì)已知的一群 變量 回歸時(shí) ， 從變量 中 ， 逐步選出對(duì)已解釋變差的貢獻(xiàn) ? 。 偏解釋變差 ? 偏解釋變差（偏回歸平方和） ： 在一個(gè)回歸方程中 ， 當(dāng)把 xj從自變量的隊(duì)伍中刪除后 ，可得到一組新的回歸系數(shù)的估計(jì)值 ， ? 從而得到 Y新的計(jì)算值 ? 則 原 回歸平方和 與 新 回歸平方和 的 差 就是 xj對(duì)已解釋變差（回歸平方和）的貢獻(xiàn) ， 稱為 xj的 偏解釋變差 （偏回歸平方和）。 kk XXY *2*2*1* ???? ??? ???? ?,?,?,? * 1*2*1 ?j??? ? *1 ?,? kj ?? ??的 在剔除時(shí) ， 其統(tǒng)計(jì)量的值 的顯著性概率 逐步把 最小的 剔除出方程 ， 所有剔除出方程 第二種方法 大于選定的顯著性水平 。 先把 Y對(duì)所有的自變量 回歸 ， 然后 kXX ,2 ?jfjxjxjfp?大于 從而有更少的變量被剔除出方程 ， 防止變量 “ 進(jìn) ”“ 出 ” 方程 ， 陷入死循環(huán)。 更大一些 ， 以便能夠有較少的 的顯著性慨率 的顯著性慨率 所對(duì)照的顯著性水平 則要取得 以便能有更多的 的外側(cè)概率 (顯著性概率 )小于 是一邊進(jìn)、 一邊出。 “ 進(jìn) ” 變量的 的顯著性 概率 所對(duì)應(yīng)的顯著性水平 ， 通常取得大一些 第三種方法 1?jfjfp 1?從而使較多的變量進(jìn)入 方程。而 “ 出 ” 的變量 jfp 2?jfp2?☆ 注意☆ 的變化。 一次處理 ， 會(huì)造成誤判。只有逐步 處理 ， 才是恰當(dāng)?shù)摹? 來決定是否作為 的自變量。 因?yàn)槊刻砑踊?剔除一個(gè)變量都會(huì)引起所有回歸系數(shù)及統(tǒng)計(jì)量的值 的顯著性概率 是否小于等于選定的顯著性水平 jfp? Yjf逐步添加法或逐步剔除法 ， 都應(yīng)當(dāng)強(qiáng)調(diào) “ 逐步 ” ， 不能一次按照各個(gè)變量的統(tǒng)計(jì)量值 ☆ 注意☆