【正文】 多元線性回歸分析 (new) ? 167。 相關(guān)分析 ? 167。 多元線性回歸模型的預(yù)測 ? Ch7 相關(guān)與回歸分析 ? 167。 多元線性回歸模型的估計 ? 167。 多元線性回歸分析 ? 167。 ? Ch7 相關(guān)與回歸分析 ? 167。 中點 ?0隨 X0線性地變化；其長度在處最短； X0越遠離 ， 長度就越長 。 t ?/2 (n2) Se0， () ? 式中 ， t?/2 (n2)是置信度為 1 ?、 自由度為 n2的 t分布的臨界值 。 Se0}=1 ?， () ? 于是可以得出 Y0的 1 ?的置信區(qū)間為 ? ?0t?/2 (n2) 如果用 Se0來表示預(yù)測的標準誤差的估計值 ， ? () ? 數(shù)學(xué)上可以證明 ? (Y0?0)/Se0 ~ t(n2) () ? 對于給定的置信度為 1 ?， 有 ? Pro{?0 t ?/2 (n2) 一元線性回歸分析 0022110210021000)?()?()??()(?uXXuXYYe????????????????????))(11()(0)(20200XXLXXneV a reE??????? 167。 利用期望值與方差的運算規(guī)則 ， 以及前面給出的回歸系數(shù)最小二乘估計量的期望值與方差 ， 可以證明 ? () ? 在此基礎(chǔ)上 ， 可以證明 ， ?0是 Y0的最優(yōu)線性無偏估計預(yù)測 ， 即在高斯假定得到滿足的條件下 ， () 式就是 Y0的最佳預(yù)測方式 。 一元線性回歸分析 0210 ??? XY ?? ??2?2? 21, ?? ?? 167。 因此 ， 在下面的討論中 ， 假定只存在 ⑴ 、 ⑵ 、 兩種誤差 。 ? ⑷ 未來時期 ?1， ? 2發(fā)生變化所造成的誤差 。 這個方差值的大小 ， 通常用來衡量模型的穩(wěn)定性 。 ? ⑵ 回歸系數(shù)的估計值同其真值不一致所造成的誤差 。 這個誤差的來源 ， 一般可以概括為以下四個方面： ? ⑴ 模型結(jié)構(gòu)誤差所造成的誤差 。 ? 預(yù)測誤差 ? ?0是根據(jù)樣本回歸方程計算的 ， 它是樣本觀察值的函數(shù) ， 因而也是一隨機變量 。 當給出 X0屬于樣本之外的數(shù)值時 ，利用 ()式計算 ?0稱為外推預(yù)測或者事前預(yù)測 。 回歸預(yù)測是一種有條件的預(yù)測 ， 在進行預(yù)測時 ， 必須先給出 X0的具體數(shù)值 。 一元線性回歸分析 圖 76 消費函數(shù)殘差序列 et圖 1 15 2 t 10 16 3 4 5 6 7 8 9 et 6 12 11 13 14 17 殘差變動趨勢 18 19 20 4 2 0 2 4 6 返回 167。 ? 對于 n=20， 包括常數(shù)項在內(nèi)的自變量個數(shù) k=2， 查 DW統(tǒng)計量 d表 ， 在 ?=5%顯著水平上 ， 得 dL= dU=， 因為 d= dL= dU= ， 故不能做出是否存在自相關(guān)的決定 。 誤差項 ｕ t的自相關(guān)檢驗 ? 【 例 77】 利用例 7 例 7 例 76的有關(guān)數(shù)據(jù) ， 試對消費與可支配收入的回歸估計方程進行 DW雙側(cè)檢驗 。 一元線性回歸分析 不確定區(qū)域→ 不確定區(qū)域→ 圖 7－ 5 DurbinWaston 統(tǒng)計 f(d) d 拒絕 H0 ，存在正自相關(guān) 0 H0： ρ e=0, H1： ρ e≠0。 根據(jù) ?， 查 d統(tǒng)計量表求臨界值 dL?/2， dU?/2， 若ddL?/2或者 d4dU?/2， 拒絕 H0選擇 H1存在自相關(guān)；若 dU?/2d4dU?/2， 則接受 H0， 表示不存在自相關(guān)；如果 dL?/2ddU?/2， 或者 4dL?/2d4dU?/2， 檢驗結(jié)果不確定 。 ? ⑵ 計算樣本殘差 ｅ t， 計算() 式 d統(tǒng)計量 。 拒絕 H0 ，存在負自相關(guān) 2 4 不拒絕 H0 dL dU 4dL 4dU 167。 ? Ch7 相關(guān)與回歸分析 ? 167。 誤差項 ｕ t的自相關(guān)檢驗 ? 為了進一步判定在各種情況下 ， 是否存在正的或負的自相關(guān)的問題 ，DurbinWaston對任意的樣本容量 n和多達 5個解釋變量的情形 ， 給出了d的分布及 d的兩個值 dL（ 下界 ） 和 dU（ 上界 ） 。 ? Ch7 相關(guān)與回歸分析 ? 167。 利用 ()式 ， 可以把 () 式寫成 ? () ? d的變化范圍為 0到 4。 一元線性回歸分析 ??????????????? ????? nttntttnttnttnttnttteeeeeeeed12212212212221 2)(??nt te2 2)1(21221??????? nttnttteeed?? ?nt te2 21?? ? ?? ? nt tnt t ee 2 2 12 2 167。 ? DW檢驗法的統(tǒng)計量 d定義為 ? () ? 其中 n代表樣本大小 。 誤差項 ｕ t的自相關(guān)檢驗 ? DW檢驗 ? DW檢驗 ， 也叫德賓 —沃森檢驗法 (DurbinWaston test)。 ? Ch7 相關(guān)與回歸分析 ? 167。 利用符號檢驗方法 ， 可以判斷 ， 如果連串過少 ， 就表明有正的自相關(guān)；如果連串過多 ， 就表明有負的自相關(guān) 。 誤差項 ｕ t的自相關(guān)檢驗 ? 符號分析 ? 順序記下 LS回歸中殘差 ｅ t=Yt–?t的符號 ， 如果殘差 ｅ t 0， 則記為“ +”， 若殘差 ｅ t 0， 則為 “ ?” ， 如此一個殘差序列 ｅ t, t=1,2,3,… ,n便可獲得一個符號序列 ， 比如 ? “ ++?+????++?++? ?”， ? 符號序列中 ， 連續(xù)同號的符號串 ， 稱為一個游程或者一個連串 ， 一個游程中符號的個數(shù) ， 叫做游程的長度 。 誤差項 ｕ t的自相關(guān)檢驗 ? 圖解法 ? Ch7 相關(guān)與回歸分析 ? 167。 ? Ch7 相關(guān)與回歸分析 ? 167。ts ；如果散布圖有一種異號殘差相隨的傾向 ， 就表明存在負相關(guān) E(ｕ tｕ s )0。如果散布圖表現(xiàn)如圖 74， 就可以推測其中存在自相關(guān)；如果表現(xiàn)不是這樣 ， 也許可以認定為不存在自相關(guān) 。 因此 ，考察 ｅ t可以揭示有關(guān) ｕ t序列相關(guān)的線索 。 誤差項 ｕ t的自相關(guān)檢驗 ? 圖解法 ? 雖然 ｕ t是總體誤差 ， ｅ t是樣本誤差 ， ｕ t和 ｅ t不是同一回事 ， 但它們是有關(guān)的 。 ? Ch7 相關(guān)與回歸分析 ? 167。 ? E (ｕ t1ｕ t ) =E (ｕ tｕ t+1 ) =ρe () ? 如果誤差項 ｕ t存在自相關(guān) ， 則 ()式 ， 便不能反映變量之間真正的依存關(guān)系 ， 其用最小二乘法所做的回歸估計 ， 便是一個無效的估計 ， 因此必須對 ｕ t的獨立性進行檢驗 。 ts。 且 E (?t ? s )=0。 ? 如果進一步有 ? ｕ t=ρeｕ t1 +?t。 t≠s。 一元線性回歸分析 222 ?2?2?22 ?0?????????SSSt ?????2?2?2? 22 12?0??222 ????????? ???????? nSSSt ?返回 167。 由于 t~ t(n2)， 可以證明 ， t2= F~ F(1,n2)， 于是在一元線性回歸模型中 ， 對 ?2的 t檢驗和對 LYY的解釋平方和做 F檢驗也是完全等效的 。 根據(jù) ?和自由度 n2， 求 t分布的臨界值 t?/2， 若 |t|≦ t?/2， 接受零假設(shè) H0， 表示 Y, X之間相關(guān)不顯著；若|t|t ?/2， 拒絕零假設(shè) H0， 表示 Y, X之間相關(guān)顯著 。 一元線性回歸模型的檢驗 ? 以 ?2的檢驗為例 ， 其回歸系數(shù)的顯著性檢驗步驟： ? ⑴ 作統(tǒng)計假設(shè) ? 零假設(shè) H0： ?2=0， 備擇假設(shè) H1： ?2≠0。 ? Ch7 相關(guān)與回歸分析 ? 167。 用 代表 的估計值 ， 數(shù)學(xué)上可以證明 ， 當樣本為小樣本時 ， 有 ? () ? 利用以上結(jié)論 ， 就可以對回歸系數(shù)進行顯著性檢驗 。 有 ? () ? 其中 ? 在總體方差 ?2已知的情況下 ， 可利用 Z檢驗方法 ， 對回歸系數(shù)進行假設(shè)檢驗 。 一元線性回歸分析 21 ?,? ?? 167。 為了進行檢驗 ， 必須了解 的概率分布 。 因此 ，這里只介紹對回歸系數(shù)的顯著性檢驗 ， 而對整個回歸方程的顯著性檢驗 ， 在下一節(jié)介紹 。 ? 通常前者采用 t檢驗 ， 后者則是在方差分析的基礎(chǔ)上 ， 進行 F檢驗 。 一元線性回歸分析 167。 所以 ， 一個更根本的問題是： γ≠0是否表示 X和 Y真正相關(guān) ρ≠0？ 回答這個問題的統(tǒng)計方法是問： γ2或 γ是否顯著地異于 0？ 這就需要進行顯著性檢驗 。 ? 注意：雖然 γ2給出了一個回歸的好壞 、 適與不適的程度 ， 但不能說只有 γ2=0時才表明 X完全不能解釋 Y。 ? ⑵ γ2是 樣本觀察值 (Yt, X t)的函數(shù) ， 它也是一統(tǒng)計量； ? ⑶ γ2的開平方根為樣本相關(guān)系數(shù) γ。 一元線性回歸模型的檢驗 ? 可決系數(shù) γ2， 是對回歸模型擬合程度的綜合度量指標 ， γ2越大 ， 模型擬合程度越高； γ2越小 ， 模型擬合程度越差 。 因此 ， 可定義這一比例為可決系數(shù) ? () ? Ch7 相關(guān)與回歸分析 ? 167。 一元線性回歸模型的檢驗 ? 由于 ? () ? LYY是實際觀察值與其樣本均值的總的離差平方和 ， SSR是由回歸直線解釋的那部分離差平方和 ， 稱為回歸平方和 ， SSE是殘差平方和 ， 是用回歸直線無法解釋的部分離差平方和 。 ? Ch7 相關(guān)與回歸分析 ? 167。 一級檢驗 ， 是所有回歸分析必須通過的檢驗 。 ? 理論意義檢驗 ， 主要涉及參數(shù)估計值的符號和取值區(qū)間 ，如果它們與實質(zhì)性科學(xué)的理論及其人們的經(jīng)驗不相符 ， 就說明模型不能很好地解釋現(xiàn)實的現(xiàn)象 。 一元線性回歸分析 XYYYnt ttnt tnt tnt tLLYXYYe 212111212 ?)(?? ??? ????? ?????????返回 167。 ? 上述結(jié)果如果用 Excel軟件計算將更為簡單。Y)=3166305, ? ?(ｅ 2)= ?(Y2) ?(Y) ?(X 一元線性回歸模型的估計 ? 【 例 76】 利用例 7 例 75的有關(guān)數(shù)據(jù) ， 計算其消費對可支配收入回歸估計方程的回歸估計標準誤差 。0)??(2?0。 ? Ch7 相關(guān)與回歸分析 ? 167。 ? S越小 ， 表明實際觀測點與所擬的樣本回歸線的離差程度越小 ， 即回歸線具有較強的代表性；反之 ， S越大 ， 表明實際觀測點與所擬合的樣本回歸的離差程