【正文】 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 1 第二章 雙變量線性回歸 01Y X u??? ? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 2 回歸分析概述 模型的基本假設(shè) 模型的參數(shù)估計(jì) 模型的統(tǒng)計(jì)檢驗(yàn) 模型的預(yù)測(cè) 實(shí)例 主要內(nèi)容 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 3 回歸分析概述 變量間的關(guān)系及回歸分析的基本概念 總體回歸函數(shù)（ PRF） 隨機(jī)擾動(dòng)項(xiàng) 樣本回歸函數(shù)（ SRF） 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 4 確定性關(guān)系或函數(shù)關(guān)系：研究的是確定 現(xiàn)象非隨機(jī)變量間的關(guān)系。 統(tǒng)計(jì)依賴或相關(guān)關(guān)系：研究的是非確定現(xiàn)象隨機(jī)變量間的關(guān)系。 一、變量間的關(guān)系及回歸分析的基本概念 變量間的關(guān)系包括： ? ? 2,f ??? ? ?圓 面 積 半 徑 半 徑? ?, , ,f?農(nóng) 作 物 產(chǎn) 量 氣 溫 降 雨 量 陽 光 施 肥 量中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 5 對(duì)變量間統(tǒng)計(jì)依賴關(guān)系的考察主要是通過相關(guān)分析 (correlation analysis)或回歸分析(regression analysis)來完成的。 相關(guān)分析對(duì)稱地對(duì)待任何（兩個(gè)）變量，兩個(gè)變量都被看作是隨機(jī)的?；貧w分析對(duì)變量的處理方法存在不對(duì)稱性，即區(qū)分因變量（被解釋變量）和自變量（解釋變量）：前者是隨機(jī)變量，后者不是。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 6 回歸分析的基本概念 回歸分析 (regression analysis)是研究一個(gè)變量關(guān)于另一個(gè)（些）變量的具體依賴關(guān)系的計(jì)算方法和理論。 其目的在于通過后者的已知或設(shè)定值，去估計(jì)和（或）預(yù)測(cè)前者的（總體）均值。 被解釋變量 （ Explained Variable） 或因變量（ Dependent Variable） 。 解釋變量 （ Explanatory Variable） 或自變量（ Independent Variable） 。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 7 回歸分析構(gòu)成計(jì)量經(jīng)濟(jì)學(xué)的方法論基礎(chǔ)，其主要內(nèi)容包括： 根據(jù)樣本觀察值對(duì)經(jīng)濟(jì)計(jì)量模型參數(shù)進(jìn)行估計(jì)，求得回歸方程； 對(duì)回歸方程、參數(shù)估計(jì)值進(jìn)行顯著性檢驗(yàn)； 利用回歸方程進(jìn)行分析、評(píng)價(jià)及預(yù)測(cè) 。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 8 二、總體回歸函數(shù)（ PRF） 回歸分析關(guān)心的是根據(jù)解釋變量的已知或給定值，考察被解釋變量的總體均值，即當(dāng)解釋變量取某個(gè)確定值時(shí)，與之統(tǒng)計(jì)相關(guān)的被解釋變量所有可能出現(xiàn)的對(duì)應(yīng)值的平均值。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 9 例： 一個(gè)假想的社區(qū)有 100戶家庭組成，要研究該社區(qū)每月家庭消費(fèi)支出 Y 與每月家庭可支配收入 X 的關(guān)系。 即如果知道了家庭的月收入，能否預(yù)測(cè)該社區(qū)家庭的平均月消費(fèi)支出水平。 為達(dá)到此目的，將該 100戶家庭劃分為組內(nèi)收入差不多的 10組，以分析每一收入組的家庭消費(fèi)支出。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 10 表 2 . 1 . 1 某社區(qū)家庭每月收入 與消費(fèi)支出統(tǒng)計(jì)表 每月家庭可支配收入 X （ 元 ） 800 1 1 0 0 1400 1700 2022 2300 2600 2900 3200 3500 561 638 869 1023 1254 1408 1650 1969 2090 2299 594 748 913 1 1 0 0 1309 1452 1738 1991 2134 2321 627 814 924 1 1 4 4 1364 1551 1749 2046 2178 2530 638 847 979 1 1 5 5 1397 1595 1804 2068 2266 2629 935 1012 1210 1408 1650 1848 2101 2354 28 60 968 1045 1243 1474 1672 1881 2189 2486 2871 1078 1254 1496 1683 1925 2233 2552 1 1 2 2 1298 1496 1716 1969 2244 2585 1 1 5 5 1331 1562 1749 2022 2299 2640 1 1 8 8 1364 1573 1771 2035 2310 1210 1408 1606 1804 2101 1430 1650 187 0 2 1 1 2 1485 1716 1947 2200 每 月 家 庭 消 費(fèi) 支 出 Y （元） 2022 共計(jì) 2420 4950 1 1 4 9 5 1 6 4 4 5 1 9 3 0 5 2 3 8 7 0 2 5 0 2 5 2 1 4 5 0 2 1 2 8 5 1 5 5 1 0 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 11 由于不確定性因素的影響，對(duì)同一收入水平 X，不同家庭的消費(fèi)支出并不完全相同； 但由于調(diào)查的完備性，給定收入水平 X 的消費(fèi)支出 Y 的分布是確定的，即以 X 的給定值為條件的 Y 的條件分布（ Conditional distribution）是已知的，例如： P(Y=561|X=800） =1/4。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 12 因此，給定收入 X 的值 Xi ，可以得到消費(fèi)支出Y的 條件均值 （ conditional mean） 或 條件期望（ conditional expectation）： E( Y | X = Xi )。 該例中： E(Y | X = 800) = 605 描出散點(diǎn)圖發(fā)現(xiàn)：隨著收入的增加，消費(fèi)“平均地說”也在增加，且 Y 的條件均值均落在一條正斜率的直線上。這條直線稱為 總體回歸線 。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 13 0 500 1000 1500 2022 2500 3000 3500 500 1000 1500 2022 2500 3000 3500 4000 每月可支配收入 X（元） 每 月 消 費(fèi) 支 出 Y（元） 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 14 在給定解釋變量 Xi 條件下被解釋變量 Yi 的期望軌跡稱為 總體回歸線 （ population regression line），或更一般地稱為總體回歸曲線（ population regression curve）。 相應(yīng)的函數(shù)： )()|( ii XfXYE ?稱為（雙變量） 總體回歸函數(shù) （ population regression function, PRF）。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 15 含義：總體回歸函數(shù) （ PRF） 說明被解釋變量 Y 的平均狀態(tài)（總體條件期望）隨解釋變量 X 變化的規(guī)律。 函數(shù)形式：可以是線性或非線性的。 例 子 中，將居民消費(fèi)支出看成是其可支配收入的線性函數(shù)時(shí) : ii XXYE 10)|( ?? ??為一線性函數(shù)。其中， ?0， ?1是未知參數(shù)，稱為回歸系數(shù) （ regression coefficients）。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 16 “線性”一詞的含義（有兩種解釋） 模型就 變量 而言是線性的 01() iiE Y X X???? 01() iiE Y X X????模型就 參數(shù) 而言是線性的 201() iiE Y X X????011()iE Y X X????例 例如： 注：在計(jì)量經(jīng)濟(jì)學(xué)中，從回歸理論的發(fā)展、參數(shù)的估計(jì)方法來說，主要考慮的是模型就參數(shù) 而言是線性的情形。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 17 三、隨機(jī)擾動(dòng)項(xiàng) 總體回歸函數(shù)說明在給定的收入水平 Xi 下，該社區(qū)家庭 平均的 消費(fèi)支出水平。 但對(duì)某一個(gè)別的家庭，其消費(fèi)支出可能與該平均水平存在偏差。 稱為觀察值圍繞它的期望值的 離差（ deviation），它是一個(gè)不可觀測(cè)的隨機(jī)變量，又稱為 隨機(jī)擾動(dòng)項(xiàng) （ stochastic disturbance）或 隨機(jī)誤差項(xiàng)（ stochastic error）。 ()i i iu Y E Y X??中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 18 上例中，給定收入水平 Xi ,個(gè)別家庭的支出可表示為兩部分之和： 該收入水平下所有家庭的平均消費(fèi)支出 E(Y | Xi)，稱為系統(tǒng)性（ systematic）或確定性（ deterministic)部分； 其他隨機(jī)或非確定性（ nonsystematic)部分為 ui 。 稱為總體回歸函數(shù)（ PRF）的隨機(jī)設(shè)定形式。表明被解釋變量除了受解釋變量的系統(tǒng)性影響外，還受其他因素的隨機(jī)性影響。由于方程中引入了隨機(jī)項(xiàng)，成為計(jì)量經(jīng)濟(jì)學(xué)模型，因此也稱為總體回歸模型。 01()i i i i iY E Y X u X u??? ? ? ? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 19 隨機(jī)誤差項(xiàng)的意義 理論的模糊性 數(shù)據(jù)的欠缺 核心變量與周邊變量 人類行為的內(nèi)在隨機(jī)性 糟糕的替代變量 節(jié)省原則 （ Occam’s razor） 錯(cuò)誤的函數(shù)形式 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 20 表 2 . 1 . 3 家庭消費(fèi)支出與可支 配收入的一個(gè)隨機(jī)樣本 Y 8 00 1 1 0 0 1400 1700 2022 2300 2600 2900 3200 3500 X 594 638 1 1 2 2 1 1 5 5 1408 1595 1969 2078 2585 2530 四、樣本回歸函數(shù) （ SRF） 問題： 是否能從一次抽樣中獲得總體的近似的信息？如果可以，如何從抽樣中獲得總體的近似信息？ 例： 在上例的總體中有如下一個(gè)樣本，能否從該樣本估計(jì)總體回歸函數(shù) PRF？ 回答：能 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 21 該樣本的散點(diǎn)圖（ scatter diagram)如下： 畫一條直線以盡好地?cái)M合該散點(diǎn)圖，由于樣本取自總體，可以將該直線近似地代表總體回歸線。該直線稱為 樣本回歸線（ sample regression lines）。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 22 樣本回歸線可以看成總體回歸線的近似替代。 樣本回歸線的函數(shù)形式為： 即為 樣本回歸函數(shù) （ sample regression function，SRF）。 iii XXfY 10 ??)(? ?? ??? 為 E(Y |Xi ) 的估計(jì)量； 為 ?i 的估計(jì)量， (i = 0,1)。 iY?i??01() i i iiiY E Y X uXu????? ? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 23 樣本回歸函數(shù)的隨機(jī)形式 /樣本回歸模型： 同樣地，樣本回歸函數(shù)也有如下的隨機(jī)形式： 由于方程中引入了隨機(jī)項(xiàng)，成為計(jì)量經(jīng)濟(jì)模型，因此也稱為 樣本回歸模型 （ sample regression model） 。 ?iiuu樣 本 殘 差 或 剩 余 項(xiàng) （ residual ） ，也 可 看 成 是 的 估 計(jì) 量 。01? ?? ?i i i i iY Y u X e??? ? ? ? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 24 回歸分析的主要目的：根據(jù)樣本回歸函數(shù) SRF， 估計(jì)總體回歸函數(shù) PRF。 即，根據(jù) iiiii eXeYY ????? 10 ??? ??估計(jì) 01( | )i i i i iY E Y X u X u??? ? ? ? ?SR F?PR F ( 0 , 1 )( 0 , 1)iiii????這 就 要 求 我 們 必 須 找 到 合 適 的 方 法 使 得盡 可 能 地 接 近 ， 或 者 說 使 盡 可 能 接近 。中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 25 模型的基本假設(shè) 仍以家庭收入 X與消費(fèi)支出 Y之間的關(guān)系為例，每個(gè)家庭的消費(fèi)支出 Y主要取決于該家庭的收入 X，但是也受其他因素的影響。 ?高收入家庭，消費(fèi)支出的離散性比較大 (方差較大 ) ?低收入家庭，消費(fèi)支出的離散性比較小 (方差較小 ) 通常，消費(fèi)支出 Y 的分布函數(shù)是多種多樣的，不一定是正態(tài)分布，也不一定是相同的分布。分布函數(shù)的方