【正文】 第 3章 多元線性回歸模型 “多 元”回歸模型 ? 在現(xiàn)實的計量經(jīng)濟分析中 ， 事實上影響被解釋變量的因素不止一個 ， 通常會有多個影響因素 。 ? 即使我們的分析目的是考察某一個因素對被解釋變量的影響 ，但為了得到該因素對被解釋變量的 “ 凈影響 ” ， 也需要將其他影響因素作為 “ 控制變量 ” ， 使其以顯性形式出現(xiàn)在模型中 ， 以提高模型估計精度 。 因此 ， 需要建立包含兩個及以上解釋變量的多元回歸模型 。 基本內(nèi)容 第一節(jié) 多元線性回歸模型的概念（重點） 第二節(jié) 多元線性回歸模型的參數(shù)估計（掌握） 第三節(jié) 多元線性回歸模型的統(tǒng)計檢驗（掌握） 第四節(jié) 非線性回歸模型（重點） 第五節(jié) 案例 生產(chǎn)函數(shù)的應(yīng)用 本章要點 多元線性回歸模型 多元線性回歸模型的概念 多元線性回歸模型的參數(shù)估計 多元線性回歸模型的統(tǒng)計檢驗 非線性回歸模型 第一節(jié) 多元線性回歸模型的概念 重點： 第一節(jié) 多元線性回歸模型的概念 一、總體線性回歸模型 二、樣本線性回歸模型 三、多元線性回歸模型的基本假定 多元：含有兩個以上解釋變量 線性：對參數(shù)而言線性 如果總體回歸函數(shù)描述了一個被解釋變量與多個解釋變量之間的 線性 關(guān)系 ， 由此而設(shè)定的回歸模型就稱為 多元線性回歸模型 。 一、總體線性回歸模型 假定被解釋變量 Y 與 K 個解釋變量 X1 ，X2， …… Xk存在線性相關(guān)關(guān)系 : （ i=1,2,… ， n） 稱為 總體 線性回歸模型 。 ikikiii uXXXY ????? ???? ?22110一、總體線性回歸模型 其中 : 為截距項，代表排除在模型之外的所有因素對被解釋變量 Y的平均影響； （ j=1,2… k）為偏回歸系數(shù)，反映了在其它解釋變量保持不變的情況下，解釋變量 Xj變化一個單位時，對被解釋變量 Y的影響程度。 ui為隨機擾動項，因此，對應(yīng)于解釋變量的每一組觀察值（ X1i， X2i… ， Xki），被解釋變量 Yi的值是隨機的。 0?j? 多元線性回歸模型的參數(shù)與一元線性回歸模型的參數(shù)有重要區(qū)別 。 在多元線性回歸模型中 ， 解釋變量對應(yīng)的參數(shù)是偏回歸系數(shù) ， 表達的是控制其他解釋變量不變的條件下 ， 該解釋變量的單位變動對被解釋變量平均值的 “ 凈影響 ” 。 這個獨特性質(zhì)使多元回歸中不但能夠引入多個解釋變量 ， 而且能夠 “ 分離 ” 出每個解釋變量對被解釋變量的影響 。 注意： 總體線性回歸函數(shù) 把被解釋變量 Yi的總體條件期望與解釋變量 X1，X2， … ， Xk存在的線性關(guān)系式 : E（ Y/ X1i， X2i… ， Xki） = 稱為 K元線性總體回歸函數(shù)。 特別的，當(dāng) K=2時，二元線性總體回歸模型的形式為： 二元線性總體回歸函數(shù)形式為： kikii XXX ???? ???? ?22110iiiii XXXXYE 2211021 )|( ??? ???iiii uXXY ???? 22110 ???第一節(jié) 多元線性回歸模型的概念 一、總體線性回歸模型 二、樣本線性回歸模型 三、多元線性回歸模型的基本假定 二 、樣本線性回歸模型 K元線性樣本回歸函數(shù)表達式為： 其中， 是總體均值 的估計 多元線性樣本回歸模型表達式為： 其中，殘差項 ei是隨機擾動項 ui的估計。 kikiii XXXY???? ????? ???? ?22110??iY ),/( 21 kiii XXXYE ?ikikiii eXXXY ?????????? ???? ?22110二 、樣本線性回歸模型 特別地，當(dāng) K=2時，二元線性樣本回歸函數(shù)為 二元線性樣本回歸模型為： iii XXY 22110 ???? ??? ???iiii eXXY ???? 22110 ??? ???二元線性樣本回歸函數(shù)幾何圖形表示 Y 2X 回歸平面示意圖 第一節(jié) 多元線性回歸模型的概念 一、總體線性回歸模型 二、樣本線性回歸模型 三、多元線性回歸模型的基本假定 三、多元線性回歸模型的基本假定 假定 1：線性回歸模型 ， 或模型是參數(shù)的線性函數(shù) 。 假定 2： X值固定或獨立于誤差項 。 這意味著隨機擾動項和 每個 X變量之間的協(xié)方差為 0。 假定 3：零均值假定 ， 即干擾項均值為 0。 E（ ui） =0（ i=1， 2， … ， n） 假定 4：同方差假定 ， 即干擾項的方差保持不變 。 i =1,2,… ,n 22 )()( ??? ?? ii EV a r三、多元線性回歸模型的基本假定 假定 5：無自相關(guān)假定 ， 干擾項之間無自相關(guān)或序列相關(guān) 。 cov(ui,uj)=0， (i≠j。 i,j=1,2,… n) 假定 6：觀測次數(shù) n必須大于待估計參數(shù)個數(shù) 。 假定 7： X變量值必須存在變異 。 三、多元線性回歸模型的基本假定 另外兩個要求 假定 8：無設(shè)定偏誤 ， 模型被正確地設(shè)定 。 假定 9：解釋變量之間不存在完全共線性 ， 沒有精確的線性 關(guān)系 。 無多重共線性假定： 各解釋變量之間不存在嚴(yán)格的線性關(guān)系 ， 或者說各解釋變量之間線性無關(guān)；亦即解釋變量之間不存在精確的線性關(guān)系 ， 即是說不存在一列不全為 0的數(shù) ，能使下式成立： 反之 ， 如果僅當(dāng) ， 上式才成立 ，就說變量是線性無關(guān)的 。 k??? , 21 ?02211 ???? kikii XXX ??? ?三、多元線性回歸模型的基本假定 021 ???? k??? ?注意： 無多重共線性假定是針對解釋變量之間的關(guān)系而設(shè)定 ，根本目的是保證模型可以估計 。 如果解釋變量之間存在完全多重共線性 ， 會造成數(shù)據(jù)觀測矩陣 X非列滿秩 ， 模型參數(shù)將無法估計 。 在實際做計量經(jīng)濟分析時 ， 很多經(jīng)濟變量雖然不存在完全的線性關(guān)系 ， 卻通常都存在一定的相關(guān)性 ，不一定滿足多重共線性的假定 ， 模型的估計可能會受到影響 。 三、多元線性回歸模型的基本假定 假定 10：正態(tài)性 進行假設(shè)檢驗時 ， 干擾項服從均值為 0， 方差為 的正態(tài)分布 。 三、多元線性回歸模型的基本假定 2?本章要點 多元線性回歸模型 多元線性回歸模型的概念 多元線性回歸模型的參數(shù)估計 多元線性回歸模型的統(tǒng)計檢驗 非線性回歸模型 第二節(jié) 多元線性回歸模型的參數(shù)估計 重點： 第二節(jié) 多元線性回歸模型的參數(shù)估計 一、多元線性回歸參數(shù)的最小二乘估計 二、最小二乘估計量的數(shù)值性質(zhì) 三、最小二乘估計量的統(tǒng)計性質(zhì) 四、參數(shù)的估計誤差與置信區(qū)間 總體線性回歸模型 樣本線性回歸模型 OLS方法是要選擇未知參數(shù)值，使殘差平方和盡可能小 iiii XXY ????? ?????? kik22110 X?2kik221102 )X????(m i n ?? ?????? ???? ?iiii XXYe 一 、多元線性回歸參數(shù)的最小二乘估計 iiii XXY eX???? kik22110 ?????? ???? ?以二元線性回歸模型為例 做最小二乘估計： iiii eXXY ???? 22110 ??? ???min)( 22 ??? ?? ? iii YYemin)???( 2221102 ????? ?? iiii XXYe ??? 一 、多元線性回歸參數(shù)的最小二乘估計 OLS要求回歸平面能使 Y與該平面的離差平方和為最小 Y 2X ， 并令所得結(jié)果為零 ， 即得 3個方程的方程組： min)???( 2221102 ????? ?? iiii XXYe ???0)??(2? 2211002??????????????????? ??iiii XXYe ????0)?(2? 22110112????????? ???????? ???iiiii XXYXe ????0)?(2? 22110222????????? ???????? ???iiiii XXYXe ?????????????????00021iiiiiXeXee ? ? ? ?? ? ? ? ? ?? ? ? ? ? ? )3(?)2(?)1(?22221220112211210122110??????????????????????????YXXXXXYXXXXXYXXiiiiiiiiiiiiiiin????????? 3次，而 X1和 X2 之間不存在線性關(guān)系，則由此正規(guī)方程組，可解得參數(shù)的 OLS估計式如下： ???????????????????????????????])XX(XX/[)XXYXXYX(?])XX(XX/[)XXYXXYX(????221222121121222212221212221122110iiiiiiiiiiiiiiiiiiiiiiXXY?????，我們導(dǎo)出以下公式： ???????????????????????????????])(/[)(?])(/[)(????221222121121222212221212221122110iiiiiiiiiiiiiiiiiiiiiixxxxxxyxxyxxxxxxxyxxyxXXY?????第二節(jié) 多元線性回歸模型的參數(shù)估計 一、多元線性回歸參數(shù)的最小二乘估計 二、最小二乘估計量的數(shù)值性質(zhì) 三、最小二乘估計量的統(tǒng)計性質(zhì) 四、參數(shù)的估計誤差與置信區(qū)間 二 、最小二乘估計量的數(shù)值性質(zhì) ，即 （殘差） ei的均值為零，即 3. Y的估計值的均值等于 Y的觀測值均值，即 ，即 cov(Xji,ei)=0 ei與估計量不相關(guān)，即 cov(ei, )=0 22110 ??? XXY ??? ???YYYE ?? ?? )(0?eiY?第二節(jié) 多元線性回歸模型的參數(shù)估計 一、多元線性回歸參數(shù)的最小二乘估計 二、最小二乘估計量的數(shù)值性質(zhì) 三、最小二乘估計量的統(tǒng)計性質(zhì) 四、參數(shù)的估計誤差與置信區(qū)間 三、最小二乘估計量的統(tǒng)計性質(zhì) 在古典線性回歸模型的基本假定下 ， 一元線性回歸模型的 OLS估計量是最優(yōu)線性無偏估計量 ， 這個性質(zhì)對于多元線性回歸同樣成立 。 221100 )?(E,)?E(,)?(E ?????? ???三、最小二乘估計量的統(tǒng)計性質(zhì) ????????????? ? ? ?? ? ?22i1i22i21i2i1i2121i2222i2120 )xx(xxxxXX2xXxX