【正文】 第 3章 多元線性回歸模型 “多 元”回歸模型 ? 在現(xiàn)實(shí)的計(jì)量經(jīng)濟(jì)分析中 ， 事實(shí)上影響被解釋變量的因素不止一個(gè) ， 通常會(huì)有多個(gè)影響因素 。 ? 即使我們的分析目的是考察某一個(gè)因素對(duì)被解釋變量的影響 ，但為了得到該因素對(duì)被解釋變量的 “ 凈影響 ” ， 也需要將其他影響因素作為 “ 控制變量 ” ， 使其以顯性形式出現(xiàn)在模型中 ， 以提高模型估計(jì)精度 。 因此 ， 需要建立包含兩個(gè)及以上解釋變量的多元回歸模型 。 基本內(nèi)容 第一節(jié) 多元線性回歸模型的概念（重點(diǎn)） 第二節(jié) 多元線性回歸模型的參數(shù)估計(jì)（掌握） 第三節(jié) 多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn)（掌握） 第四節(jié) 非線性回歸模型（重點(diǎn)） 第五節(jié) 案例 生產(chǎn)函數(shù)的應(yīng)用 本章要點(diǎn) 多元線性回歸模型 多元線性回歸模型的概念 多元線性回歸模型的參數(shù)估計(jì) 多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn) 非線性回歸模型 第一節(jié) 多元線性回歸模型的概念 重點(diǎn)： 第一節(jié) 多元線性回歸模型的概念 一、總體線性回歸模型 二、樣本線性回歸模型 三、多元線性回歸模型的基本假定 多元：含有兩個(gè)以上解釋變量 線性：對(duì)參數(shù)而言線性 如果總體回歸函數(shù)描述了一個(gè)被解釋變量與多個(gè)解釋變量之間的 線性 關(guān)系 ， 由此而設(shè)定的回歸模型就稱為 多元線性回歸模型 。 一、總體線性回歸模型 假定被解釋變量 Y 與 K 個(gè)解釋變量 X1 ，X2， …… Xk存在線性相關(guān)關(guān)系 : （ i=1,2,… ， n） 稱為 總體 線性回歸模型 。 ikikiii uXXXY ????? ???? ?22110一、總體線性回歸模型 其中 : 為截距項(xiàng)，代表排除在模型之外的所有因素對(duì)被解釋變量 Y的平均影響； （ j=1,2… k）為偏回歸系數(shù)，反映了在其它解釋變量保持不變的情況下，解釋變量 Xj變化一個(gè)單位時(shí)，對(duì)被解釋變量 Y的影響程度。 ui為隨機(jī)擾動(dòng)項(xiàng)，因此，對(duì)應(yīng)于解釋變量的每一組觀察值（ X1i， X2i… ， Xki），被解釋變量 Yi的值是隨機(jī)的。 0?j? 多元線性回歸模型的參數(shù)與一元線性回歸模型的參數(shù)有重要區(qū)別 。 在多元線性回歸模型中 ， 解釋變量對(duì)應(yīng)的參數(shù)是偏回歸系數(shù) ， 表達(dá)的是控制其他解釋變量不變的條件下 ， 該解釋變量的單位變動(dòng)對(duì)被解釋變量平均值的 “ 凈影響 ” 。 這個(gè)獨(dú)特性質(zhì)使多元回歸中不但能夠引入多個(gè)解釋變量 ， 而且能夠 “ 分離 ” 出每個(gè)解釋變量對(duì)被解釋變量的影響 。 注意： 總體線性回歸函數(shù) 把被解釋變量 Yi的總體條件期望與解釋變量 X1，X2， … ， Xk存在的線性關(guān)系式 : E（ Y/ X1i， X2i… ， Xki） = 稱為 K元線性總體回歸函數(shù)。 特別的，當(dāng) K=2時(shí)，二元線性總體回歸模型的形式為： 二元線性總體回歸函數(shù)形式為： kikii XXX ???? ???? ?22110iiiii XXXXYE 2211021 )|( ??? ???iiii uXXY ???? 22110 ???第一節(jié) 多元線性回歸模型的概念 一、總體線性回歸模型 二、樣本線性回歸模型 三、多元線性回歸模型的基本假定 二 、樣本線性回歸模型 K元線性樣本回歸函數(shù)表達(dá)式為： 其中， 是總體均值 的估計(jì) 多元線性樣本回歸模型表達(dá)式為： 其中，殘差項(xiàng) ei是隨機(jī)擾動(dòng)項(xiàng) ui的估計(jì)。 kikiii XXXY???? ????? ???? ?22110??iY ),/( 21 kiii XXXYE ?ikikiii eXXXY ?????????? ???? ?22110二 、樣本線性回歸模型 特別地，當(dāng) K=2時(shí)，二元線性樣本回歸函數(shù)為 二元線性樣本回歸模型為： iii XXY 22110 ???? ??? ???iiii eXXY ???? 22110 ??? ???二元線性樣本回歸函數(shù)幾何圖形表示 Y 2X 回歸平面示意圖 第一節(jié) 多元線性回歸模型的概念 一、總體線性回歸模型 二、樣本線性回歸模型 三、多元線性回歸模型的基本假定 三、多元線性回歸模型的基本假定 假定 1：線性回歸模型 ， 或模型是參數(shù)的線性函數(shù) 。 假定 2： X值固定或獨(dú)立于誤差項(xiàng) 。 這意味著隨機(jī)擾動(dòng)項(xiàng)和 每個(gè) X變量之間的協(xié)方差為 0。 假定 3：零均值假定 ， 即干擾項(xiàng)均值為 0。 E（ ui） =0（ i=1， 2， … ， n） 假定 4：同方差假定 ， 即干擾項(xiàng)的方差保持不變 。 i =1,2,… ,n 22 )()( ??? ?? ii EV a r三、多元線性回歸模型的基本假定 假定 5：無(wú)自相關(guān)假定 ， 干擾項(xiàng)之間無(wú)自相關(guān)或序列相關(guān) 。 cov(ui,uj)=0， (i≠j。 i,j=1,2,… n) 假定 6：觀測(cè)次數(shù) n必須大于待估計(jì)參數(shù)個(gè)數(shù) 。 假定 7： X變量值必須存在變異 。 三、多元線性回歸模型的基本假定 另外兩個(gè)要求 假定 8：無(wú)設(shè)定偏誤 ， 模型被正確地設(shè)定 。 假定 9：解釋變量之間不存在完全共線性 ， 沒有精確的線性 關(guān)系 。 無(wú)多重共線性假定： 各解釋變量之間不存在嚴(yán)格的線性關(guān)系 ， 或者說(shuō)各解釋變量之間線性無(wú)關(guān)；亦即解釋變量之間不存在精確的線性關(guān)系 ， 即是說(shuō)不存在一列不全為 0的數(shù) ，能使下式成立： 反之 ， 如果僅當(dāng) ， 上式才成立 ，就說(shuō)變量是線性無(wú)關(guān)的 。 k??? , 21 ?02211 ???? kikii XXX ??? ?三、多元線性回歸模型的基本假定 021 ???? k??? ?注意： 無(wú)多重共線性假定是針對(duì)解釋變量之間的關(guān)系而設(shè)定 ，根本目的是保證模型可以估計(jì) 。 如果解釋變量之間存在完全多重共線性 ， 會(huì)造成數(shù)據(jù)觀測(cè)矩陣 X非列滿秩 ， 模型參數(shù)將無(wú)法估計(jì) 。 在實(shí)際做計(jì)量經(jīng)濟(jì)分析時(shí) ， 很多經(jīng)濟(jì)變量雖然不存在完全的線性關(guān)系 ， 卻通常都存在一定的相關(guān)性 ，不一定滿足多重共線性的假定 ， 模型的估計(jì)可能會(huì)受到影響 。 三、多元線性回歸模型的基本假定 假定 10：正態(tài)性 進(jìn)行假設(shè)檢驗(yàn)時(shí) ， 干擾項(xiàng)服從均值為 0， 方差為 的正態(tài)分布 。 三、多元線性回歸模型的基本假定 2?本章要點(diǎn) 多元線性回歸模型 多元線性回歸模型的概念 多元線性回歸模型的參數(shù)估計(jì) 多元線性回歸模型的統(tǒng)計(jì)檢驗(yàn) 非線性回歸模型 第二節(jié) 多元線性回歸模型的參數(shù)估計(jì) 重點(diǎn)： 第二節(jié) 多元線性回歸模型的參數(shù)估計(jì) 一、多元線性回歸參數(shù)的最小二乘估計(jì) 二、最小二乘估計(jì)量的數(shù)值性質(zhì) 三、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì) 四、參數(shù)的估計(jì)誤差與置信區(qū)間 總體線性回歸模型 樣本線性回歸模型 OLS方法是要選擇未知參數(shù)值，使殘差平方和盡可能小 iiii XXY ????? ?????? kik22110 X?2kik221102 )X????(m i n ?? ?????? ???? ?iiii XXYe 一 、多元線性回歸參數(shù)的最小二乘估計(jì) iiii XXY eX???? kik22110 ?????? ???? ?以二元線性回歸模型為例 做最小二乘估計(jì)： iiii eXXY ???? 22110 ??? ???min)( 22 ??? ?? ? iii YYemin)???( 2221102 ????? ?? iiii XXYe ??? 一 、多元線性回歸參數(shù)的最小二乘估計(jì) OLS要求回歸平面能使 Y與該平面的離差平方和為最小 Y 2X ， 并令所得結(jié)果為零 ， 即得 3個(gè)方程的方程組： min)???( 2221102 ????? ?? iiii XXYe ???0)??(2? 2211002??????????????????? ??iiii XXYe ????0)?(2? 22110112????????? ???????? ???iiiii XXYXe ????0)?(2? 22110222????????? ???????? ???iiiii XXYXe ?????????????????00021iiiiiXeXee ? ? ? ?? ? ? ? ? ?? ? ? ? ? ? )3(?)2(?)1(?22221220112211210122110??????????????????????????YXXXXXYXXXXXYXXiiiiiiiiiiiiiiin????????? 3次，而 X1和 X2 之間不存在線性關(guān)系，則由此正規(guī)方程組，可解得參數(shù)的 OLS估計(jì)式如下： ???????????????????????????????])XX(XX/[)XXYXXYX(?])XX(XX/[)XXYXXYX(????221222121121222212221212221122110iiiiiiiiiiiiiiiiiiiiiiXXY?????，我們導(dǎo)出以下公式： ???????????????????????????????])(/[)(?])(/[)(????221222121121222212221212221122110iiiiiiiiiiiiiiiiiiiiiixxxxxxyxxyxxxxxxxyxxyxXXY?????第二節(jié) 多元線性回歸模型的參數(shù)估計(jì) 一、多元線性回歸參數(shù)的最小二乘估計(jì) 二、最小二乘估計(jì)量的數(shù)值性質(zhì) 三、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì) 四、參數(shù)的估計(jì)誤差與置信區(qū)間 二 、最小二乘估計(jì)量的數(shù)值性質(zhì) ，即 （殘差） ei的均值為零，即 3. Y的估計(jì)值的均值等于 Y的觀測(cè)值均值，即 ，即 cov(Xji,ei)=0 ei與估計(jì)量不相關(guān)，即 cov(ei, )=0 22110 ??? XXY ??? ???YYYE ?? ?? )(0?eiY?第二節(jié) 多元線性回歸模型的參數(shù)估計(jì) 一、多元線性回歸參數(shù)的最小二乘估計(jì) 二、最小二乘估計(jì)量的數(shù)值性質(zhì) 三、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì) 四、參數(shù)的估計(jì)誤差與置信區(qū)間 三、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì) 在古典線性回歸模型的基本假定下 ， 一元線性回歸模型的 OLS估計(jì)量是最優(yōu)線性無(wú)偏估計(jì)量 ， 這個(gè)性質(zhì)對(duì)于多元線性回歸同樣成立 。 221100 )?(E,)?E(,)?(E ?????? ???三、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì) ????????????? ? ? ?? ? ?22i1i22i21i2i1i2121i2222i2120 )xx(xxxxXX2xXxX