【正文】 ),0( 2?Ntu12 二 ． 最小二乘估計 我們的模型是： t=1,2,… n 問題是選擇 ， 使得殘差平方和最小 。 上述假設條件可用矩陣表示為以下四個條件： 10 A1. E(u)=0 A2. 由于 顯然 ， 僅當 E(ui uj)=0 , i≠j E(ut2) = σ2, t=1,2,… ,n 這兩個條件成立時才成立 ， 因此 ， 此條件相當前面條件(2), (3)兩條 ， 即各期擾動項互不相關 ， 并具有常數(shù)方差 。 即觀測值的數(shù)目要大于待估計的參數(shù)的個數(shù) （ 要有足夠數(shù)量的數(shù)據(jù)來擬合回歸線 ） 。 下面給出普通最小二乘法應用于多元線性回歸模型的假設條件 、 估計結(jié)果及所得到的估計量的性質(zhì) 。 當然 ， 計算要復雜得多 ， 通常要借助計算機 。 在下面的模型中： 這里 ， β 是可支配收入對消費額的總影響 ， 顯然 β 和 β 2的 含義是不同的 。 收入變動對消費額的總影響 =直接影響 +間接影響 。 收入不變的情況下 ， 價格指數(shù)每上升一個點 ， 食品消費支出減少 （ billion） 5 例 2： 其中 ， Ct=消費 ， Dt=居民可支配收入 Lt=居民擁有的流動資產(chǎn)水平 β 2的含義是 ， 在流動資產(chǎn)不變的情況下 ， 可支配收入變動一個單位對消費額的影響 。 這里 ， “ 斜率 ” β j的含義是 其它變量不變的情況下 ， Xj改變一個單位對因變量所產(chǎn)生的影響 。1 第四章 多元線性回歸模型 2 第一節(jié) 多元線性回歸模型的概念 在許多實際問題中 ， 我們所研究的因變量的變動可能不僅與一個解釋變量有關 。 因此 ， 有必要考慮線性模型的更一般形式 ， 即多元線性回歸模型： t=1,2,… ,n 在這個模型中 ， Y由 X X X … XK所解釋 ，有 K+1個未知參數(shù) β 0、 β β … β K 。 tktkttt XXXY uβ...βββ 22110 ??????3 例 1： 其中 ， Y=在食品上的總支出 X=個人可支配收入 P=食品價格指數(shù) 用美國 19591983年的數(shù)據(jù) ， 得到如下回歸結(jié)果 （ 括號中數(shù)字為標準誤差 ） ： uβββ 210 ???? PXY)()()( 2 ???? RPXY），（數(shù)總消費支出價格平減指 食品價格平減指數(shù) 1001 9 7 2100 ???PY和 X的計量單位為 10億美元 (按 1972不變價格計算 ). 4 多元線性回歸模型中斜率系數(shù)的含義 上例中斜率系數(shù)的含義說明如下： 價格不變的情況下 ， 個人可支配收入每上升 10億美元 （ 1個 billion） ， 食品消費支出增加 元 （ billion） 。 這是收入對消費額的直接影響 。 （ 間接影響：收入影響流動資產(chǎn)擁有量 ?影響消費額 ） 但在模型中這種間接影響應歸因于流動資產(chǎn) ， 而不是收入， 因而 ， β 2只包括收入的直接影響 。 tttt uLDC ???? 321 βββntuDC ttt ,...,2,1, ???? ??6 回到一般模型 t=1,2,… ， n 即對于 n組觀測值 ， 有 tktkttt XXXY uβ...βββ 22110 ??????nKnKnnnnKKKKuXXXXYuXXXXYuXXXXY?????????????????????β...ββββ......β...βββββ...ββββ3322110223232221210211313212111017 其矩陣形式為： 其中 ???????????????nYYYY...21?????????????KnnKKXXXXXXX...1...............1...11212111uXY ?? ?????????????????????????????????nKuuuu...,...21210?????8 第二節(jié) 多元線性回歸模型的估計 多元線性回歸模型的估計與雙變量線性模型類似 ， 仍采用OLS法 。 理論推導需借助矩陣代數(shù) 。 一 ． 假設條件 （ 1） E(ut)=0, t=1,2,… ,n （ 2） E(ui uj)=0, i≠j （ 3） E(ut2)=σ2, t=1,2,…,n （ 4） Xjt是非隨機量， j=1,2, … k t=1,2, … n 9 除上面 4條外 ， 在多個解釋變量的情況下 ， 還有兩個條件需要滿足： （ 5） （ K+1） n。 （ 6） 各解釋變量之間不存在嚴格的線性關系 。 ? ????????????????????????????????22122212121212121.........................................................nnnnnnn uuuuuuuuuuuuuuuuuuuuuuunIuuE 2)( ???nIuuE 2)( ???11 A3. X 是一個非隨機元素矩陣 。 殘差為： k??? ?, . . . . ,?,? 100 1 1?? ? ?....t t tt t K Kte Y YY X X? ? ???? ? ? ? ?0 1 1 2 2 . . . ut t t k k t tY X X X? ? ? ?? ? ? ? ? ?13 要使殘差平方和 為最小 ， 則應有： 我們得到如下 K+1個方程 （ 即正規(guī)方程 ） ： ? ? 22 0 1 1? ? ?...t t t K K tS e Y X X? ? ?? ? ? ? ? ???0?...,0?,0?10?????????KSSS???14 按矩陣形式，上述方程組可表示為： ???????????????????????????????????????????????tktKtKtktktttKttKtttttKttKtttKtKtYXXXXXYXXXXXXYXXXXXYXXn211022121201121110110β......ββ........................β......βββ......βββ......ββ15 = )39。X Y即 YXXX 39。( ????????????????????????2112111.....................KttKtKtKttttKttXXXXXXXXXXn?????????????????Kβ...ββ10????????????????????????nKnKKnYYYXXXXXX.....................1...11212111211YXXX ??? ?? 1)(β16 YXXX ??? ?? 1)(β三 . 最小二乘估計量 的性質(zhì) 我們的模型為 估計式為 1． 的均值 ?β?β?? β? XYuXY ?? ?)uβ()( 1 ???? ? XXXXu)(β)( 11 XXXXXXX ?????? ??u)(β 1 XXX ???? ?17 （ 由假設 3） (由假設 1) 即 這表明 ， OLS估計量 是無偏估計量 。 ?β20 由上一段的 ()式 ， 我們有 因此 uXXX ???? ?? 1)(ββ? ? ? ? ? ? 11 uu ?? ????? XXXEXXX? ? ? ?? ?11E X X X u u X X X??? ? ? ??? ?? ? ? ?? ?? ????????????? ??????? ??????? ? ???? uuββββ 11 XXXXXXEE? ? ? ? 121 ?? ???? XXXIXXX n?? ? ? ? 211 ??? ???? XXXXXX? ? 21 ???? XX21 請注意 ， 我們得到的實際上不僅是 的方差 ， 而且是 一個方差 協(xié)方差矩陣 ， 為了反映這一事實 ， 我們用下面的符號表示之： 21)()β( ??? ??? XXCo vVa r?β為方便起見 ， 我們也常用 Var( )表示的方差 協(xié)方差矩陣 ， 因此上式亦可寫作： 需要注意的是 ， 這里 不表示方差向量， 而是方差 協(xié)方差矩陣 。 4． 高斯 馬爾科夫定理 對于 以及標準假設條件 A1－ A4， 普通最小二乘估計量是最佳線性無偏估計量 （ BLUE） )1(?22??? ?Kne t?kβ,. ..β,β 10uβ ?? XY2te?23 我們已在上一段中證明了無偏性 ， 下面證明線性和最小方差性 。 由 OLS估計量 的公式 可知 ,