【正文】 這表明 ， OLS估計(jì)量 是無(wú)偏估計(jì)量 。 ?β??????????????????????????????????????????????????????????????????KKK EEEEβ...ββ)β(..... .)β()β(β...ββ101010β)u()(β)β( 1????? ??EXXXE20 2． 的方差 為求 Var( )， 我們考慮 這是一個(gè) （ K+1） *(K+1)矩陣 ， 其主對(duì)角線上元素即構(gòu)成 Var( )， 非主對(duì)角線元素是相應(yīng)的協(xié)方差 ， 如下所示： ?β?β?β ???????? ??????? ??????? ? ?? ββββE21 ??????????????????????????????)β(...)β,β()β,β(............)β,β(...)β()β,β()β,β(...)β,β()β(1011010100KKKKKVarCovCovCovVarCovCovCovVar 下面推導(dǎo)此矩陣的計(jì)算公式 . ????????????????????????????????????????????????KKKKE ββ...ββββββ...ββββ1100110022 由上一段的結(jié)果 ， 我們有 因此 ， uXXX ???? ?? 1)(ββ ? ? ? ? ? ? 11 uu ?? ????? XXXEXXX ? ? ? ?? ?11 ?? ????? XXXuuXXXE ? ?? ? ? ?? ?? ????????????? ??????? ??????? ? ???? uuββββ 11 XXXXXXEE? ? ? ? 121 ?? ??? XXXIXX n?? ? ? ? 211 ??? ???? XXXXXX? ? 21 ???? X23 如前所述 ， 我們得到的實(shí)際上不僅是 的方差 ， 而且是 一個(gè)方差 協(xié)方差矩陣 ， 為了反映這一事實(shí) ， 我們用下面的符號(hào)表示之： 展開(kāi)就是： 21)()β( ??? ??? XXCovVar?β211011010100)()β()β,β()β,β(............)β,β(...)β()β,β()β,β(...)β,β()β(?????????????????????????????????XXVarCovCovCovVarCovCovCovVarKKKKK24 3． ?2 的估計(jì) 與雙變量線性模型相似 ， ?2的無(wú)偏估計(jì)量是 這是因?yàn)槲覀冊(cè)诠烙?jì) 的過(guò)程中 ， 失去了（ K+1） 個(gè)自由度 。 4． 高斯 馬爾科夫定理 對(duì)于 以及標(biāo)準(zhǔn)假設(shè)條件 （ 1） （ 4） ， 普通最小二乘估計(jì)量是最佳線性無(wú)偏估計(jì)量 （ BLUE） )1(?22??? ?Kne t?kβ,...β,β 10 uβ ?? XY25 我們已在上一段中證明了無(wú)偏性 ， 下面證明線性和最小方差性 。 證明的路子與雙變量模型中類似 ， 只不過(guò)這里我們采用矩陣和向量的形式 。 由 OLS估計(jì)量 的公式 可知 , 可表示為一個(gè)矩陣和應(yīng)變量觀測(cè)值向量 的乘積： 其中 是一個(gè) (K+1)*n 非隨機(jī)元素矩陣 。 因而顯然有 是線性估計(jì)量 。 ???? YXXX ??? ?? 1)(βY Yk??? XXXk ??? ? 1)(??26 現(xiàn)設(shè) 為 的任意一個(gè)線性無(wú)偏估計(jì)量 ， 即 其中 是一個(gè) (K+1)*n非隨機(jī)元素矩陣 。 則 顯然 ， 若要 為無(wú)偏估計(jì)量 ， 即 ， 只有 ， 為 （ K+1） 階單位矩陣 。 *? Yc?*?c ucXcuXcYc ????? ??? )(* ????XcuEcXcucXcEE?????)()()(*?? ?*)(E*? IXc ?I27 的方差為： 我們可將 寫成 從而將 的任意線性無(wú)偏估計(jì)量 與 OLS估計(jì)量 聯(lián)系起來(lái) 。 *? cccuVarcucVarucXcVarVar?????????2*)()()()(???DXXXc ???? ? 1)(c ??? *?28 由 可推出： 即 因而有 由 從而 ， 因此上式中間兩項(xiàng)為 0， 我們有 IXc ? IXDXXXX ???? ? 1)( IXDI ?? 0?XD? ?? ?? ?? ?DDXXXDDXXXXXXXXXDXXXDXXXDXXXDXXXcc????????????????????????????????????11111111)()()()()()()()(0?XD 0???DX DDXXcc ????? ? 1)(29 因此 最后的不等號(hào)成立是因?yàn)? 為半正定矩陣 。 這就證明了 OLS估計(jì)量 是 的所有線性無(wú)偏估計(jì)量中方差最小的 。 至此 ， 我們證明了高斯 馬爾科夫定理 。 ? ?)?()?()()(*)(2212122????????VarDDVarDDXXDDXXccVar????????????????DD ???30 第三節(jié) 擬合優(yōu)度 一 ． 決定系數(shù) R2 對(duì)于雙變量線性模型 Y=α +β X + u 我們有 其中 ， =殘差平方和 ? ?????? 222 1YYeR? 2e31 對(duì)于多元線性模型 我們可用同樣的方法定義決定系數(shù)： 為方便計(jì)算 ， 我們也可以用矩陣形式表示 R2 uXXY KK ????? ??? ...110? ?TSSRSSTSSESSRYYeR?????????112222或總變差解釋變差32 我們有：殘差 ， 其中 ， 殘差平方和： ?????????????????? YYeeene...21?? ? βXY )()(2?????????YYYYeee t)β()β( ?? ???? XYXY )β)(β( ?? ?????? XYX ???? ?????????? ββββ XXXYYXYY YXXXXXXYYXYY ???????????? ???? 1)(βββ????? βXYYY YXXYYXYY ?????????? ??? βββ33 而 將上述結(jié)果代入 R2的公式 ， 得到： ? ? 2222 YnYYYnYYY ?????? ??這就是決定系數(shù) R2 的矩陣形式。 ? ??????222 1YYeR? ?? ??? ????? 222YYeYY22 )?(YnYYXYYYYnYY??????????22?YnYYYnXY??????34 二 ． 修正決定系數(shù)： 殘差平方和的一個(gè)特點(diǎn)是 ， 每當(dāng)模型增加一個(gè)解釋變量 ，并用改變后的模型重新進(jìn)行估計(jì) ， 殘差平方和的值會(huì)減小 。 由此可以推論 ， 決定系數(shù)是一個(gè)與解釋變量的個(gè)數(shù)有關(guān)的量： 解釋變量個(gè)數(shù)增加 ? 減小 ? R2 增大 也就是說(shuō) ， 人們總是可以通過(guò)增加模型中解釋變量的方法來(lái)增大 R2 的值 。 因此 ， 用 R2 來(lái)作為擬合優(yōu)度的測(cè)度 ， 不是十分令人滿意的 。 為此 ， 我們定義修正決定系數(shù) （ Adjusted ） 如下： 2R? 2e2R 2R35 是經(jīng)過(guò)自由度調(diào)整的決定系數(shù)，稱為修正決定系數(shù)。 我們有：（ 1） （ 2）僅當(dāng) K=0時(shí)，等號(hào)成立。即 （ 3）當(dāng) K增大時(shí)，二者的差異也隨之增大。 （ 4） 可能出現(xiàn)負(fù)值。 2R 22 RR ? 22R ?2R? ? )1()1(1 222????????nYYKneR? ????????? 22)1()1(1YYKnen1)1)(1(1??????KnRn36 三 ． 例子 下面我們給出兩個(gè)簡(jiǎn)單的數(shù)值例子 ， 以幫助理解這兩節(jié)的內(nèi)容 . 例 1 Yt = ?1 + ?2X2 t + ?3X3 t + u t 設(shè)觀測(cè)數(shù)據(jù)為： Y： 3 1 8 3 5 X2： 3 1 5 2 4 X3： 5 4 6 4 6 試求各參數(shù)的 OLS估計(jì)值 ， 以及 。 解：我們有 22 RR 和37 ??????????????????????????????????64142165141153153813XY???????????????????????????????????????129812581551525155641421651411531646454251311111XX38 ???????????????????????????????????????10976205381364645