【正文】 這表明 ， OLS估計量 是無偏估計量 。 ?β??????????????????????????????????????????????????????????????????KKK EEEEβ...ββ)β(..... .)β()β(β...ββ101010β)u()(β)β( 1????? ??EXXXE20 2． 的方差 為求 Var( )， 我們考慮 這是一個 （ K+1） *(K+1)矩陣 ， 其主對角線上元素即構(gòu)成 Var( )， 非主對角線元素是相應(yīng)的協(xié)方差 ， 如下所示： ?β?β?β ???????? ??????? ??????? ? ?? ββββE21 ??????????????????????????????)β(...)β,β()β,β(............)β,β(...)β()β,β()β,β(...)β,β()β(1011010100KKKKKVarCovCovCovVarCovCovCovVar 下面推導(dǎo)此矩陣的計算公式 . ????????????????????????????????????????????????KKKKE ββ...ββββββ...ββββ1100110022 由上一段的結(jié)果 ， 我們有 因此 ， uXXX ???? ?? 1)(ββ ? ? ? ? ? ? 11 uu ?? ????? XXXEXXX ? ? ? ?? ?11 ?? ????? XXXuuXXXE ? ?? ? ? ?? ?? ????????????? ??????? ??????? ? ???? uuββββ 11 XXXXXXEE? ? ? ? 121 ?? ??? XXXIXX n?? ? ? ? 211 ??? ???? XXXXXX? ? 21 ???? X23 如前所述 ， 我們得到的實際上不僅是 的方差 ， 而且是 一個方差 協(xié)方差矩陣 ， 為了反映這一事實 ， 我們用下面的符號表示之： 展開就是： 21)()β( ??? ??? XXCovVar?β211011010100)()β()β,β()β,β(............)β,β(...)β()β,β()β,β(...)β,β()β(?????????????????????????????????XXVarCovCovCovVarCovCovCovVarKKKKK24 3． ?2 的估計 與雙變量線性模型相似 ， ?2的無偏估計量是 這是因為我們在估計 的過程中 ， 失去了（ K+1） 個自由度 。 4． 高斯 馬爾科夫定理 對于 以及標(biāo)準(zhǔn)假設(shè)條件 （ 1） （ 4） ， 普通最小二乘估計量是最佳線性無偏估計量 （ BLUE） )1(?22??? ?Kne t?kβ,...β,β 10 uβ ?? XY25 我們已在上一段中證明了無偏性 ， 下面證明線性和最小方差性 。 證明的路子與雙變量模型中類似 ， 只不過這里我們采用矩陣和向量的形式 。 由 OLS估計量 的公式 可知 , 可表示為一個矩陣和應(yīng)變量觀測值向量 的乘積： 其中 是一個 (K+1)*n 非隨機元素矩陣 。 因而顯然有 是線性估計量 。 ???? YXXX ??? ?? 1)(βY Yk??? XXXk ??? ? 1)(??26 現(xiàn)設(shè) 為 的任意一個線性無偏估計量 ， 即 其中 是一個 (K+1)*n非隨機元素矩陣 。 則 顯然 ， 若要 為無偏估計量 ， 即 ， 只有 ， 為 （ K+1） 階單位矩陣 。 *? Yc?*?c ucXcuXcYc ????? ??? )(* ????XcuEcXcucXcEE?????)()()(*?? ?*)(E*? IXc ?I27 的方差為： 我們可將 寫成 從而將 的任意線性無偏估計量 與 OLS估計量 聯(lián)系起來 。 *? cccuVarcucVarucXcVarVar?????????2*)()()()(???DXXXc ???? ? 1)(c ??? *?28 由 可推出： 即 因而有 由 從而 ， 因此上式中間兩項為 0， 我們有 IXc ? IXDXXXX ???? ? 1)( IXDI ?? 0?XD? ?? ?? ?? ?DDXXXDDXXXXXXXXXDXXXDXXXDXXXDXXXcc????????????????????????????????????11111111)()()()()()()()(0?XD 0???DX DDXXcc ????? ? 1)(29 因此 最后的不等號成立是因為 為半正定矩陣 。 這就證明了 OLS估計量 是 的所有線性無偏估計量中方差最小的 。 至此 ， 我們證明了高斯 馬爾科夫定理 。 ? ?)?()?()()(*)(2212122????????VarDDVarDDXXDDXXccVar????????????????DD ???30 第三節(jié) 擬合優(yōu)度 一 ． 決定系數(shù) R2 對于雙變量線性模型 Y=α +β X + u 我們有 其中 ， =殘差平方和 ? ?????? 222 1YYeR? 2e31 對于多元線性模型 我們可用同樣的方法定義決定系數(shù)： 為方便計算 ， 我們也可以用矩陣形式表示 R2 uXXY KK ????? ??? ...110? ?TSSRSSTSSESSRYYeR?????????112222或總變差解釋變差32 我們有：殘差 ， 其中 ， 殘差平方和： ?????????????????? YYeeene...21?? ? βXY )()(2?????????YYYYeee t)β()β( ?? ???? XYXY )β)(β( ?? ?????? XYX ???? ?????????? ββββ XXXYYXYY YXXXXXXYYXYY ???????????? ???? 1)(βββ????? βXYYY YXXYYXYY ?????????? ??? βββ33 而 將上述結(jié)果代入 R2的公式 ， 得到： ? ? 2222 YnYYYnYYY ?????? ??這就是決定系數(shù) R2 的矩陣形式。 ? ??????222 1YYeR? ?? ??? ????? 222YYeYY22 )?(YnYYXYYYYnYY??????????22?YnYYYnXY??????34 二 ． 修正決定系數(shù)： 殘差平方和的一個特點是 ， 每當(dāng)模型增加一個解釋變量 ，并用改變后的模型重新進(jìn)行估計 ， 殘差平方和的值會減小 。 由此可以推論 ， 決定系數(shù)是一個與解釋變量的個數(shù)有關(guān)的量： 解釋變量個數(shù)增加 ? 減小 ? R2 增大 也就是說 ， 人們總是可以通過增加模型中解釋變量的方法來增大 R2 的值 。 因此 ， 用 R2 來作為擬合優(yōu)度的測度 ， 不是十分令人滿意的 。 為此 ， 我們定義修正決定系數(shù) （ Adjusted ） 如下： 2R? 2e2R 2R35 是經(jīng)過自由度調(diào)整的決定系數(shù)，稱為修正決定系數(shù)。 我們有：（ 1） （ 2）僅當(dāng) K=0時，等號成立。即 （ 3）當(dāng) K增大時，二者的差異也隨之增大。 （ 4） 可能出現(xiàn)負(fù)值。 2R 22 RR ? 22R ?2R? ? )1()1(1 222????????nYYKneR? ????????? 22)1()1(1YYKnen1)1)(1(1??????KnRn36 三 ． 例子 下面我們給出兩個簡單的數(shù)值例子 ， 以幫助理解這兩節(jié)的內(nèi)容 . 例 1 Yt = ?1 + ?2X2 t + ?3X3 t + u t 設(shè)觀測數(shù)據(jù)為： Y： 3 1 8 3 5 X2： 3 1 5 2 4 X3： 5 4 6 4 6 試求各參數(shù)的 OLS估計值 ， 以及 。 解：我們有 22 RR 和37 ??????????????????????????????????64142165141153153813XY???????????????????????????????????????129812581551525155641421651411531646454251311111XX38 ???????????????????????????????????????109762053