【正文】 1 第四章 其他回歸方法 本章討論加權(quán)最小二乘估計(jì) ， 異方差性和自相關(guān)一致協(xié)方差估計(jì) ， 兩階段最小二乘估計(jì) （ TSLS） ， 非線性最小二乘估計(jì)和廣義矩估計(jì) （ GMM） 。 這里的大多數(shù)方法在第十二章的聯(lián)立方程系統(tǒng)中也適用 。 本章中某些估計(jì)方法中含有 AR和 MA誤差項(xiàng)，這些概念將在第五章中深入介紹。 2 線性回歸模型的基本假設(shè) ikikiit uxxxy ?????? ???? ?22110i = 1 , 2 , … , N 在普通最小二乘法中 ， 為保證參數(shù)估計(jì)量具有良好的性質(zhì) ，通常對(duì)模型提出若干基本假設(shè)： 1． 解釋變量之間互不相關(guān)； 2．隨機(jī)誤差項(xiàng)具有 0均值和同方差。即 0)( ?iuE 2)( ??iuV a r i = 1 , 2 , … , N 即隨機(jī)誤差項(xiàng)的方差是與觀測時(shí)點(diǎn) t無關(guān)的常數(shù)； 3．不同時(shí)點(diǎn)的隨機(jī)誤差項(xiàng)互不相關(guān)（序列不相關(guān)），即 0),( ?? sii uuC o v s ≠ 0, i = 1 , 2 , … , N 3 當(dāng)隨機(jī)誤差項(xiàng)滿足假定 1 ~ 4時(shí)，將回歸模型”稱為“標(biāo)準(zhǔn)回歸模型”，當(dāng)隨機(jī)誤差項(xiàng)滿足假定 1 ~ 5時(shí)，將回歸模型稱為“標(biāo)準(zhǔn)正態(tài)回歸模型”。如果實(shí)際模型滿足不了這些假定，普通最小二乘法就不再適用，而要發(fā)展其他方法來估計(jì)模型。 5．隨機(jī)誤差項(xiàng)服從 0均值、同方差的正態(tài)分布。即 ),0( 2?N~ iu i = 1 , 2 , … , N 4．隨機(jī)誤差項(xiàng)與解釋變量之間互不相關(guān)。即 0),( ?iji uxC o v j = 1 , 2 , … , k , i = 1 , 2 , … , N 4 古典線性回歸模型的一個(gè)重要假設(shè)是總體回歸方程的隨機(jī)擾動(dòng)項(xiàng) ui 同方差 ， 即他們具有相同的方差 ? 2。 如果隨機(jī)擾動(dòng)項(xiàng)的方差隨觀測值不同而異 ， 即 ui 的方差為 ?i2， 就是異方差 。 用符號(hào)表示異方差為 E(ui2) = ?i2 。 異方差性在許多應(yīng)用中都存在 ， 但主要出現(xiàn)在截面數(shù)據(jù)分析中 。 例如我們調(diào)查不同規(guī)模公司的利潤 ， 會(huì)發(fā)現(xiàn)大公司的利潤變化幅度要比小公司的利潤變化幅度大 ， 即大公司利潤的方差比小公司利潤的方差大 。 利潤方差的大小取決于公司的規(guī)模 、產(chǎn)業(yè)特點(diǎn) 、 研究開發(fā)支出多少等因素 。 又如在分析家庭支出模式時(shí) ， 我們會(huì)發(fā)現(xiàn)高收入家庭通常比低收入家庭對(duì)某些商品的支出有更大的方差 。 167。 異方差 5 變量 可支配收入 交通和通訊支出 變量 可支配收入 交通和通訊支出 地區(qū) IN CUM 地區(qū) IN CUM 甘 肅 山 西 寧 夏 吉 林 河 南 陜 西 青 海 江 西 黑龍江 內(nèi)蒙古 貴 州 遼 寧 安 徽 湖 北 海 南 新 疆 河 北 四 川 山 東 廣 西 湖 南 重 慶 江 蘇 云 南 福 建 天 津 浙 江 北 京 上 海 廣 東 表 1 中國 1998年各地區(qū)城鎮(zhèn)居民平均每人全年家庭可支配收入及交通和通訊支出 單位：元 6 例 ： 我們研究人均家庭交通及通訊支出 (cum)和可支配收入 (in)的關(guān)系 ， 考慮如下方程 ： cumi=?0 + ?1ini + ui 利用普通最小二乘法 ， 得到如下回歸模型 ： cumi= + ?ini () () () R2= .= 7 從圖形上可以看出，平均而言，城鎮(zhèn)居民家庭交通和通訊支出隨可支配收入的增加而增加。但是，值得注意的是：隨著可支配收入的增加，交通和通訊支出的變動(dòng)幅度也增大了，可能存在異方差。如果我們把回歸方程中得到的殘差對(duì)各個(gè)觀測值作圖，則可以清楚地看到這一點(diǎn)。 異方差的存在并不破壞普通最小二乘法的無偏性，但是估計(jì)量卻不是有效的，即使對(duì)大樣本也是如此，因?yàn)槿狈τ行?，所以通常的假設(shè)檢驗(yàn)值不可靠。因此懷疑存在異方差或者已經(jīng)檢測到異方差的存在，則采取補(bǔ)救措施就很重要。 8 167。 異方差檢驗(yàn) 1. 圖示檢驗(yàn)法 (1) 用 XY的散點(diǎn)圖進(jìn)行判斷 觀察是否存在明顯的散點(diǎn)擴(kuò)大、縮小或復(fù)雜型趨勢（即不在一個(gè)固定的帶型域中） 9 （ 2） X i2的散點(diǎn)圖進(jìn)行判斷 首先采用 OLS方法估計(jì)模型，以求得隨機(jī)誤差項(xiàng) u的方差 ?i2的 估計(jì)量 (注意，該估計(jì)量是不嚴(yán)格的 )，我們稱之為“近似估計(jì)量”，用 ei2 表示。于是有 () 22 )()v a r(iii euEu ??即用 ei2 來表示隨機(jī)誤差項(xiàng)的方差。用 解釋變量 x 和 ei2的散點(diǎn)圖進(jìn)行 觀察是否隨著 x增加，出現(xiàn)方差的逐漸增加、下降或者不規(guī)則變化。 10 ~ei2 ~ei2 X X 同方差 遞增異方差~ei2 ~ei2 X X 遞減異方差 復(fù)雜型異方差11 2. White異方差性檢驗(yàn) White (1980) 提出了對(duì)最小二乘回歸中殘差的異方差性的檢驗(yàn) 。 包括有交叉項(xiàng)和無交叉項(xiàng)兩種檢驗(yàn) 。 普通最小二乘估計(jì)雖然在存在異方差性時(shí)是一致的 ， 但是通常計(jì)算的標(biāo)準(zhǔn)差不再有效 。 如果發(fā)現(xiàn)存在異方差性 ， 利用加權(quán)最小二乘法可以獲得更有效的估計(jì) 。 12 檢驗(yàn)統(tǒng)計(jì)量是通過利用解釋變量所有可能的交叉乘積對(duì)殘差進(jìn)行回歸來計(jì)算的。例如：假設(shè)估計(jì)如下方程 () 式中 b是估計(jì)系數(shù) ， i 是殘差 。 檢驗(yàn)統(tǒng)計(jì)量基于輔助回歸： () EViews顯示兩個(gè)檢驗(yàn)統(tǒng)計(jì)量： F統(tǒng)計(jì)量和 Obs*R2 統(tǒng)計(jì)量 。White檢驗(yàn)的原假設(shè)：不存在異方差性 （ 也就是 ， 式 （ ）中除 ?0以外的所有系數(shù)都為 0成立 ） 。 iiii uzxy ???? 321 ???iiiiiiii zxzxzxu ??????? ??????? 524232102?13 White證明出： （ ） 其中： N是樣本容量 ， k為自由度 ， 等于式 （ ） 中解釋變量個(gè)數(shù) （ 不包含截距項(xiàng) ） 。 如果計(jì)算的 ?2值大于給定顯著性水平對(duì)應(yīng)的臨界值 ， 則可以拒絕原假設(shè) ， 得出存在異方差的結(jié)論 。也就是說 ， 回歸方程 （ ） 的 R2越大 ， 說明殘差平方受到解釋變量影響越顯著 ， 也就越傾向于認(rèn)為存在異方差 。 如果原模型中包含的解釋變量較多，那么輔助回歸中將包含太多的變量，這會(huì)迅速降低自由度。因此，在引入變量太多時(shí)，必須謹(jǐn)慎一些。 White檢驗(yàn)的另外一種形式，就是輔助回歸中不包含交叉項(xiàng)。 因此 White檢驗(yàn)有兩個(gè)選項(xiàng)：交叉項(xiàng)和無交叉項(xiàng)。 22 ~ kRN ??14 例 ： 人均家庭交通及通訊支出 (CUM)和可支配收入(IN )的回歸方程的 White 異方差檢驗(yàn)的結(jié)果： 該結(jié)果 F 統(tǒng)計(jì)量和 Obs*R2 統(tǒng)計(jì)量的 P值均很小，表明拒絕原假設(shè)，即殘差存在異方差性。 15 由于假設(shè)的異方差形式不同，使用的輔助回歸也不同，導(dǎo)致了不同的檢驗(yàn)方法。各不同方法的異方差形式和輔助回歸方程： ① BreuschPaganGodfrey (BPG)異方差檢驗(yàn)方法 ， ② Harvey異方差檢驗(yàn) ， ③ Glejser異方差檢驗(yàn) ， iiii u ?? ???? αz22 ~? )(22 αz ii h ?? ??)e x p (2 αz ii ??? iiiu ???? αz)~l n ( 2mii )( 22 αz ??? ??iiiu ???? αz~16 167。 加權(quán)最小二乘估計(jì) 1．方差已知的情形 考慮一個(gè)一元回歸線性方程： （ ） 假設(shè)已知隨機(jī)誤差項(xiàng)的真實(shí)的方差 ， var(ui)=?i2， 則令wi=1/?i， 將模型兩端同乘 wi， 變換為 （ ） 令 ui*=wiui， 則 （ ） 因此 ， 變換后的模型 （ ） 不再存在異方差的問題 ， 可以用 OLS估計(jì) 。 加權(quán)最小化殘差平方和為： （ ） 由此獲得的估計(jì)量就是權(quán)重序列為 { wi}的加權(quán)最小二乘估計(jì)量。 iii uxy ??? 10 ?? Ni ,2,1 ??iiiiiii uwxwwyw ??? )(10 ??1/)v a r ()v a r ()v a r ( 2* ??? iiiii uuwu ?2102 )()( bxbywSiiii ??? ?b17 假設(shè)有已知形式的異方差性，并且 有序列 w， 其值與誤差標(biāo)準(zhǔn)差的倒數(shù)成比例 。這時(shí)可以采用權(quán)數(shù)序列為 w 的加權(quán)最小二乘估計(jì)來修正異方差性。對(duì)加權(quán)最小化殘差平方和得到估計(jì)結(jié)果 : 22 )()( βxβiiii ywS ?? ?其中 ? 是 k ?1維向量。在矩陣概念下，令權(quán)數(shù)序列 w 在權(quán)數(shù)矩陣W的對(duì)角線上，其他地方是零，即 W 矩陣是對(duì)角矩陣， y 和 X是因變量和自變量矩陣。則加權(quán)最小二乘估計(jì)量為： （ ） 估計(jì)協(xié)方差矩陣為： （ ） WyWXWXWXb ????? ? 1)(W L S12 )(? ???? WXWXΣ sW L S18 例 加權(quán)最小二乘估計(jì) 本例考慮對(duì)由四組家庭住房支出和年收入組成的截面數(shù)據(jù)進(jìn)行研究 (表 )。 假設(shè)住房支出模型為 其中 :yi是住房支出， xi是收入。普通最小二乘估計(jì)得出如下回歸結(jié)果： t = () () R2= F= 對(duì)數(shù)據(jù)圖形的研究及以前有關(guān)支出的研究結(jié)果都說明這個(gè)模型具有異方差現(xiàn)象。 iii uxy ??? ??ii xy 2 3 ??19 20 對(duì)住房支出模型進(jìn)行異方差修正，然后進(jìn)行估計(jì)。變換后的模型為 其結(jié)果為：