【正文】 外 變量的顯著性檢驗(yàn)出現(xiàn)偏誤 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 31 注意 除非是完全共線性，多重共線性并不意味著任何基本假設(shè)的違背； 即使出現(xiàn)較高程度的多重共線性， OLS估計(jì)量仍具有無(wú)偏性、線性性、有效性等良好的統(tǒng)計(jì)性質(zhì)； 但是，無(wú)偏性并不保證對(duì)某個(gè)給定的樣本參數(shù)估計(jì)值等于真值，最小方差性也不保證參數(shù)估計(jì)量的方差在給定樣本下很小。 0 1 1 2 2Y X X u? ? ?? ? ? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 28 多重共線性使參數(shù)估計(jì)值的方差增大， 1/(1r 2)為方差膨脹因子 (Variance Inflation Factor, VIF) 當(dāng)完全不共線時(shí) , r 2 = 0 ?? 2121 /)?v a r ( ix??當(dāng)近似共線時(shí) , 0 r 2 1 ?? ???? 21222121 11)?v a r (ii xrx???當(dāng)完全共線時(shí)， r 2 =1， ??)?v a r (1?表 4. 3 . 1 方差膨脹因子表相關(guān)系數(shù)平方 0 0 .5 0 .8 0 .9 0 .9 5 0 .9 6 0 .9 7 0 .9 8 0 .9 9 0 .9 9 9方差膨脹因子 1 2 5 10 20 25 33 50 100 1000方差膨脹因子表 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 29 如果模型中兩個(gè)解釋變量具有線性相關(guān)性 ，例如 X2 = ?X1 ， 這時(shí) ， X1 和 X2前的參數(shù) ? ?2 并不反映各自與被解釋變量之間的結(jié)構(gòu)關(guān)系 ， 而是反映它們對(duì)被解釋變量的共同影響 。 0XX? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 25 例：對(duì)于二元線性回歸模型 如果兩個(gè)解釋變量完全相關(guān)，如 X2 = ?X1，則二元模型就會(huì)退化為一元線性回歸模型： 這時(shí)，只能確定綜合參數(shù) ?1+??2 的估計(jì)值： 0 1 1 2 2Y X X u? ? ?? ? ? ?0 1 2 1()Y X u? ? ??? ? ? ?112 21iiixyx? ???? ??中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 26 近似共線性下 ， 可以得到 OLS參數(shù)估計(jì)量 ，但參數(shù)估計(jì)量方差的表達(dá)式為： 由于 |X’X| ? 0， 引起 (X’X)1 主對(duì)角線元素較大 ， 即使得參數(shù)估計(jì)值的方差增大 ， 估計(jì)值的精度降低 。 當(dāng)多重共線性的程度較高時(shí)，會(huì)給最小二乘估計(jì)量帶來(lái)嚴(yán)重的后果。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 23 一般來(lái)說(shuō)，簡(jiǎn)單線性模型中涉及到時(shí)間序列數(shù)據(jù)樣本時(shí)往往會(huì)存在多重共線性；而對(duì)于截面數(shù)據(jù)樣本，問(wèn)題不那么嚴(yán)重，但多重共線性仍然是存在的。 例如 ： 消費(fèi) = f (收入 , 財(cái)富水平），當(dāng)我們獲得收入和財(cái)富的樣本數(shù)據(jù)時(shí)，兩個(gè)自變量可能高度相關(guān)。 例如 ：消費(fèi) = f (當(dāng)期收入 , 前期收入） 顯然，兩期收入間具有較強(qiáng)的線性相關(guān)性。 截面數(shù)據(jù) ：生產(chǎn)函數(shù)中，資本投入與勞動(dòng)力投入往往出現(xiàn)高度相關(guān)情況，大企業(yè)二者都大，小企業(yè)都小。 如： X2= ?X1，則 X2 對(duì) Y 的作用可由 X1 代替。 表示為矩陣的秩，有 rank(X)=k+1n，即解釋變量之間不存在嚴(yán)格的線性關(guān)系，觀測(cè)值個(gè)數(shù)大于待估參數(shù)的個(gè)數(shù)。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 16 多重共線性 多重共線性的概念 多重共線性產(chǎn)生的原因及后果 多重共線性的檢驗(yàn) 解決多重共線性問(wèn)題的方法 實(shí)例 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 17 一、多重共線性的概念 定義：如果某兩個(gè)或多個(gè)解釋變量高度線性相關(guān)，則稱模型中存在 多重共線性 (Multicollinearity)。 另一方面 ， 如果模型設(shè)定正確 ，RESET檢驗(yàn)使我們能夠排除誤設(shè)定的存在 ， 轉(zhuǎn)而去查找其它方面的問(wèn)題 。 注意： 拉姆齊 RESET檢驗(yàn)僅能檢驗(yàn)誤設(shè)定的存在 ， 而不能告訴我們到底是哪一類(lèi)的誤設(shè)定 ，或者說(shuō) ， 不能告訴我們正確的模型是什么 。 2 3 4? ? ?,Y Y Y和中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 13 (1) 用 OLS法估計(jì)要檢驗(yàn)的方程 ， 得到 (2) 由上一步得到的值 （ i=1,2,… ,n） ， 計(jì)算 ，然后用 OLS法估計(jì)： (3) 用 F檢驗(yàn)比較兩個(gè)方程的擬合情況 ， 如果兩方程總體擬合情況顯著不同 ， 則我們得出原方程可能存在誤設(shè)定的結(jié)論 。 2 3 4? ? ?,Y Y Y和中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 12 直觀地看，這些添加的項(xiàng)是任何可能的遺漏變量或錯(cuò)誤的函數(shù)形式的替身，如果這些替身能夠通過(guò) F 檢驗(yàn) , 表明它們改善了原方程的擬合狀況，則我們有理由說(shuō)原方程存在誤設(shè)定問(wèn)題。 RESET檢驗(yàn)法的思路是在要檢驗(yàn)的回歸方程中加進(jìn) 等項(xiàng)作為解釋變量，然后看結(jié)果是否有顯著改善。如果不這樣做，產(chǎn)生不正確結(jié)果的風(fēng)險(xiǎn)很大。 在這種情況下，作出正確判斷不是一件容易的事，處理的原則是將理論準(zhǔn)則放在第一位，再多的統(tǒng)計(jì)證據(jù)也不能將一個(gè)理論上很重要的變量變成“無(wú)關(guān)”變量。 選擇解釋變量的四條準(zhǔn)則 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 10 在很多情況下，這四項(xiàng)準(zhǔn)則的判斷結(jié)果會(huì)出現(xiàn)不一致。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 9 理論： 從理論上看，該變量是否應(yīng)該作為解釋變量包括在方程中？ t檢驗(yàn)：該變量的系數(shù)估計(jì)值是否顯著？ ：該變量加進(jìn)方程中后， 是否增大？ 偏倚：該變量加進(jìn)方程中后，其它變量的系數(shù)估計(jì)值是否顯著變化？ 2R 2R 如果對(duì)四個(gè)問(wèn)題的回答都是肯定的，則該變量應(yīng)該包括在方程中；如果對(duì)四個(gè)問(wèn)題的回答都是“否”， 則該變量是無(wú)關(guān)變量，可以安全地從方程中刪掉它。但如果方差很大，得到的無(wú)偏估計(jì)量也就沒(méi)有多大意義了，因此也不宜隨意亂增加解釋變量。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 8 解決解釋變量誤設(shè)定問(wèn)題的原則 在模型設(shè)定中的一般原則是盡量不漏掉有關(guān)的解釋變量。 這類(lèi)錯(cuò)誤中比較常見(jiàn)的是將非線性關(guān)系作為線性關(guān)系處理。 0 1 1 2 2 3 3Y X X X u? ? ? ?? ? ? ? ?0 1 1 2 2Y X X u? ? ?? ? ? ? 模型中包括無(wú)關(guān)的解釋變量，參數(shù)估計(jì)量仍無(wú)偏，但會(huì)增大估計(jì)量的方差，即增大誤差。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 6 誤選無(wú)關(guān)變量 (including irrevelant variables) 例如 ， 如果 為 “ 真 ” ， 但我們將模型設(shè)定為 : 即設(shè)定模型時(shí)，多選了一個(gè)無(wú)關(guān)解釋變量。 這類(lèi)錯(cuò)誤稱為遺漏相關(guān)變量。這種偏差的性質(zhì)及程度與模型設(shè)定偏誤的類(lèi)型密切相關(guān)。 ? 模型函數(shù)形式選取的偏誤。中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 1 第四章 模型的建立與估計(jì) 中的問(wèn)題及對(duì)策 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 2 誤設(shè)定 (misspecification) 多重共線性 (multicollinearty) 異方差 (heteroskedasticity) 自相關(guān) (autocorrelation) 實(shí)踐中的常見(jiàn)問(wèn)題： 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 3 經(jīng)典假設(shè)與違背假設(shè)的情況： 212( 1 ) ( ) 0( 2) ( )( 3 ) ( ) 0( 4) ( , ) 0( 5 ) , , ...,( ) 1iiijji ikEuVar uE u uC ov X uX X Xrank X k n?????? ? ?解 釋 變 量之 間 不 存 在 嚴(yán) 格 的 線 性 關(guān) 系 ，且 。異方差 自相關(guān) 多重共線性 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 4 誤設(shè)定 模型設(shè)定偏誤主要有兩大類(lèi) ? 解釋變量選取的偏誤 ， 主要包括漏選相關(guān)變量和多選無(wú)關(guān)變量。 當(dāng)模型設(shè)定出現(xiàn)偏誤時(shí)，模型估計(jì)結(jié)果也會(huì)與 “ 實(shí)際 ” 有偏差。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 5 遺漏相關(guān)變量 （ omitting relevant variables） 例如，如果“正確”的模型為 : 而我們將模型設(shè)定為 : 即設(shè)定模型時(shí)漏掉了一個(gè)相關(guān)的解釋變量。 0 1 1 2 2Y X X u? ? ?? ? ? ?0 1 1Y X v??? ? ? 模型中遺漏了對(duì)因變量有顯著影響的解釋變量將使模型參數(shù)估計(jì)量不再是無(wú)偏估計(jì)量。 這類(lèi)錯(cuò)誤稱為誤選無(wú)關(guān)變量。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 7 錯(cuò)誤的函數(shù)形式 (wrong functional form) 例如，如果“真實(shí)”的回歸函數(shù)為 : 但卻將模型設(shè)定為 : vXXY ????22110 ???1212 uY A X X e???這就是設(shè)定了錯(cuò)誤的函數(shù)形式。函數(shù)形式選擇錯(cuò)誤，所建立的模型當(dāng)然無(wú)法反映所研究現(xiàn)象的實(shí)際情況，后果是顯而易見(jiàn)的。因?yàn)楣烙?jì)量有偏比增大誤差更嚴(yán)重。 在回歸實(shí)踐中，有時(shí)要對(duì)某個(gè)變量是否應(yīng)該作為解釋變量包括在方程中作出準(zhǔn)確的判斷確實(shí)不是一件容易的事，因?yàn)槟壳斑€沒(méi)有行之有效的方法可供使用。這是兩種容易決策的情形。例如，有可能某個(gè)變量加進(jìn)方程后， 增大，但該變量不顯著。 在選擇變量的問(wèn)題上，應(yīng)當(dāng)堅(jiān)定不移地根據(jù)理論而不是滿意的擬合結(jié)果來(lái)作決定，對(duì)于是否將一個(gè)變量包括在回歸方程中的問(wèn)題，理論是最重要的判斷準(zhǔn)則。 2R 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 11 檢驗(yàn)?zāi)Ｐ驼`設(shè)定的 RESET方法 拉姆齊（ J. B. Ramsey）于 1969年提出了一種回歸設(shè)定誤差檢驗(yàn)法（ RESET法）。如有，則可判斷原方程存在遺漏有關(guān)變量的問(wèn)題或其它的誤設(shè)定問(wèn)題。 等項(xiàng)形成多項(xiàng)式函數(shù)形式，多項(xiàng)式是一種強(qiáng)有力的曲線擬合裝置，因而如果存在誤設(shè)定，則用這樣一個(gè)裝置可以很好地代表它們。 使用的檢驗(yàn)統(tǒng)計(jì)量為： 0 1 1 2 2? ? ??i i iY X X? ? ?? ? ?2 3 4? ? ?,Y Y Y和?iY2 3 40 1 1 2 2 3 4 5? ? ?i i i i i i iY X X Y Y Y u? ? ? ? ? ?? ? ? ? ? ? ?RESET檢驗(yàn)法的步驟 ( ) //( 1 )MR S S R S S MFR S S n k????中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 14 RSSM為第一步中回歸的殘差平方和 ， RSS為第二步中回歸的殘差平方和 ， M為約束條件的個(gè)數(shù) ， 這里是 M=3。 但該方法畢竟能給出模型誤設(shè)定的信號(hào) ， 以便我們?nèi)ミM(jìn)一步查找問(wèn)題 。 ( ) //( 1 )MR S S R S S MFR S S n k????中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 15 軟件實(shí)現(xiàn) Eviews實(shí)現(xiàn)的步驟：方程窗口－ View－Stability Tests－ Ramsey RESET Test－輸入 Number of fitted－ OK。 對(duì)于模型 Yi = ?0+ ?1X1i+ ?2X2i+?+ ?kXki+ ui ，i = 1,2,…, n， 其基本假設(shè)之一是解釋變量是互相獨(dú)立的。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 18 如果存在 c1X1i + c2X2i+…+ ckXki = 0， i=1,2,…, n，其中 ci 不全為 0，則 稱為解釋變量間存在 完全的多重共線性 （ perfect multicollinearity） 如果存在 c1X1i + c2X2i+…+ ckXki + vi = 0， i =1,2,…, n，其中 ci不全為 0， vi 為隨機(jī)誤差項(xiàng)，則稱為 近似的多重共線性 （ approximate multicollinearity） 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 19 在矩陣表示的線性回歸模型 Y = X? +u 中，完全的多重共線性指： rank(X) k +1，即 ???????????????knnnkkXXXXXXXXXX????????212221212111111中，至少有一列向量可由其他列向量（不包括第一列）線性表出。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 20 二、多重共線性產(chǎn)生的原因及后果