【正文】 Xi) =0 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 34 ),0(~ 2?Nu i假定 5：隨機(jī)擾動(dòng)項(xiàng)服從正態(tài)分布 201~iiY N X? ? ??（ ， ） 如果只利用 OLS進(jìn)行參數(shù)估計(jì)，不需要該假設(shè)。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 35 以上假定 1－ 4也稱為線性回歸模型的經(jīng)典假設(shè)或高斯（ Gauss）假設(shè)，滿足該假設(shè)的線性回歸模型，也稱為經(jīng)典線性回歸模型（ Classical Linear Regression Model, CLRM）。 因此 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 41 例 : 討論 家庭收入 X對(duì)家庭消費(fèi)支出 Y的影響問題。擁有這類性質(zhì)的估計(jì)量稱為 最佳線性無偏估計(jì)量（ best liner unbiased estimator, BLUE）。ik??且1? iikY? ??則2ii i iixk X Xx? ? ? ? 2()iiix x Xx????1?1 0 1? ()i i i i ik Y k X u? ? ?? ? ? ? ? ?01i i i i ik k X k u??? ? ? ? ? ?11? iiku??? ? ?故 亦 有 ：中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 47 01? ?YX???? 1i i iY X k Yn? ? ? ?1()iiXk Yn? ? ?1 , ( )i i iw X k wn??令 也 是 常 數(shù)0? iiwY? ??則0 0 1? ()i i i i iw Y w X u? ? ?? ? ? ? ? ?01i i i i iw w X w u??? ? ? ? ? ?00? iiwu??? ? ?故 亦 有 ：1()iiw X kn? ? ? ?且1 1 。 1?? 最小二乘法也稱最優(yōu)線性無偏估計(jì) (BLUE: best linear unbiased estimators)這種特性稱為高斯 — 馬爾可夫 (Gauss— Markov)定理。 那么，在一次抽樣中，參數(shù)的估計(jì)值與真值的差異有多大，是否顯著，這就需要進(jìn)一步進(jìn)行統(tǒng)計(jì)檢驗(yàn)。統(tǒng)計(jì)量是樣本的函數(shù)。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 60 y 0 x y 0 x 例如上面兩圖的直線方程都是由散點(diǎn)表示的樣本觀測(cè)值的最小二乘估計(jì)結(jié)果，對(duì)于每個(gè)問題它們都滿足殘差的平方和最小，但是二者對(duì)樣本觀測(cè)值的擬合程度顯然是不同的。 對(duì)于所有樣本點(diǎn)，則需考慮這些點(diǎn)（觀測(cè)點(diǎn)）與樣本均值離差（總離差）的平方和，可以證明： 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 64 2 2 2? ?()i i i iY Y Y Y Y Y? ? ? ? ?? ? ?（ ） （ ）22 ? ?[ ( ) ( )]i i i iY Y Y Y Y Y? ? ? ? ???（ ）22? ? ? ?( ) 2 ( ) ( )i i i i i iY Y Y Y Y Y Y Y? ? ? ? ? ? ?? ? ?（ ）證： 0? ?? ii ey22? ?iiY Y Y Y? ? ? ???（ ） （ ）中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 65 ESS (Explained sum of squares)為回歸平方和，反映由模型中解釋變量所解釋的那部分離差的大小 TSS (Total sum of squares)為總體平方和，反映樣本觀測(cè)值總體離差的大小 TSS = ESS + RSS 22()iiTSS y Y Y? ? ???22?? ()iiE S S y Y Y? ? ???22 ?()i i iR S S e Y Y? ? ???RSS (Residual sum of squares)為殘差平方和，反映樣本觀測(cè)值與估計(jì)值偏離的大小，也是模型中解釋變量未解釋的那部分離差的大小 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 66 顯然， ESS在 TSS中所占比例越大， RSS在 TSS中所占比例越小，說明回歸參數(shù)估計(jì)值的顯著性越強(qiáng)。因?yàn)橛媒^對(duì)量作為檢驗(yàn)統(tǒng)計(jì)量，無法設(shè)置標(biāo)準(zhǔn)。 221 : 0iRe??? ， 完 全 擬 合2 2 20 : X YiiR e Y Y? ? ??? （ ） ， 與 完 全 不 存 在 線 性 關(guān) 系中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 71 對(duì)于雙變量線性回歸模型 222 12? ()()iiXXRYY? ?????222()iiiixyxy??? ??220 1 0 1? ? ? ??( ) [ ( ) ( ) ]iiY Y X X? ? ? ?? ? ? ? ? ? ?21?[ ( ) ]iXX?? ? ? 221? ()iXX?? ? ?1 2? iiixyx? ???中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 72 仍以上一節(jié)的例子說明 X Y 1 8 2 12 11 3 20 13 4 30 22 5 40 21 6 50 27 7 70 38 8 90 39 9 100 55 10 120 66 合計(jì) 540 ? 3 . 8 0 5 0 . 4 8 4 5YX??1? 0 .4 8 4 5? ?222 12? ()() 54iiXXRYY? ??????22( ) 13 84 8iix X X? ? ? ? ?22( ) 33 67 .3iiy Y Y? ? ? ? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 73 在實(shí)際應(yīng)用中， 達(dá)到多大才算通過了檢驗(yàn)，沒有絕對(duì)的標(biāo)準(zhǔn)，要看具體情況而定。 除了回歸分析方法之外，相關(guān)分析方法也可以用于分析變量之間的關(guān)系。 我們利用 F統(tǒng)計(jì)量對(duì)方程的顯著性進(jìn)行檢驗(yàn)，F(xiàn)檢驗(yàn)的思想來自于總離差平方和的分解式，使用的是方差分析的原理。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 79 F檢驗(yàn)的步驟 0 1 1 1: 0 : 0HH????原 假 設(shè) ； 備 擇 假 設(shè)（ 1）提出假設(shè)： （ 2）利用樣本值計(jì)算統(tǒng)計(jì)量： 2 2 2122??/( 2 ) /( 2 )iiiiyxFe n e n????????? 1F ( 1 , 2 )FnFFFF???????給 定 顯 著 水 平 ， 查 第 一 個(gè) 自 由 度 為 ， 第 二 個(gè)自 由 度 為 (n2) 的 分 布 表 ， 得 到 臨 界 值 。（ 3） 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 81 三、變量顯著性檢驗(yàn) 回歸分析是要判斷解釋變量 X是否是被解釋變量 Y的一個(gè)顯著性的影響因素。計(jì)量經(jīng)濟(jì)學(xué)中，主要是針對(duì)變量的參數(shù)真值是否為零來進(jìn)行顯著性檢驗(yàn)的。因此， 我們可以用殘差 ei的方差作為 ? 2的估計(jì)值。 ? ? 2 2211v a r ( ) ( ) ( ) ni i i i iie E e E e E e e??? ? ? ? ??( ) ( )i i iE e E Y Y??其 中? ?0 1 0 1? ?( ) ( )i i iE X u X? ? ? ?? ? ? ? ?0 1 0 1( ) ( ) 0i i iX E u X? ? ? ?? ? ? ? ? ?2???中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 87 2ie?即2 2 2?i i ie Y Y Y Y? ? ? ?? ? ?（ ） （ ）所以 2 2 2? ?()i i i iY Y Y Y Y Y? ? ? ? ?? ? ?（ ） （ ）根據(jù) 221? ()iXX?? ? ?2 2 211( ) 2 ( ) ( ) ( )i i i iX X X X u u u u??? ? ? ? ? ? ? ? ?011,iY X u u un??? ? ? ? ?又 其 中0 1 0 1 1? ? ? ? ?? ( ) ( ) ( )i i iY Y X X X X? ? ? ? ?? ? ? ? ? ? ?0 1 0 1()i i iY Y X u X u? ? ? ?? ? ? ? ? ? ?2ie ??1 ( ) ( )iiX X u u?? ? ? ?中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 88 22 1( ( ) ) ( ( ) )i i iE u u E u un? ? ? ???? ? 22221 1 1 12? ? ?( ) v a r ( ) ( )iEE x?? ? ? ?? ? ? ??2 2 2 2 2 21 1 1?2 ( ) ( )i i i i i ie x x u u u u x? ? ?? ? ? ? ? ? ? ? ? ??其中 2 2 2 211221( ) 2 ( ) ( )? ( )i i i i iiE e x x E u u E u uxE???? ? ? ? ? ? ? ????( ) ( ) 0iiE u u E u u? ? ? ?2211( ) ( ) ( )i i i jijE u E u E u unn?? ? ????2 2 2( 1 )nn? ? ?? ? ? ?221( ( ) )iiE u un????中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 89 22( ) ( 2)iE e n ?? ? ??22 ( )2ieEn????即0ie??0iieX?? 實(shí)際上，由于最小二乘估計(jì)要求滿足如下兩個(gè)條件： 2vn ??即 無 偏 估 價(jià) 量 要 求 的 自 由 度 因此，自由度必然是 n2， 2代表有兩個(gè)約束條件。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 91 22220 0 0222221 1 1201? ? ??( ) v a r ( )? ? ??( ) v a r ( )? ?iiiiiiXSXse se Sn x n xSse se S xx? ? ?? ? ????? ? ? ??? ? ? ?????（ ）（ ）由 此 可 以 得 到 和 的 方 差 估 計(jì) 有了 的方差估計(jì)，就可以對(duì)最小二乘 估計(jì)進(jìn)行顯著性檢驗(yàn)，也可以估計(jì)總體參數(shù) 的置信區(qū)間。 對(duì)于雙變量線性回歸模型，有兩個(gè)參數(shù)， k=2。 因此接受原 假設(shè) H0： ?1=0，拒絕對(duì)立 假設(shè) H1： ?1≠0。認(rèn)為 X變量是顯著的。中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 99 001 ???使 用 同 樣 的 方 法 ， 也 可 以 檢 驗(yàn) 參 數(shù) 的 顯 著 性 ， 但是 的 顯 著 性 問 題 沒 有 的 顯 著 性 問 題 那 么 重 要 ， 因 為不 涉 及 到 變 量 關(guān) 系 存 在 性 的 判 斷 ， 而 只 是 涉 及 變 量 關(guān) 系的 形 式 ， 即 有 沒 有 常 數(shù) 項(xiàng) 的 判 斷 。 要想判斷樣本參數(shù)的估計(jì)值在多大程度上可以 “ 近似 ” 地替代總體參數(shù)的真值，往往需要通過構(gòu)造一個(gè)以樣本參數(shù)的估計(jì)值為中心的 “ 區(qū)間 ” ，來考察它以多大的可能性（概率）包含著真實(shí)的參數(shù)值。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 102 ?i (i =0， 1） 的置信區(qū)間 在變量的顯著性檢驗(yàn)中已經(jīng)知道： 這意味著，如果給定置信度（ 1?），從分布表中查得自由度為 (n 2)的臨界值，那么 t 值處在 (t?/2, t?/2)的概率是 (1? )。同樣，另一個(gè)參數(shù)的 p值為 ，顯然我們拒絕原假設(shè)有充分的理由。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 107 補(bǔ)充說明 —— 殘差的正態(tài)性檢驗(yàn) 殘差直方圖 正態(tài)概率圖 JB檢驗(yàn) 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 108 殘差直方圖 （ Histogram of Residuals） 用于了解隨機(jī)變量概率密度函數(shù)的形狀如何。 橫軸標(biāo)出所關(guān)注變量的值，在縱軸標(biāo)出該變量服從正態(tài)分布所對(duì)應(yīng)的均值。 如果變量服從正態(tài)分布，則 JB統(tǒng)計(jì)量的值為 0。 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 112 補(bǔ)充說明 —— 回歸結(jié)果的提供和分析 回歸結(jié)果的分析應(yīng)包括以下內(nèi)容 ? 參數(shù)的說明 ? 擬合情況 ? 方程的顯著性 ? 系數(shù)的顯著性 ? 其他（比如 DW檢驗(yàn)的情況） 中央財(cái)經(jīng)大學(xué)統(tǒng)計(jì)學(xué)院 邊雅靜 113 模型的預(yù)測(cè) 參數(shù)估計(jì)量不確定 隨機(jī)項(xiàng)的影響 對(duì)于雙變量線性回歸模型 01? ??iiYX????給定樣本以外的解釋變量的觀測(cè)值 X0，可以得到被解釋變量的預(yù)測(cè)值 ?0，可以此作為其條件均值E(Y|X = X0)或個(gè)別值 Y0的一個(gè)近似估計(jì)