【正文】 n1?)?(v a r ??? ? ?? ? ??????)r1(x?xxxxx?)?(va r21222i222i1i22i21i21i22???? ? ?? ? ??????)r1(x?xxxxx?)?(va r21221i222i1i22i21i22i21???第二節(jié) 多元線(xiàn)性回歸模型的參數(shù)估計(jì) 一、多元線(xiàn)性回歸參數(shù)的最小二乘估計(jì) 二、最小二乘估計(jì)量的數(shù)值性質(zhì) 三、最小二乘估計(jì)量的統(tǒng)計(jì)性質(zhì) 四、參數(shù)的估計(jì)誤差與置信區(qū)間 四、參數(shù)的估計(jì)誤差與置信區(qū)間 根據(jù)矩陣相等的意義，矩陣相等即對(duì)應(yīng)位置的元素相等，回歸參數(shù)估計(jì)量 的方差、標(biāo)準(zhǔn)差，協(xié)方差 其中 為矩陣 中第 i行和第 j列元素。 特別地，對(duì)二元回歸模型而言： ? ?? ? ? ? ? ?? ?? ? ? ? ??? 22122221222221122221121122? ? ?? ???? ?? ? ? ???????????? xxxx xXXXXXXXX XXiiiiiiiiiiV a r1,12)?( ??? jjj CV a r ?? 1,1)?( ??? jji CSE ?? 1,12)?,?( ??? jiji CC o v ???jiC 1X)X( ??? ?? ? ? ? ? ?? ?? ? ? ? ??? 22122221212221122221122221? ? ?? ???? ?? ? ? ???????????? xxxx xXXXXXXXX XXiiiiiiiiiiV a ri??1．參數(shù)的估計(jì)誤差 可證明 22 )1()( ????? kneEi2)1( ???? knEee39。由此得： 11?22????????knkne i ee?令 22 )?( ?? ?E即 11?2????????knkne i ee?因此， 1,121,122 )1(?)?(? ???? ?????jjijjj CkneCES ??1,121,1 1?)?(? ???? ?????jjijij CkneCES ??稱(chēng)為方程的 估計(jì)標(biāo)準(zhǔn)誤差 。 2．參數(shù)的置信區(qū)間 ～ N（ ， Cj+1， j+1 ） 進(jìn)行標(biāo)準(zhǔn)化標(biāo)準(zhǔn)化得： 由數(shù)理統(tǒng)計(jì)定理可知： 所以，對(duì)于給定的置信度 1 ，由分布表可查得臨界值 使得 j?? j? 2?? ?1,0~21,1NCZjjjj????????j??)1(~)?(?????? kntESjtjj????2?t??? ????? 1)(22tttp?????? ?????? 1))?(??(22tEStpjjj即： ?????? ?? ?????? 1))?(??)?(??( 2/2/ jjjjj EStEStpj? ?偏回歸參數(shù) 的 100（ 1 ） %的置信區(qū)間為： ? ?)?(??),?(?? 2/2/ jjjj EStESt ???? ?? ???i?即以 100(1 )％的概率保證回歸參數(shù)屬于該區(qū)間內(nèi)。 由于偏回歸系數(shù)都是與變量的原有單位有直接的聯(lián)系，計(jì)量單位不同，彼此不能直接比較計(jì)量單位不同的解釋變量對(duì)被解釋變量的影響大小。 為此，在比較被解釋變量對(duì)各個(gè)解釋變量的敏感性時(shí)，可以將偏回歸系數(shù)轉(zhuǎn)換為 Beta系數(shù) ，其 定義 如下： kjyxss jjYXjjj,2,1 ??? 22??????? ???3. 標(biāo)準(zhǔn)化系數(shù) (Beta系數(shù) ) 特別的 對(duì)二元回歸模型： 兩邊減去 得到： 變形： 進(jìn)行變量的標(biāo)準(zhǔn)化變換， 因?yàn)? 所以 則 iXiXXiXYiY SXXSSXXSSYYS ??? ???????2211222?111?iiii eXXY ???? 22110 ??? ???iiiii eXXXXYY ?????? )(?)(? 222111 ??22110 ??? XXY ??? ???iXiYXXiYXYi S XXSSS XXSSS YY ??? ????????2211 222111 ??11111*1XiXii SxS XXX ???2212*22 XiXii SxS XXX ???YiYii SyS YYY ???*iiii eXXY ???? *2*2*1*1* ?? ??22111*1 ???1yxSS iYX???? ??? 22222*2 ???2yxSS iYX???? ???，我們就說(shuō)把這個(gè)變量標(biāo)準(zhǔn)化了。標(biāo)準(zhǔn)化變量其均值總是 0，標(biāo)準(zhǔn)差總是 1。 ，截距項(xiàng)總是 0，是一個(gè)過(guò)原點(diǎn)的回歸。 Beta系數(shù)可解釋為，如果標(biāo)準(zhǔn)化回歸元增加一個(gè)單位的 標(biāo)準(zhǔn)差 ，則標(biāo)準(zhǔn)化回歸子平均增加 單位個(gè) 標(biāo)準(zhǔn)差 。度量變量影響以其標(biāo)準(zhǔn)差作為單位。 注意： *j?? beta系數(shù)作為各個(gè)回歸元相對(duì)解釋力的一種度量，通過(guò)將回歸元標(biāo)準(zhǔn)化，可以將其放在同等地位并直接進(jìn)行比較。 如果一個(gè)標(biāo)準(zhǔn)化回歸元的系數(shù)比模型中另一個(gè)標(biāo)準(zhǔn)化回歸元的系數(shù)大，那么前者就能比后者更多地解釋回歸子。 注意： 本章要點(diǎn) 多元線(xiàn)性回歸模型 多元線(xiàn)性回歸模型的概念 多元線(xiàn)性回歸模型的參數(shù)估計(jì) 多元線(xiàn)性回歸模型的統(tǒng)計(jì)檢驗(yàn) 非線(xiàn)性回歸模型 第三節(jié) 多元線(xiàn)性回歸模型的統(tǒng)計(jì)檢驗(yàn) 重點(diǎn)： t檢驗(yàn)與模型整體顯著性 F檢驗(yàn)的關(guān)系 3. F檢驗(yàn)與擬合優(yōu)度之間的關(guān)系 第三節(jié) 多元線(xiàn)性回歸模型的統(tǒng)計(jì)檢驗(yàn) 一、模型的擬合優(yōu)度檢驗(yàn) 二、偏回歸系數(shù)的顯著性檢驗(yàn) 三、模型總體線(xiàn)性顯著性檢驗(yàn) 一、模型的擬合優(yōu)度檢驗(yàn) 設(shè)估計(jì)的多元樣本線(xiàn)性回歸函數(shù)為 則帶殘差項(xiàng)的多元樣本線(xiàn)性回歸模型為 則 kikiii XXXY ???? ?????? ?22110 ???ikikiii eXXXY ?????? ???? ?22110 ???iii eYY ??? YeYYYiii ?????1．總離差平方和分解 總離差平方和 iiii eYYeYY )(2)(22 ??????? ?? ?021 ????????? iikiiiii eXeXeXe ?由最小二乘法知 iiiii eYeYeYY ???????? )(0????22110?????????????iikkiiiiiiieXeXeXeeY???? ?因此 222 )?()( iii eYYYY ???????222 )()()(iiiii eYYYeYYY ????????????回歸平方和與殘差平方和 222 ?iii yey ?????記成 TSS = RSS + ESS 22 )( YYyT S S ii ?????22 )?(? YYyE S S i ???? ?? ???? 22 ? ）（ iii YYeR S S總離差平方和 回歸平方和 殘差平方和 2．判定系數(shù) 用回歸平方和 （ ESS） 占總平方和 （ TSS） 的比重作為衡量模型對(duì)樣本擬合優(yōu)度的指標(biāo) ， 稱(chēng)為 多元判定系數(shù) ，用符號(hào) R2表示： 顯然 ， ， 并且當(dāng) 越接近于 1時(shí) ， 越接近于0；因此 ， R2的值越接近 1， 則表明模型對(duì)樣本數(shù)據(jù)的擬合優(yōu)度越高 。 2222222222 1?)()(iiiiiiiiiyeyeyyyYYYYT S SE S SR?????????????????? ?10 2 ?? R 2R 2ie?回歸平方和分解 用式： 減式： 得： 由于 于是 因此 kikiii XXXY ???? ????? 22110 ????? ?kk XXXY ???? ???? 22110 ????? ?kikiikkikiiiixxxXXXXXXYYy?????????)(?)(?)(???2211222111??????????????kikiiiiiiiiiiiixxxyyyYYyYYYYYYe??? ????)(2211 ???????????????????ikikiiiiiikikiiiiikikiiiiiyxyxyxyyxxxyyexxxyee????????????????????????????????????)???()???(12112221122112????ikikiiiiiii yxyxyxeyy ??????????? ? ??? ???? 12211222 ? 在多元回歸中 R2是模型中解釋變量個(gè)數(shù)的非減函數(shù)，也就是說(shuō)，隨著模型中解釋變量個(gè)數(shù)的增加， 的值通常都會(huì)變大。為了得到擬合優(yōu)度較高的模型，似乎加入更多解釋變量是合理選擇，但是在建立計(jì)量經(jīng)濟(jì)模型時(shí)，隨著解釋變量個(gè)數(shù)的增加，待估計(jì)的參數(shù)也會(huì)增多，由此造成樣本自由度減少，模型參數(shù)估計(jì)的準(zhǔn)確性下降。 注意： 因此，在多元回歸模型中，僅僅依據(jù) R2對(duì)模型作比較和選擇會(huì)產(chǎn)生問(wèn)題，在增加新的解釋變量時(shí)，必須對(duì)由其帶來(lái)的模型自由度下降這一 “ 負(fù)面影響 ” 而做出 “ 懲罰 ” ，因此，需要對(duì) R2作出相應(yīng)的修正。 注意： : 在一元回歸中判定系數(shù)為 由于 于是 21222122212221222?????iiiiiiiii yxyyxxxyyxyxyyR??????????????????? ????ikikiiiiiii yxyxyxeyy ??????????? ? ??? ???? 12211222 ?2112??iikikiiyyxyxR?????? ?? ?校正的辦法 將 中的第二項(xiàng)乘一個(gè)不小于 1的因子 ， 若方程中解釋變量個(gè)數(shù) k大 ， 所乘因子也大；在樣本容量一定的情況下 ， 由于 RSS的自由度 nk1隨著解釋變量個(gè)數(shù) k的增大而減少 。 如果用自由度去校正所計(jì)算的變差平方和 ， 就可以克服因?yàn)榻忉屪兞總€(gè)數(shù)不同而引起的判定系數(shù)對(duì)比的困難 。 因此定義 為校正判定系數(shù) 。 222 1iiyeR????111)1/()1/(122222???????????????knnyenykneRiiii 的聯(lián)系 22與RR11)1(1 22??????knnRR)1)(11(1111 2222 RknnyeknnRii ?????????????11