多元線性回歸課件(編輯修改稿)
2025-02-16 03:41 本頁面
【文章內(nèi)容簡介】 Htr )1( ?? )1(2 Htr ?? ? 21[ ( ( ) ) ]tr I tr X X X X? ???? ))])(([ 12 XXXXtrn ???? ?? )( 12 ??? tt r In? )1(2 ??? tn? 注： 由這一性質(zhì)可知：12??? tnSSEs 是2? 的無偏估計(jì)。 性質(zhì)五（高斯 馬爾可夫定理） 在假設(shè)?XEY ?，nIDY2??下，?的任一線性函數(shù)?? ?的最小方差線性無偏估計(jì)為?? ??，其中?是任一不為零的1?t維向量，??是?最小二乘估計(jì)。 證明：（ 1 ）YXXX ????? ? 1)(? ??? 是 Y 的線性函數(shù)，所以是線性估計(jì)。 （ 2 ）)()()?( 1 YEXXXE ????? ???? ???? ?????? ? XXXX 1)( 故?? ??是?? ?的無偏估計(jì)。 （ 3 ） 為證?? ??是?? ?的一切線性無偏估計(jì)中的方差最小者，可設(shè)Yl?為?? ?的一個(gè)線性無偏估計(jì)，即對(duì)一切?有??? ????? XlYlE, 從而必要：? ???Xl, 又 ?????? 122 )()?()( ????????? XXllDYlD ])([ 12 lXXXXlll ?????? ?? 由于)1(2 H??是e的協(xié)方差矩陣，故必要為非負(fù)定矩陣，從而對(duì)一切n維向量l有 0)1( ??? lHl, 即?? ??是?? ?的一切線性無偏估計(jì)中方差最小者。 注：這一性質(zhì)決定了最小二乘估計(jì)在線性無偏估計(jì)意義下的優(yōu)越性。 下面一個(gè)性質(zhì)在假定),(~ 2 nn IXNY ??條件下討論。 性質(zhì)六 當(dāng)2~ ( , )nnY N X I??，則 （ 1 ）21? ~ ( , ( ) )N X X? ? ? ?? （ 2 ）SSE與??獨(dú)立； （ 3 ）22 ~ ( 1 )SSE nt???? 證明：（ 1 ）與（ 2 ）在前面已說明。下面證明性質(zhì)（ 3 ）。 由于))(1()()1( ?? XYHXYYHYSSE ????????，XXXXH ??? ? 1)(是一個(gè)非負(fù)定矩陣，其秩為X的秩1?t。所以必存在正交陣C使 ???????????0001tJCCH 其中：?????????????111ttJ??? 0?i?,1,2,1 ?? ti ?。由CCHCCHCCHCCH ??????? 2, 知：111 ??? ?? ttt JJJ 所以1?i? 1,2,1 ?? ti ? 令：)( ?XYCZ ??，則有： 0)( ??? ?XEYCEZ 2()nV arY CV ar Y X C I?? ?? ? ? 由),(~ 2 nn IXNY ??的假設(shè) 知),0(~ 2 nn INZ ?， 所以 ZCHCZS S E ???? )1(ZJZZZt?????????????0001? ??????nitiiizz11122????ntiiz22 因此 ，)1(~22?? tnxSSE?。 167。 回歸方程的顯著性檢驗(yàn) 在實(shí)際問題中，隨機(jī)變量y與一般變量txxx ?21之間究竟是否存在線性相關(guān)關(guān)系呢？如果Ey不隨txxx , 21 ?的變化而變化，則應(yīng)有：01 ??? t?? ?。否則Ey應(yīng)隨txxx , 21 ?的變化而作變化，所以有必要對(duì)回歸方程作顯著性檢驗(yàn)。即： :oH 021 ???? t??? ? 為 了找出上述假設(shè)檢驗(yàn)的統(tǒng)計(jì)量，可采用平方和分解的方法， SSRSSEyyyyyySSTniiniiinii ???????? ?????? 121212 )?()?()( 和一元線性回歸一樣， SS T 稱為總的平方和； SS E 稱為殘差平方和； SS R稱回歸平方和。 由上一節(jié)性質(zhì) 6 的證明可知：)1(~22?? tnSSE??。當(dāng)0H為真時(shí)，多元線性模型可改寫為：??? ??).0(~..20????Ndiiyiii 即),(~ 20 ??Ny i為dii ..的正態(tài)隨機(jī)變量，所以，由數(shù)理統(tǒng)計(jì)中的知識(shí)可知： )1(~22?nSST??，所以，當(dāng)0H為真時(shí)，)(~22tSSR??，并且SSR與SSE獨(dú)立。由上述討論構(gòu)造檢驗(yàn)統(tǒng)計(jì)量： ( 1 )S S R tFS S E n t??? 當(dāng)0H為真時(shí)，)1,(~ ?? tntFF。 221 1 122221 1 1 1 1( ) ( ) ( )( ) ( ) ( 1 ) ( )n n ti j ij j ii i jn t n n tj ij j i j ij ji j i i jSS T y y x xx x n x x? ? ?? ? ? ? ?? ? ?? ? ? ? ???? ? ? ? ? ? ? ? ?????? ? ? ?? ? ? ? ? ? ? ? ?? ? ? ?? ? ? ?? ? ?? ? ? ? ? 21 12)(? ?? ???????????nitjjijjxxtS S R ?? 當(dāng)0H為真時(shí)，0?j? tj ,
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1