第7章最小二乘估計(jì)的改進(jìn)-在線瀏覽
2024-12-14 22:25本頁(yè)面
【正文】 輕微 若0 k 1 0較強(qiáng) 若1 0 k 3 0嚴(yán)重 若k 3 0 （ 3 ）方差膨脹因子檢驗(yàn)法 基于復(fù)相關(guān)系數(shù)iR可以定義各個(gè)解釋變量iX的容忍度（ T O L ，t o l e r a n c e ）與方差膨脹因子（ V I F ， v a r i a n c e i n f l a t i on f a c t o r ）如下： 21iiT O L R??，該值越小，意味著變量iX不由其余解釋變量說(shuō)明的部分相對(duì)越小， 211iiV IFR??，對(duì)于不好的試驗(yàn)設(shè)計(jì)， V I F 的取值可能趨于無(wú)限大。改進(jìn)的方法有很多，我們介紹其中的二種： （ 1 ） 從減少均方誤差的角度出發(fā)，引入嶺估計(jì)； （ 2 ） 從消除 X 的列向量間的多重其線性關(guān)系出發(fā)，引入主成分估計(jì)。 167。由嶺估計(jì)建立的回歸方程稱為嶺回歸。 定義 2 ：對(duì)于每個(gè)i，當(dāng)? ??? ,0k時(shí)，)(? k?的第i個(gè)分量)(? ki?作為k的函數(shù)，在直角坐標(biāo)系下， 稱 由 點(diǎn)? ?)(?, kk i?所構(gòu)成的曲線為嶺跡。 ? ? 1? () mkk X X k I X Y W X Y? ?? ? ?? ? ? 其中? ? 1kmW X X k I ????，由此可見(jiàn)，嶺估計(jì)仍是 Y 的線性函數(shù)，所以仍是線性估計(jì)。39。k m mZ X X k I X X I k X X??? ????? ? ? ??? kZ與kW之間的關(guān)系如下： ? ? ? ? ? ?? ?? ?11k k m m mm m m kZ W X X X X k I X X k I k II k X X k I I k W??? ? ?? ? ? ? ??? ? ? ? ? ( 3) 若 XX ? 的特征根為021 ??? m??? ?，對(duì)應(yīng)的特征向量為 mlll ?, 21，則有? ? millXX iii ?,2,1, ??? ? 從而由于? ? ? ? , 1 , 2 ,m i i iX X k I l k l i m?? ? ? ? ? 則有：? ? ? ?11 , 1 , 2 ,m i i iX X k I l k l i m???? ? ? ? ?，即有： ? ? milklW iiik ?,2,1,1 ??? ?? 可知：kW的特征根為? ? miki ?,2,1,1 ?? ?? ( 4) 由于? ? millXX iii ?,2,1,11 ??? ?? ? 則? ?11 , 1 , 2 ,m i iikI k X X l l i m?? ???? ?? ? ? ??????? 從而? ?11, 1 , 2 ,im i iiI k X X l l i mk?????? ?? ? ??? ? 所以有：miilkiilkZi?,2,1, ????? 可知：kZ的特征根為mikii?,2,1, ???? ( 5 ) 并且kZ與kW之間它們的特征向量與 XX ? 的特征向量相同，與k無(wú)關(guān)。 ? ? ? ? ? ?????????mikEkEkEkr122)(?)(?)(?)( ?????? 即為嶺估計(jì)各分量的偏倚平方 之和。 由于)()()( 21 krkrkH ?????，故下面分別計(jì)算)(),( 21 krkr ??。 ? ?? ?? ?????????????????????????????222211000000000000100001kkkUm????????? 從而有? ? ? ? ? ?2 2 2 22 2 3 31 1 1( ) 2 2 2 0m m mi i i ii i ii i ikkr k kk k k? ? ? ?? ? ?? ? ?? ? ? ? ?? ? ?? ? ? 02)0()0()0(12221 ???????? ???miirrH ?? 由)( kH的連續(xù)性可知，在零的一個(gè)鄰域內(nèi)，存在 0?k 使)0()( HkH ?。下面給出幾個(gè)常用的選擇方法，各有優(yōu)點(diǎn)和缺點(diǎn)，目前還尚未找到確定 k 的最好方法。 方法二 、由于)(? k?在減小均方誤差的同時(shí)增大了殘差平方和，從而可以給定一個(gè) c 值（一般 1?c ）使： ? ? ? ? ? ? ? ????? ??)(?)(? XYXYckXYkXY ??????? 成立的最大的 k 值。 方法四 、由前面的討論可知： ? ? ? ?222221()mmiiiiiiH k kkk???????????? ?????????? 由于 2? 和?未知，故用?的最小二乘估計(jì)??
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1