【正文】 ) 1r k n pN ? ? ?由于 41 ? ?? ?111( ) ( )()()1nrk t rn t rn t rnpN I X X X XX X X XX X X X???????????????? ? ?因?yàn)? 是冪等陣 ， 所以有 ； 故 N ( ) ( )r k t rNN?這就證明了性質(zhì) 6的 (2)。 試建立不良貸款 y與貸款余額 x累計(jì)應(yīng)收貸款 x 貸款項(xiàng)目個(gè)數(shù) x3和固定資產(chǎn)投資額 x4的線性回歸方程 ， 并解釋各回歸系數(shù)的含義 ?用 Excel進(jìn)行回歸 0 1 1 2 2 3 3 4 4? ? ? ??y x x x x? ? ? ? ?? ? ? ? ?32 例題分析 33 S ta n d a r d iz e d C o e f f ic ie n tsB S td . E r r o r B e ta( C o n s ta n t) 0 . 5 8 4 0 . 9 5 7 0 . 6 1 0 0 . 5 4 9各項(xiàng)貸款余額 0 . 0 3 2 0 . 0 1 0 0 . 7 2 2 3 . 2 8 2 0 . 0 0 4本年累計(jì)應(yīng)收貸款 0 . 1 8 7 0 . 0 8 3 0 . 3 2 8 2 . 2 5 8 0 . 0 3 5貸款項(xiàng)目 0 . 0 2 6 0 . 0 8 4 0 . 0 6 1 0 . 3 0 7 0 . 7 6 2本年固定資產(chǎn)投資額 0 . 0 2 2 0 . 0 1 6 0 . 1 4 9 1 . 3 2 4 0 . 2 0 01a . D e p e n d e n t Va r ia b le : 不良貸款C o e f f i c i e n t s ( a)M o d e l U n s ta n d a r d iz e d C o e f f ic ie n tst S ig .用 SPSS計(jì)算得結(jié)果 ， 下表為 Excel結(jié)果 1 2 3 4? 0 . 5 8 4 0 . 0 3 2 0 . 1 8 7 0 . 0 2 6 0 . 0 2 2y x x x x? ? ? ? ? ?Coefficients 標(biāo)準(zhǔn)誤差 t Stat Pvalue Lower 95% Upper 95% 下限 9 5 . 0 % 上限 9 5 . 0 %Intercept X Variable 1 X Variable 2 X Variable 3 X Variable 4 34 參數(shù)估計(jì)量的統(tǒng)計(jì)性質(zhì) 統(tǒng)計(jì)性質(zhì) ? 性質(zhì) 1 是隨機(jī)向量 的一個(gè)線性變換 ? 性質(zhì) 2 是 的無(wú)偏估計(jì) ? 性質(zhì) 3 ? 性質(zhì) 4 GaussMarkov定理 在假定 時(shí)， 是 的任一線性函數(shù) 的最小方差線性無(wú)偏估計(jì) (BLUE)。 2H = HH iih1( ) 1niiit r h p?? ? ??H12 ?( , , )ne e e ?? ? ? ?e y y y H y ( I H ) y22 殘差向量 e的協(xié)方差陣為 22( ) c o v ( )c o v ( ( )( ) c o v ( )( ) ( )()nDI?????????e e , eI H ) y , ( I H ) yI H y , y ) ( I HI H I HI H于是有 2( ) ( 1 )i i iD e h ???23 根據(jù) ()式可知，殘差滿足關(guān)系式 1000iiii ipeexex?????????????24 誤差項(xiàng)方差 的無(wú)偏估計(jì)為 2?22111? ()1111niiSSEn p n penp?????? ? ? ?????ee25 回歸參數(shù)的極大似然估計(jì) (MLE) 多元線性回歸參數(shù)的 MLE與一元線性回歸時(shí) MLE思想一致；對(duì)于多元線性回歸模型： 即 遵從多元正態(tài)分布 ， 那么 的概率分布為 2( 0 , )nN ????? ??yX β εε Iε y2( , )nN ??yX β I26 這時(shí)，似然函數(shù)為 2 / 221( 2 ) e xp ( ) ( )2nL ???? ?? ?? ? ? ?????yX β yX β221l n l n ( 2 ) l n ( ) ( ) ( )2 2 2nnL ??? ?? ? ? ? ? ?yX β yX β求上式的極大值 ， 等價(jià)于對(duì) 求極小值 ， 到此與 OLSE完全相同 ， 即 ( ) ( )???yX β yX β? ??1β = (X X ) X y27 誤差項(xiàng)方差 的 MLE為 2?2 11? ()L SSEnn? ??? ee 這是 的有偏估計(jì) ， 但它滿足一致性 ， 在大樣本的情況下 ， 是 的漸進(jìn)無(wú)偏 估計(jì)量 。1 第 3 章 多元線性回歸 多元線性回歸模型 回歸方程的擬合優(yōu)度 顯著性檢驗(yàn) 中心化和標(biāo)準(zhǔn)化 相關(guān)陣與偏相關(guān)系數(shù) 2 學(xué)習(xí)目標(biāo) 1. 回歸模型、回歸方程、估計(jì)的回歸方程 2. 回歸方程的擬合優(yōu)度 3. 回歸方程的顯著性檢驗(yàn) 4. 利用回歸方程進(jìn)行估計(jì)和預(yù)測(cè) 5. 用 SPSS或 Excel 進(jìn)行回歸分析 3 多元線性回歸模型 多元回歸模型與回歸方程 估計(jì)的多元回歸方程 參數(shù)的最小二乘估計(jì) 4 多元回歸模型與回歸方程 5 多元回歸模型 (multiple regression model) 1. 一個(gè)因變量與兩個(gè)及兩個(gè)以上自變量的回歸 2. 描述因 變量 y 如何依賴于自變量 和誤差項(xiàng) 的方程 ， 稱為多元回歸模型 3. 涉 及 p 個(gè)自變量的多元回歸模型可表示為 ? 是參數(shù) ? 是被稱為誤差項(xiàng)的隨機(jī)變量 ? y 是 的線性函數(shù)加上誤差項(xiàng) ? 包含在 y里面但不能被 p個(gè)自變量的線性關(guān)系所解釋的變異性 0 1 1 2 2 ppy x x x? ? ? ? ?? ? ? ? ? ?() 01, , , , p? ? ?12, , , px x x???12, , , px x x?6 多元回歸模型 (基本假定 ) ■ GaussMarkov假設(shè) 1. 誤 差項(xiàng) 是一個(gè)期望值為 0的隨機(jī)變量 ，即 ； 2. 對(duì)于 自變量 的所有值 ， 的方差 都相同； 3. 誤 差項(xiàng) 是彼此相互獨(dú)立的 。 的主對(duì)角線元素記為 ，可 以證明，帽子矩陣的跡為 稱 為回歸殘差向量 。 選取 1998年我國(guó) 31個(gè)省 、 市 、 自治區(qū)的 1x 2x3x 4x5x 6x7x 8x 9x10x 11x12x29 S ta n d a r d iz e d Co e f f ic ie n tsB S td . E r r o r B e ta L o w e r B o u n d U p p e r B o u n d( Co n s ta n t) 2 0 5 . 5 5 2 1 1 6 . 9 6 4 1 . 7 5 7 0 . 0 9 6 4 5 1 . 2 8 5 4 0 . 1 8 1X1 1 . 4 9 5 2 2 . 8 8 7 0 . 0 1 3 0 . 0 6 5 0 . 9 4 9 4 9 . 5 7 8 4 6 . 5 8 8X2 2 . 6 4 9 1 8 . 5 9 2 0 . 0 2 3 0 . 1 4 2 0 . 8 8 8 3 6 . 4 1 1 4 1 . 7 0 9X3 3 . 2 9 1 2 . 4 6 7 0 . 7 4 8 1 . 3 3 4 0 . 1 9 9 1 . 8 9 1 8 . 4 7 3X4 0 . 9 4 4 1 . 2 9 8 0 . 3 1 2 0 . 7 2 7 0 . 4 7 6 3 . 6 7 0 1 . 7 8 2X5 5 . 5 1 2 4 . 5 1 2 0 . 9 6 1 1 . 2 2 1 0 . 2 3 8 1 4 . 9 9 1 3 . 9 6 8X6 4 . 0 6 0 3 . 9 5 7 0 . 7 5 8 1 . 0 2 6 0 . 3 1 8 4 . 2 5 3 1 2 . 3 7 4X7 4 . 1 6 2 5 . 0 7 7 0 . 4 4 6 0 . 8 2 0 0 . 4 2 3 6 . 5 0 4 1 4 . 8 2 8X8 1 5 . 4 3 6 1 0 . 8 2 9 0 . 5 2 1 1 . 4 2 5 0 . 1 7 1 3 8 . 1 8 7 7 . 3 1 5X9 1 7 . 3 7 3 8 . 3 6 8 1 . 0 4 0 2 . 0 7 6 0 . 0 5 2 0 . 2 0 6 3 4 . 9 5 3X 1 0 9 . 1 2 7 1 0 . 1 6 0 0 . 2 2 1 0 . 8 9 8 0 . 3 8 1 1 2 . 2 1 8 3 0 . 4 7 1X 1 1 1 0 . 5 3 7 5 . 6 1 9 0 . 7 8 0 1 . 8 7 5 0 . 0 7 7 2 2 . 3 4 3 1 . 2 6 9X 1 2 1 . 3 6 0 5 . 0 0 5 0 . 0 4 2 0 . 2 7 2 0 . 7 8 9 9 . 1 5 5 1 1 . 8 7 5a . D e p e n d e n t Va r ia b le : YCo e f f i c i e n t s ( a) U n s ta n d a r d iz e d Co e f f ic ie n tst S ig .9 5 % Co n f id e n c e I n te r v a l f o r B數(shù)據(jù) ， 以國(guó)際旅游外匯收入為因變量 ， 建立 多元回歸方程： y30 因而對(duì) 12個(gè)自變量的線性回歸方程為 1 2 34 5 6 78 9 1 01 1 1 2? 2 0 5 .5 5 2 1 .4 9 5 2 .6 4 9 3 .2 9 10 .9 4 4 5 .5 1 2 4 .0 6 0 4 .1 6 21 5 .4 3 6 1 7 .3 7 3 9 .1 2 71 0 .5 3 7 1 .3 6 0y x x xx x x xx x xxx? ? ? ? ?? ? ? ?? ? ???31 參數(shù)的最小二乘法 (例題分析 ) 【 例 】 一家大型商業(yè)銀