[理學]08第8章相關(guān)與回歸分析龐皓(已改無錯字)
2023-02-05 05:30:34 本頁面
【正文】 多元回歸模型的假定 相同的假定 : 零均值、同方差、無自相關(guān)、 隨機擾動項與自變量不相關(guān)、 U正態(tài)性 增加的假定： 各自變量之間不存在線性關(guān)系 。 在此條件下，自變量觀測值矩陣 X列滿秩 Rank( X ) = k 方陣 XX? 滿秩 Rank( )= k 意義： 可逆， 1(X X )? 存在 ?XX?XX?41(47) 多元回歸參數(shù)的最小二乘估計 使殘差平方和 達到最小，其充分必要條件 21 2 2 3 3? ? ? ?[ ( ) ]i i i k k iY X X X? ? ? ?? ? ? ? ??2ie ??2()0 1 , 2 , ,? ije jk?? ????正規(guī)方程組 ^ ^ ^1 2 2 i k k i in X X Y? ? ?? ? ? ?? ? ? ^ ^ ^21 2 2 2 2 2i i k i k i i iX X X X X Y? ? ?? ? ? ?? ? ? ? ^ ^ ^ 21 2 2k i i k i k k i k i iX X X X X Y? ? ?? ? ? ?? ? ? ? 41(48) 多元線性回歸的最小二乘估計式 正規(guī)方程組可簡記為矩陣形式 ???^( X X ) β XY? 1(X X ) 存在 參數(shù)向量 β的最小二乘估計為 ? ???? 1β ( X X ) X Y參數(shù)最小二乘估計的性質(zhì) 可以證明：多元線性回歸的最小二乘估計也是最佳線性無偏估計。 41(49) 隨機誤差項方差的估計 方差 未知，需要利用樣本回歸的殘差平方和 去估計。 2?可以證明 ， 22? ien k n k N k?? ? ? ??? ? ?? ? ??^e e Y Y β XY2??是隨機擾動項方差 的無偏估計 2?? 2?41(50) 三、多元線性回歸模型的檢驗 擬合優(yōu)度檢驗 多元線性回歸離差平方和的分解式 變差 2 2 2? ?( ) ( ) ( )i i i iY Y Y Y Y Y? ? ? ? ?? ? ? TSS = RSS + ESS (總離差平方和 ) (殘差平方和 ) (回歸平方和 ) 自由度 n1 = nk + k1 多重可決系數(shù)： 22211 ()iieE S S TS S R S S R S SRTS S TS S TS S Y Y?? ? ? ? ? ????41(51) 修正的可決系數(shù) 為什么要修正？ 可決系數(shù)是自變量個數(shù)的不減函數(shù)，比較因變量相同而自變量個數(shù)不同的兩個模型的擬合程度時，不能簡單地對比多重可決系數(shù)。需要用自由度去修正多重可決系數(shù)中的殘差平方和與回歸平方和 相互關(guān)系 ： 22 11 ( 1 ) nRRnk?? ? ??22222() 111( ) ( 1 ) ( )iiiie n k enRY Y n n k Y Y? ?? ? ? ?? ? ? ?????41(52) 回歸參數(shù)的顯著性檢驗 —— t 檢驗 在多元回歸中可以證明 ^()jjE ??? ^ 2()j j jVa r c??? 其中： jjc是矩陣 ?? 1(X X )第 j行第 j列的元素。 因為 2? 未知，故 ?()jV a r ? 也未知。現(xiàn)用 2??代替 對原假設 分別作 t檢驗 2? ， 可構(gòu)造統(tǒng)計量 ?~ ( )?jjjjt t n kC??????： 0 :0jH ? ? ( 1 , 2 )jk?41(53) 回歸方程的顯著性檢驗 —— F 檢驗 目的 : 檢驗多個變量聯(lián)合對因變量是否有顯著影響 方法 : 在方差分析的基礎(chǔ)上利用 F檢驗進行 假定 : 0 1 2:0 kH ? ? ?? ? ? ?不全為零 方 差 分 析 表 離差來源 平方和 自由度 方差 源于回歸 源于殘差 k1 nk ESS/(k1) RSS/( nk) 總離差 n1 1 : ( 1 , 2 , , )jH j k? ?2?()iE S S Y Y???2?()iiR S S Y Y???2()iT S S Y Y???41(54) F檢驗的方法 給定顯著性水平，在 F分布表中查出自由度為 k1和 nk 的臨界值 0H( 1 ) ~ ( 1 , )()E S S kF F k n kR S S n k?? ? ??F服從自由度為 k1 和 nk 的 F 分布。 F檢驗： 在 成立的條件下，統(tǒng)計量 ( 1 , )F k n k? ??: ▲ 若 ，則拒絕 ， 說明回歸方程中所有自變量聯(lián)合起來對因變量有顯著影響 0 1 2:0 kH ? ? ?? ? ? ?( 1 , )F F k n k?? ? ?▲ 若 ，則接受 ， 說明回歸方程中所有自變量聯(lián)合起來對因變量影響不顯著 ( 1 , )F F k n k?? ? ? 0H41(55) 四、多元線性回歸模型的預測 點預測值 預測的殘差 可證明 用 代替 ，則 構(gòu)造 t 統(tǒng)計量 給定顯著性水平 ,可得臨界值 臵信度為 的預測區(qū)間為 ^ ^ ^ ^1 2 2f f k k fY X X? ? ?? ? ? ? ?fY^f f fe Y Y??2~ { 0 , [ 1 ] }feN ? ???? 1ffX ( X X ) X^ 1efS ?????? 1ffX (X X ) X?~ ( )? 1fffYYt t n k? ??????? 1fX ( X X ) X2 ()t n k? ???? ?1 ??22? ?? ?11f f f f fY t Y Y t???? ??? ? ? ?? ? ? ? ? ?11ffX ( X X ) X X
教學課件相關(guān)推薦
鄂ICP備17016276號-1