多元線性回歸ppt課件-在線瀏覽
2024-12-21 19:30本頁(yè)面
【正文】 i 區(qū)分觀測(cè)（ i＝ 1， 2， ……n ） 1 , 2 , ,in?0 1 1 2 20100...( 1 )i i i k ki ikj ji ijkj ji ijY X X XXXX? ? ? ? ?? ? ????? ? ? ? ? ?? ? ?????? 總體回歸函數(shù)（ PRF） kikiikiiii XXXXXXYE ???? ???????? 2211021 ),|( ?? 樣本回歸函數(shù)（ SRF） kikiiii XXXY ???? ????? 22110 ????? ?? 樣本回歸模型（ SRM） ikikiiii eXXXY ?????? ???? ???? 22110 ?其中： ei 稱為 殘差 (residuals)，可看成是隨機(jī)誤差項(xiàng) ?i的近似替代。 ?假設(shè) 2：隨機(jī)誤差項(xiàng) ?具有零均值 、 同方差和無(wú)序列相關(guān)性： E(?i)=0 Var (?i)=?2 i=1,2, … ,N Cov(?i, ?j)=0 i≠j i,j= 1,2, …,N ?假設(shè) 3：隨機(jī)誤差項(xiàng) ?與解釋變量 X之間不相關(guān)： Cov(Xji, ?i)=0 i=1,2, …,N ?假設(shè) 4： ?服從零均值、同方差、零協(xié)方差的正態(tài)分布 ?i~N(0, ?2 ) i=1,2, …,N 基本假設(shè)的矩陣表示 假設(shè) 1: n?(k+1)矩陣 X是非隨機(jī)的，且 X的秩 ?=k+1，即 X列滿秩 。 多元線性回歸模型的參數(shù)估計(jì) 一、普通最小二乘估計(jì) 二、參數(shù)估計(jì)量的性質(zhì) 三、樣本容量問(wèn)題 參數(shù)估計(jì)的任務(wù)和方法 估計(jì)目標(biāo)：回歸系數(shù) βj、隨機(jī)誤差項(xiàng)方差 б2 估計(jì)方法： OLS、 ML或者 MM * OLS：普通最小二乘估計(jì) * ML：最大似然估計(jì) * MM：矩估計(jì) 一、普通最小二乘估計(jì) ? 基本思想：殘差平方和最小 ? 基于取得最小值的條件獲得系數(shù)估計(jì)） 殘差平方和 ： 2112 )?(???????niiinii YYeQ2122110 ))????((????????nikikiii XXXY ???? ?取得最小值的條件： ?????????????????0?0?0?0?210k?????????????正規(guī)方程組 ： ?????????????????????????????????????kiikikikiiiiikikiiiiiikikiiikikiiXYXXXXXYXXXXXYXXXXYXXX)????()????()????()????(221102222110112211022110????????????????????? 解此（ k＋ 1）個(gè)方程組成的正規(guī)方程組，即可求得 （ k+1)個(gè)未知參數(shù) βj 的估計(jì) 。),()2121?????????????????BBBAAaaaAABABnn?????????? ??矩陣有關(guān)定理 殘差平方和的矩陣表示為： 2 ? ?( ) ( )iQ e e e Y X Y X????? ? ? ? ??參數(shù)估計(jì)的實(shí)例 例 ： 在例 家庭收入 消費(fèi)支出 例中， ????????????????????????????????????????????5 3 6 5 0 0 0 02 1 5 0 02 1 5 0 010111111)(22121 iiinn XXXnXXXXXX ????XX 39。 k： 解釋變量 X的個(gè)數(shù)； k+1： 回歸系數(shù)的個(gè)數(shù) 稱為 估計(jì)標(biāo)準(zhǔn)誤 或者 回歸標(biāo)準(zhǔn)誤 （ of regression） 2? ????11?22??????? ?knkne i ee?39。 似然函數(shù) ： )?()?(21))????((212122222211022)2(1)2(1),(),?(βXYβXYβ?????????????????????????eeYYYPLnXXXYnnnkikiiin??),(~ 2?βX iNY i 最大似然估計(jì) MLE： YXXXβ 1 ??? ?)(?參數(shù)的 MLE與參數(shù)的 OLSE相同 *矩估計(jì) * （ Moment Method， MM） OLS估計(jì)是通過(guò)得到一個(gè)關(guān)于參數(shù)估計(jì)值的 正規(guī)方程組 YXβX)X( ??? ?并對(duì)它進(jìn)行求解而完成的。βXX39。 0X βYX ??? )((E 稱為原總體回歸方程的一組 矩條件 ，表明了 原總體回歸方程所具有的內(nèi)在特征。 *關(guān)于矩估計(jì) * 矩方法是工具變量方法 (Instrumental
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1