【正文】
LL????? ??????????????????????0)??(?0)??(?21012100iiiiXYXY??????????????????????????????????2212220)(?)(?iiiiiiiiiiiiiXXnXYXYnXXnXYXYX??對數(shù)似然函數(shù) 對數(shù)似然函數(shù)極大化的一階條件 結(jié)構(gòu)參數(shù)的ML估計量 討論 ? 在滿足一系列基本假設(shè)的情況下,模型結(jié)構(gòu)參數(shù)的 最大似然估計量 與 普通最小二乘估計量 是相同的。 ? 這三個準(zhǔn)則也稱作估計量的 小樣本性質(zhì) 。 ? 下面分別對最小二乘估計量的線性性、無偏性和有效性進(jìn)行證明,作為不熟悉的同學(xué)的自學(xué)內(nèi)容。 ? 由于隨機(jī)項(xiàng) ?i不可觀測,只能從 ?i的估計 —— 殘差 ei出發(fā),對總體方差進(jìn)行估計。 一元線性回歸模型的統(tǒng)計檢驗(yàn) Statistical Test of Simple Linear Regression Model 一、擬合優(yōu)度檢驗(yàn) 二、變量的顯著性檢驗(yàn) 三、參數(shù)的置信區(qū)間 說 明 ? 回歸分析 是要通過樣本所估計的參數(shù)來代替總體的真實(shí)參數(shù),或者說是用樣本回歸線代替總體回歸線。 一、擬合優(yōu)度檢驗(yàn) Goodness of Fit, Coefficient of Determination 回答一個問題 ? 擬合優(yōu)度檢驗(yàn) : 對樣本回歸直線與樣本觀測值之間擬合程度的檢驗(yàn)。 ? 隨著抽樣的不同而不同。 ? 通過檢驗(yàn) 變量的參數(shù)真值是否為零 來實(shí)現(xiàn)顯著性檢驗(yàn)。 ? 判斷結(jié)果合理與否,是基于 “ 小概率事件不易發(fā)生 ” 這一原理的。 It is important to remember that no matter how the problem is stated, the null hypothesis will always contain the equal sign. The equal sign will never appear in the alternate hypothesis. Why is this so? Because the null hypothesis is the statement being tested. We turn to the alternate hypothesis only if we prove the null hypothesis to be untrue. ? 為什么一般將需要檢驗(yàn)的命題作為備擇假設(shè)? ? 從統(tǒng)計學(xué)角度 – 犯第一類錯誤(棄真)的概率 α小于犯第二類錯誤(取偽)的概率 β。 H1:βi≠0 – T=, α= – 給定 α=,不能拒絕“變量不顯著”的假設(shè);犯第 2類錯誤的概率 ≤。 ? 一般不以 t檢驗(yàn)決定常數(shù)項(xiàng)是否保留在模型中,而是從經(jīng)濟(jì)意義方面分析回歸線是否應(yīng)該通過原點(diǎn)。這種方法就是參數(shù)檢驗(yàn)的 置信區(qū)間估計 。 ? 要縮小置信區(qū)間,需要 – 增大樣本容量 n。 一元線性回歸分析的應(yīng)用: 預(yù)測問題 一、預(yù)測值條件均值 或 個值的一個無偏估計 二、總體條件均值與個值預(yù)測值的置信區(qū)間 ? 對于一元線性回歸模型 ii XY 10 ??? ?? ??給定樣本以外的解釋變量的觀測值 X0,可以得到被解釋變量的預(yù)測值 ?0 ,可以此作為其 條件均值 E(Y|X=X0)或 個別值 Y0的一個近似估計。 ?0是個值 Y0的無偏估計 對 總體回歸模型 Y=?0+?1X+?,當(dāng) X=X0時 ??? ??? 0100 XY0100100100 )()()( XEXXEYE ???????? ????????0100 ??? XY ?? ??0101000100 )?()?()??()?( XEXEXEYE ?????? ??????可見, ?0是個值 Y0的無偏估計。原因 : ? 參數(shù)估計量不確定; ? 隨機(jī)項(xiàng)的影響。 因?yàn)闃颖緟?shù)估計量的標(biāo)準(zhǔn)差與殘差平方和呈正比,模型擬合優(yōu)度越高,殘差平方和越小。 一元線性模型中 ?i 的置信區(qū)間 )2(~????? ntstiii???P t t t( )? ? ? ? ?? ? ?2 2 1P t s ti ii(?)?? ? ? ? ? ?? ?? ? ??2 21P t s t si i ii i( ? ? )? ?? ? ? ?? ?? ?? ? ? ? ? ? ? ?2 21T分布為雙尾分布 (1?)的置信度下 , ?i的置信區(qū)間是 ? 在上述 收入 消費(fèi)支出 例題中,如果給定 ? =,查表得: )8()2( 2??? tnt ?由于 ??S ??S于是, ? ?0的置信區(qū)間分別為: ( ,) ( ,) ? 顯然,在該例題中,我們對結(jié)果的正確陳述應(yīng)該是: 邊際消費(fèi)傾向 β 1是以 99%的置信度處于以 ( ,) 中。 ? 假設(shè)檢驗(yàn) 可以通過一次抽樣的結(jié)果檢驗(yàn)總體參數(shù)可能的假設(shè)值的范圍(例如是否為零),但它并沒有指出在一次抽樣中樣本參數(shù)值到底離總體參數(shù)的真值有多 “ 近 ” 。同時接受“變量顯著”的備擇假設(shè),犯錯誤的概率為 。 There is a tradeoff between αand β. Usually, for a given probability of a type 1 error , the procedure we choose will have as small a probability of a type 2 error as possible. 欠準(zhǔn)確 ? 為什么一般將需要檢驗(yàn)的命題作為備擇假設(shè)? ? 從邏輯學(xué)角度 – 通過樣本只能“證偽”,即拒絕 0假設(shè);不能“證實(shí)”,即接受 0假設(shè)。 ? 自學(xué)教材 p48例題,學(xué)會檢驗(yàn)的全過程。 ? 假設(shè)檢驗(yàn)采用的邏輯推理方法是反證法。 T S SR S ST S SE S SR ??? 12二、變量的顯著性檢驗(yàn) Testing Significance of Variable 說明 ? 在一元線性模型中,變量的顯著性檢驗(yàn)就是判斷 X是否對 Y具有顯著的線性性影響。 在給定樣本中, TSS不變, 如果實(shí)際觀測點(diǎn)離樣本回歸線越近,則 ESS在TSS中占的比重越大,因此 擬合優(yōu)度 : 回歸平方和 ESS/Y的總離差 TSS 可決系數(shù) R2統(tǒng)計量 ? 是一個非負(fù)的統(tǒng)計量。 ? 那么,在一次抽樣中,參數(shù)的估計值與真值的差異有多大,是否顯著,這就需要進(jìn)一步進(jìn)行統(tǒng)計檢驗(yàn) 。 ? 在 最大或然估計法 中 , 求解似然方程: ? ?2的最大或然估計量不具無偏性 , 但卻具有一致性 。 ( 1 ) 先 求 0?? 與 1?? 的 方 差 ? ?? ????? )v a r ()v a r ()v a r ()?v a r ( 21021 iiiiiii kXkYk ??????? ? ??????????22222iiixxx ??? ?? ?????? 221020 )/1()v a r ()v a r ()?v a r ( ????? iiiiii kXnXwYw22222222 21121 ?? ????????????????????????????? ????????? ? ???iiiii xxXkXnnkXkXnn22222222221??? ????? ??????????? ??iiiii xnXxnXnxxX