【正文】 Sampling Variance of the OLS Estimators OLS估計量的抽樣方差 在一個附加假定下計算這個方差會容易的多，因此有 ? Assume (Homoskedasticity): 假定 (同方差性 ): Var(u|x) = ?2 . . x1 x2 Homoskedastic Case 同方差的情形 E(y|x) = b0 + b1x y f(y|x) . x x1 x2 f(y|x) Heteroskedastic Case 異方差的情形 x3 . . E(y|x) = b0 + b1x Sampling Variance of OLS (cont) OLS的抽樣方差 (繼續(xù) ) ? ?2 也是無條件方差，被稱作 誤差方差 （ error variance） Var(u|x) = E(u2|x)[E(u|x)]2 E(u|x) = 0, so ?2 = E(u2|x) = E(u2) = Var(u) ? 誤差方差的平方根 ?被稱作是 標(biāo)準(zhǔn)誤差 ? E(y|x)=b0 + b1x and Var(y|x) = ?2 例 工資方程中的異方差性 當(dāng) Var(y|x)值和 x 相關(guān)時 ， 我們稱誤差項存在 異方差 。 中心極限定理 (central limit theorem) 當(dāng)樣本容量足夠大時 (n ? 30) ，樣本均值的抽樣分布逐漸趨于正態(tài)分布 nx?? ?從均值為 ?， 方差為 ? 2的一個任意總體中抽取容量為 n的樣本 ， 當(dāng) n充分大時 ， 樣本均值的抽樣分布近似服從均值為 μ， 方差為 σ2/n的正態(tài)分布 一個任意分布的總體 ?? ?xx 中心極限定理 (central limit theorem) ?x 的分布趨于正態(tài)分布的過程 三、 點估計量的性質(zhì)：估計量優(yōu)劣的衡量 用 樣本統(tǒng)計量 （ sample statistics）可以作為其對應(yīng)的總體的 點估計量 （ point estimator)。 估計量和估計值 ? 樣本的 （ 不包含未知總體參數(shù)的 ） 函數(shù)稱為統(tǒng)計量； ? 由于一個統(tǒng)計量對于不同的樣本取值不同 ，所以 ， 估計量也是隨機(jī)變量 ， 并有其分布 。2 ?963. 191 01salary roe?? 度量單位和函數(shù)形式 Units of Measurement 度量單位 例 ：首席執(zhí)行官的薪水和資本權(quán)益報酬率 其中， salary衡量了以 1000美元為單位的年薪； 假定薪水的單位是美元，而不是千美元，在Salarys對 roe進(jìn)行回歸時 OLS截距和斜率的估計值是多少？ 963. 191 01salary roe??Units of Measurement 度量單位 新的回歸方程： ? 一般而言，當(dāng)因變量乘上常數(shù) c，而自變量不改變時， OLS的截距和斜率估計量也要乘上 c。目標(biāo)是通過選擇參數(shù)值，使得在樣本中矩條件也可以成立。又稱為 總體回歸模型 。理想狀況是對 x的了解并不增加對 u的任何信息。 回歸分析的基本概念 回歸分析構(gòu)成計量經(jīng)濟(jì)學(xué)的方法論基礎(chǔ)，其主要內(nèi)容包括： （ 1）根據(jù)樣本觀察值對經(jīng)濟(jì)計量模型參數(shù)進(jìn)行估計，求得 回歸方程； （ 2） 對回歸方程、參數(shù)估計值進(jìn)行顯著性檢驗； （ 3）利用回歸方程進(jìn)行分析、評價及預(yù)測。 ? 那么 E（ Y|X）可能 =f（ X） Zero Conditional Mean Assumption 條件期望零值假定 ? 由于我們已經(jīng)假定了 E(u) = 0，因此有 : E(u|x) = E(u) = 0. () 思考：該假定是何含義？ ? 思考：為什么有這種條件期望的假定，而不直接給出 cov(x,u)=0的形式？ ? 思考：為什么有這種條件期望的假定，而不直接給出 cov(x,u)=0的形式？ ? cov(x,u)=0表示不相關(guān)，但在統(tǒng)計學(xué)中其含義是無線性相關(guān)，不能保證無非線性相關(guān)。該線稱為 樣本回歸線 （ sample regression lines）。其最小值，均值和最大值分別為： （ , ,) salary 對 roe的回歸方程為： 963. 191 01salary roe??Example: CEO Salary and Return on Equity 例： CEO的薪水和 資本權(quán)益報酬率 對估計量的解釋： – : 常數(shù)項的估計值衡量了當(dāng) roe為零時CEO的薪水。能夠給出不變的百分比效果的模型是 ? If , we have 01l o g ( )wag e e d u c ubb? ? ? ?1% ( 100 ) .w age e ducb? ? ? ?0u?? age e du? ? ?Example ? A log Wage Equation 將對數(shù)工資方程 ? Compared to 和原方程相比 ?l o g ( ) 0 .5 8 4 0 .0 8 3wa g e e d u c??526n ? 2 ?? age e duc? ? ?2 ?每多接受一年的教育，工資會有 ％的提高。 500個 的 頻數(shù)分布 與 相對頻數(shù)分布 ， x圖 500個 的相對頻數(shù)分布 相 對 頻 數(shù) x 這里， 的相對頻數(shù)分布，就稱為 的 抽樣分布 。 這三個準(zhǔn)則也稱作估計量的 小樣本性質(zhì)。 Estimating the Error Variance 誤差方差的估計 ? 我們不知道誤差方差 ?2 是多少，因為我們不能觀察到誤差 ui ? 我們觀測到的是殘差 ? Proof: 證明 （ 最后 ） 無偏性 ， 即估計量 0 ? b 、 1 ? b 的均值（期望）等于總體回歸 參數(shù)真值 b 0 與 b 1 Unbiasedness Summary 無偏性總結(jié) ? b1 和 b0 的 OLS估計量是無偏的 ? 無偏性的證明依賴于我們的四個假定 如果任何假定不成立， OLS未必是無偏的 ? 記住無偏性是對估計量的描述 對于一個給定的樣本我們可能靠近也可能遠(yuǎn)離真實的參數(shù)值 例 ? 學(xué)生的數(shù)學(xué)成績和學(xué)校的午餐項目：該例研究了是否參加學(xué)校的免費(fèi)午餐項目是否能夠提高學(xué)生在數(shù)學(xué)考試中的成績 ? we estimated that Predicted math10=, Math10來表示 10年級學(xué)生的數(shù)學(xué)成績 Lnchprg表示可以參加學(xué)校的免費(fèi)午餐項目的學(xué)生的比例。分兩種況： 1)總體分布已知且為正態(tài)分布 ； 2)總體分布未知； （ 1） 當(dāng)總體分布已知且為正態(tài)分布或接近正態(tài)分布時， 則無論樣本容量大小如何，樣本均值都為正態(tài)分布 。 對所考查的總體不可能進(jìn)行全部測度； 從 理論上 說可以對所考查的總體進(jìn)行全部測度，但 實踐上 由于人力、財力、時間等方面的原因，無法（不劃算）進(jìn)行全部測度。 SST, SSR and SSE ? y 的總變動可以表示為已解釋的變動 SSE和 未解釋的變動 SSR之和，即 ? SST=SSE+SSR 證明 SST = SSE + SSR ? ? ? ? ? ?? ?? ? ? ?? ?? ?222220 1 0 1? ?? ?? ? ? ?2? ? S S R 2 S S E? ? ? ? ? ? ? ? ? ? ?? ? ?( ) 0i i i iiii i i iiii i i i i i ii i i i iy y y y y yu y yu u y y y yu y yu y y u y y u u yu x u u xb b b b? ? ? ? ?????? ? ?????? ? ? ? ?? ? ? ?? ? ? ?? ? ? ????? ? ??? ? ? ?? ? ?＝GoodnessofFit 擬合優(yōu)度 ? 我們?nèi)绾魏饬繕颖净貧w線是否很好地擬合了樣本數(shù)據(jù)呢 ? 2 1S S E S S RRS S T S S T? ? ?稱 R2 為 （樣本） 判定系數(shù) （ coefficient of determination)。 即，根據(jù) 估計 01( | )Y E Y X u X ubb? ? ? ? ?01? ?? ? ?i i i i iy y u x ubb? ? ? ? ?四個概念 ? 總體回歸模型 ? 總體回歸函數(shù) ? 樣本回歸模型 ? 樣本回歸函數(shù) 四個概念 ? 總體回歸模型 ? 總體回歸函數(shù) ? 樣本回歸模型 ? 樣本回歸函數(shù) 01? ?? ? ?i i i i iy y u x ubb? ? ? ? ?01Y X ubb? ? ?01( | )E y x xbb??估計 Deriving the Ordinary Least Squares Estimates 普通最小二乘法的推導(dǎo) 回歸的基本思想是從樣本去估計總體參數(shù)。這條直線稱為 總體回歸線 。 隨機(jī)誤差項主要包括下列因素的影響： 1）在解釋變量中被忽略的因素的影響； 2）變量觀測值的觀測誤差的影響； 3）模型關(guān)系的設(shè)定誤差的影響； 4）其它隨機(jī)因素的影響。 術(shù)語注解 在簡單回歸模型： y = b0 + b1x + u ? u 為誤差項 (error term)或擾動 (disturbance) ? 它代表了除了 x之外可以影響 y的因素。 因此，給定收入 X的值 Xi，可得消費(fèi)支出 Y的 條件期望 （ conditional expectation）： E(Y|X=Xi) 該例中： E(Y | X=800)=605 分析： ( , )( | )()jijiiP Y y X xP Y y X xP X x??? ? ?? 描出散點圖發(fā)現(xiàn)：隨著收入的增加，消費(fèi)“ 平均地說 ” 也在增加，且 Y的條件均值均落在一根正斜率的直線上。 注意： 這里 PRF可能永遠(yuǎn)無法知道。 More Terminology 更多術(shù)語 ? 解釋平方和 ( Explained Sum of Squares， SSE)定義為 ? 它度量了 y的預(yù)測值的在樣本中的變動 21()niiS S E y y????More Terminology 更多術(shù)語 ? 殘差平方和（ Residual Sum of Squares， SSR）定義為 ? 殘差平方和度量了殘差的樣本變異 S S R =22? ?()i i iu y y???? 注意： SSR、 SSE沒有統(tǒng)一的定義。由于時間及財力的限制： 主要用在下列兩種情況 ： 主要內(nèi)容： 抽樣估計 (estimation) 假設(shè)檢驗 (hypothesis testing) 注意： ● 抽樣估計只得到對總體特征的近似測度 ，因此，抽樣估計還必須同時考察所得結(jié)果的“ 可能范圍 ” 與“ 可靠程度 ”。 并給出樣本均值的抽樣分布 3 2 4 4 3 2 1 1 第二個觀察值 第一個 觀察值 ?16個樣本的均值（ x） x 樣本均值的抽樣分布 0 P ( x ) 樣本均值的分布與總體分布的比較 ? = σ2 = 總體分布 1 4 2 3 0 .1 .2 .3 抽樣分布 P