【文章內(nèi)容簡介】 立如果古典假定最小二乘估計量的標(biāo)準(zhǔn)差 ）來衡量。由它的標(biāo)準(zhǔn)差（的“可靠性”或精密度和se??)?(se)?(1222122???????????iiixnXxse 隨機擾動項 的方差 σ2的估計 ?問題： ? 與 的方差表達式中，包括了隨機擾動項的方差（又稱總體方差）。若 σ 2未知，則兩個參數(shù)的方差實際上無法計算。 ?解決思路：隨機擾動項 ui無法觀測，故采用其估計值 —— 殘差 對 σ 2進行估計。 ?命題： σ 2的無偏估計量為 。 ?證明略 問題 0?? 1??iu?2?? 22???nu i?OLS估計量的方差總結(jié) ? 誤差項方差 ?2越大，斜率估計量的方差也越大 ? xi的變異性越大，斜率估計量的方差就越小 ? 因此，大樣本可以降低斜率估計量的方差 ? 誤差項方差未知的問題 OLS及其相關(guān)概念 ? 直觀上講， OLS 是用一條線擬合樣本點，使得殘差項的平方和最小 ——這就是“最小二乘”的含義。 ? 殘差項 是誤差項 u的估計，是擬合線（樣本回歸方程）和樣本點之間的差。 三種距離 (哪種 ?) 樣本回歸線、樣本點和相應(yīng)的誤差項 . . . . y4 y1 y2 y3 x1 x2 x3 x4 } } { { 1 2 3 4 x y xy 10 ??? ?? ??其他的推導(dǎo)方法 ? 在擬合一條線的直觀思想的基礎(chǔ)上，我們可以建立一個規(guī)范的最小化問題 ? 也就是說，我們要選擇參數(shù)使得下面的式子達到最小： ? ? ? ????????niiiniixyu121012 ??? ??其他的推導(dǎo)方法 ? 如果用微積分學(xué)的辦法來解這個最小化問題，我們可以得到下面的一階條件，而這個條件兩邊同乘以 n就和前面用距方法得到的條件一模一樣： ? ?? ? 0??0??110110??????????niiiiniiixyxxy????OLS的代數(shù)性質(zhì) ? OLS殘差之和為 0 ? 因此， OLS殘差的樣本均值也為 0 ? 回歸量和 OLS殘差的樣本斜方差為 0 ? OLS回歸線總是通過樣本的均值點 擬合優(yōu)度檢驗 （統(tǒng)計檢驗之一） ?問題： ?樣本回歸線對數(shù)據(jù)的擬合程度有多好？如何才算 “ 完美 ” 或者 “ 滿意 ” 。 ?一般情形：總有一些正的殘差與負的殘差。 ?希望：圍繞回歸線的殘差盡可能小。 ?引入概念：判定參數(shù) R2（雙變量情形）。 ?擬合優(yōu)度檢驗。 問題 平方和公式 ? ?22222222222222??0??)?(???????2 ??i ??2 ?? ??? ,??iiiiiiiiiiiiiiiiiiiiiiiiiiiiiuyyxyxyyxuxuyuyuyyuyuyyuyyYYuYY??????????????????????????????????求總和得對兩邊求平方得前后兩個等式相減得：由??? ?? 222 ?? iii uyy平方和公式中各項的解釋 ? 總平方和（ TSS） 是實測的 Y值圍繞其均值的總變異。 ? 解釋平方和（ ESS） 是估計的 Y值圍繞其均值的變異。 ? 殘差平方和（ RSS） 是未被解釋的圍繞回歸線的Y的變異。 ?? ?? 22 )( YYy ii?? ?? 22 )??(? YYy ii?? ?? 22 )?(? iii YYu平方和公式的幾何表示 iYiY?Y)( YYi ?iu?)?( YYi ?來自殘差 來自回歸 總離差 SRF ?平方和公式： TSS=ESS+RSS ?即 :總方差 =被解釋方差 +未被解釋方差 ?即 : 平方和公式 ?擬合優(yōu)度 R2(被解釋部分在總平方和 (SST)中所占的比例 )： R2公式 ????222 ?iiyyT SSE SSR?????222 ?1iiyuT SSR SSR或：?性質(zhì)： 0≤R 2≤1 ?思考： R2 =0意味著什么？ R2 = 1呢？ R2 =1 0204060801000 20 40 60 80 100家庭收入家庭支出ii YY ＝，對于任意 ?iR2 =0 0204060801000 20 40 60 80 100家庭收入家庭支出YY i ?1??i ?＝，對于任意R2公式 ?R2 =1當(dāng)且僅當(dāng) 成立 ,即所有點位于一直線上 . ?R2 =0當(dāng)且僅當(dāng)對所有 i,有 即 : 成立 .若非所有 Xi都相等 ,則 β 的估計值為 X對 Y沒有任何解釋意義 . R2 = ? R2 = ? 表示約有 86％的因變量 Y的變異能由解釋變量 X來說明。 ? 或者說，解釋變量解釋了因變量 Y變異中的 86％。 ? 注意：不表示有 86％的樣本觀測點落在了樣本回歸線上！?。ù颂幦菀撞诲e。） ?樣本相關(guān)系數(shù) r： R2與相關(guān)系數(shù) r不同 2Rr ??? ?? ?????22iiiiyxyxr或根據(jù)其定義計算： 置信區(qū)間 前言 ? 為什么要做區(qū)間估計？ – OLS估計只是通過樣本得到的點估計，不一定等于真實參數(shù)，還需要找到真實參數(shù)的可能范圍，并說明其可靠性。 ? 為什么要做假設(shè)檢驗？ – OLS估計只是利用樣本估計的結(jié)果，是否可靠？是否抽樣的偶然結(jié)果？還有待統(tǒng)計檢驗。 ? 而這兩者都需要用到置信區(qū)間的內(nèi)容。 問題 參數(shù)值。％的概率包含著真實的區(qū)間，使得它有個標(biāo)準(zhǔn)誤的一個個或各寬如：在點估計量的兩邊一個區(qū)間。而要圍繞點估計量構(gòu)造值，能完全信賴一個點估計來衡量。因此，我們不準(zhǔn)誤計量的可靠性由它的標(biāo)在統(tǒng)計學(xué)中，一個點估值。估計值很可能不同于真由于抽樣的波動，單個有多近？有多可靠？問：它離真實的是一個點估計值，估計值9532?O L S22ββ知識鋪墊 ? 在討論這個問題之前，先簡單地看看兩個 OLS估計量以及 σ2的概率分布。 ????????? ? )1(,~? 22211ixxnN ??? ),(~? 2222 ?ixN ???，都表示離差。注意， xX ??分布。的服從自由度為 22222?)2(???????nnR S Sαδββ δβαβδβ δβα1)? ?P r (1 )? ,?( )I n t e r v a l R a n d o m(10222222?????用符號表示為：。的概率為包含之間，使得隨機區(qū)間和位于，和們試求兩個正數(shù)為了回答上述問題，我本概念一、區(qū)間估計的一些基?置信區(qū)間的圖形表示 αδββ δβ 1)? ?P r ( 222 ????δβ δβ ?22 ? ?2β真實值存在、未知 ?2β樣本估計值 置信上限 置信下限 置信區(qū)間 基本概念 置信區(qū)間 (Confidence interval): 這樣的一個區(qū)間如果存在的 話，就稱為置信區(qū)間。 置信系數(shù) (Confidence coefficient): 1?稱為置信系數(shù)。 顯著性水平 (Level of significance) : ?(0?1)。 置信限 (Confidence limit):置信區(qū)間的端點。 置信下限 (Lower Confidence limit): 置信上限 (upper Confidence limit): αδββ δβ 1)? ?P r ( 222 ????δβ ?2?δβ2?例子和注釋 例如： ? = 5%，就可讀為“式子中的隨機區(qū)間包含真實 ?2 的概率為 95%” 注： – 不可以說 ?2落入給定界限的概率是 1 ? – 置信區(qū)間 是隨機區(qū)間 – 從長遠看，平均地說，這些區(qū)間將有 100% ( 1 ?)次包含著參數(shù)的真值 – 只要 尚不知道，區(qū)間 就是隨機的（ 為估計量時），一旦有了一個特定的樣本并獲得了的一個特定的數(shù)值（ 為估計值時），區(qū)間不再是隨機的，而是固定的了。 ? ?δβ δβ ?22 ? , ? ?2β ? ?δβδβ ?22 ? , ? ?2β ?2β二、回歸系數(shù) ?1和 ?2的置信區(qū)間 。上述公式來求置信區(qū)間可以知道，我們可以用即，如果服從從前面，也可知即：本身就是正態(tài)分布的和估計量的正態(tài)性假定下，在22220022112211221) ,(?)1,0(~/?)/,(~?),0(~??O L S?????????????????????iiiiiixnXNNxZxNNuu分布：的而是服從自由度為不再服從正態(tài)分布，到的統(tǒng)計量做標(biāo)準(zhǔn)化變換，則所得對來代替用無偏估計量）若樣本為小樣本，可態(tài)變量。（？）統(tǒng)計量仍可視為標(biāo)準(zhǔn)正化變換，所得做標(biāo)準(zhǔn)估計的參數(shù)標(biāo)準(zhǔn)誤對）樣本若為大樣本，用作中：很少能知道，在實際操但是tntZ2??2?1222??????回歸系數(shù) ?1和 ?2的置信區(qū)間 (續(xù) ) )2(~??)?(?2222222 ??????ntxseti??????注： t = 估計量 參數(shù) 估計量的標(biāo)準(zhǔn)誤的 估計值 Estimated standard error ?? 222?)?(ixse ??即： 是估計量 2??的標(biāo)準(zhǔn)差 ? 22ix? 的估計值 回歸系數(shù) ?1和 ?2的置信區(qū)間 (續(xù) ) 的置信區(qū)間為的顯著水平為）（得）（由???????????????????22222222222222221)]?(?)?(?[Pr1??Pr1Pr????????????????????setsettxtttti)]?(?)?(?[ 222222???? ?? setset ?? ，的置信區(qū)間為的顯著水平為同理， ?? 1)]?(?)?(?[ 121121???? ?? setset ?? ，回歸系數(shù) ?1和 ?2的置信區(qū)間 ?注：置信區(qū)間的寬度與估計量的標(biāo)準(zhǔn)誤成正比，因此，估計量的標(biāo)準(zhǔn)誤常被喻為估計量的精度(precision) ?可以參見課本。 f(t) t 0 1 ? ?/2 ?/2 消費－收入的例子 . 5 0 9 . 5 0 9 10 . 0 3 5 . 5 0 9 10 . 0 3 5 . 5 0 9 195)]?(?)?(?[)8(tt9558df0 . 0 3 5 7)β?s e ( 0 . 5 0 9 1 , β?0 . 5 0 9 1 X2 4 . 4 5Y2222222222/222???????????????????????????即：＋－即：＋－％的置信區(qū)間為：的則，將其帶入分布表顯示臨界值為：則％的置信系數(shù)，％，也就是＝。若?。阶杂啥萻etset對置信區(qū)間的解釋： 區(qū)間，不是隨機區(qū)間。）是固定的，值，這是因為（含真實的％的概率包）以，但