5多元回歸分析-ols漸近性(已修改)
2025-08-17 00:07 本頁(yè)面
【正文】 Chapter 5 Multiple Regression Analysis: OLS Asymptotics (1) y = b0 + b1x1 + b2x2 + . . . + bkxk + u Chapter Outline ? 一致性 ? Consistency ? 漸近正態(tài)和大樣本推斷 Asymptotic Normality and Large Sample Inference ? Asymptotic Efficiency of OLS OLS的漸近有效性 本課內(nèi)容 ? 1. 有限樣本與無(wú)限樣本 ? 2. 復(fù)習(xí)：一致性 ? 3. OLS估計(jì)量的一致性 ? 4. 漸進(jìn)偏差 ? 5. OLS的漸近正態(tài)性 對(duì)于多元線形回歸模型 : ? 樣本容量 n給定下， OLS估計(jì)量的性質(zhì)與分布： – Unbiasedness of OLS estimators () 在 MLR. 14下 OLS估計(jì)量具有無(wú)偏性 – BLUE of OLS estimators () 在 OLS估計(jì)量是最優(yōu)線性無(wú)偏估計(jì)量 – MVUE of OLS estimators () 在 下 OLS估計(jì)量是最小方差無(wú)偏估計(jì)量 – The distribution of t / F statistic is t / F distribution t /F統(tǒng)計(jì)量的分布為 t / F分布。 ? These properties hold for any sample size n. 對(duì)于容量為 n的樣本，假定成立，則這些性質(zhì)成立。 ? finite sample, small sample, or exact properties of the OLS estimators ? 通常稱(chēng)為： OLS估計(jì)量的有限樣本性質(zhì)、精確性質(zhì)、小樣本性質(zhì) ? 還想知道：當(dāng)樣本容量 n無(wú)窮大時(shí)，估計(jì)量的性質(zhì)和相關(guān)統(tǒng)計(jì)量的性質(zhì)：漸近性質(zhì)，或大樣本性質(zhì)。 ? 當(dāng)樣本容量 n 很大時(shí)，可以用大樣本性質(zhì)，來(lái)代替有限樣本性質(zhì)。 ? 以放棄過(guò)強(qiáng)的假定 ：一致性 12nL e t be a n e sti m a tor of ba se d o n a sa m p l e , , ..., . is a c on sist e nt e sti m a tor of if f or e v e r y 0 ,P r ( |W | ) 0 a s n .W he n is c on sist e nt, w e a l so sa y tha t i s the pr ob a bil it y l im it nnnnW y y yWW??????? ? ? ? ?of , w r it te n a s l im ( ) .nnW p W ??何謂一致性 What is Consistency? 令 是基于樣本 的關(guān)于 的估計(jì)量。 如果對(duì)于任何 ，當(dāng) 時(shí) 便是 的一個(gè)一致估計(jì)量。 當(dāng) 具有一致性時(shí)，也稱(chēng) 為 的概率極限，寫(xiě)作 nP r ( |W | ) 0??? ? ? n ?? 0? lim ( ) .npW ??nWnW??12, , ..., ny y y?nWnW一致性的含義 Explaining consistency ? Consistency means that the distribution of Wn bees more and more concentrated about θ with n growing without bound, which roughly means that for larger sample sizes, Wn is less and less likely to be very far from θ . ? 一致性的意思是，當(dāng) n趨于無(wú)窮大時(shí)， Wn的分布會(huì)越來(lái)越集中 θ 附近。 或者說(shuō)，對(duì)于一個(gè)容量 n很大的樣本， Wn 距離 θ 不應(yīng)該太遠(yuǎn)。 一致估計(jì)量的樣本分布： n越大，越集中于真值 θ Sample distribution of a consistent estimator ?ε1 ?ε2 ?ε3 ?+ε3 ?+ε2 ?+ε1 n3=1000 1 2 無(wú)偏性與一致性 unbiasedness and Consistency ? Unlike unbiasedness—which is a feature of an estimator for a given sample size—consistency involves the behavior of the sampling distribution of the estimator as the sample size n gets large. ? 無(wú)偏性是，給定樣本容量 n下，估計(jì)量的性質(zhì) (期望 )； 一致性則是，當(dāng)樣本容量 n變大時(shí)，估計(jì)量的樣本分布的變化特征。 ? Unbiased estimators are not necessarily consistent, and consistent estimators are not necessarily unbiased ? 無(wú)偏估計(jì)量，當(dāng)樣本容量 n變大時(shí)，不一定具有一致性；而一致估計(jì)量，給定樣本容量 n下，也不一定是無(wú)偏的。 例：有偏可以是一致的 ? 一個(gè)估計(jì)量是否有可能在有限樣本中是有偏的，但又具有一致性？ 的一致估計(jì)量。，卻是的有偏估計(jì)量，則對(duì)于隨機(jī)樣本的方差為若隨機(jī)變量222x22)(1s}n1i,{X???? ???xxnxii ?例：無(wú)偏不一定一致 unbiasedness . Consistency ? 一個(gè)估計(jì)量是否可能是無(wú)偏 (unbiased),卻不一致 (inconsistent)？ –假設(shè) z的真值為 0，隨機(jī)變量 X以 1，而以 1，那么 , E(x)=0 = z 。 –但是 , 當(dāng) n趨向無(wú)窮大時(shí) , X總是在 X=0這條線上下擺動(dòng)，它的方差并不會(huì)趨于 0。因此，它不是 Z的一致估計(jì)量。 無(wú)偏估計(jì)量何時(shí)一致 unbiasedness and Consistency ? Only those unbiased estimators whose variances shrink to zero as the sample size grows are consistent. ? 隨著樣本容量 n的增加，只有那些方差趨于 0的無(wú)偏估計(jì)量，才具有一致性。 ? If Wn is an unbiased estimator ofθ and Var(Wn) → 0
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1