5多元回歸分析-ols漸近性(已修改)
2025-08-17 00:07 本頁面
【正文】 Chapter 5 Multiple Regression Analysis: OLS Asymptotics (1) y = b0 + b1x1 + b2x2 + . . . + bkxk + u Chapter Outline ? 一致性 ? Consistency ? 漸近正態(tài)和大樣本推斷 Asymptotic Normality and Large Sample Inference ? Asymptotic Efficiency of OLS OLS的漸近有效性 本課內(nèi)容 ? 1. 有限樣本與無限樣本 ? 2. 復(fù)習(xí)：一致性 ? 3. OLS估計(jì)量的一致性 ? 4. 漸進(jìn)偏差 ? 5. OLS的漸近正態(tài)性 對于多元線形回歸模型 : ? 樣本容量 n給定下， OLS估計(jì)量的性質(zhì)與分布： – Unbiasedness of OLS estimators () 在 MLR. 14下 OLS估計(jì)量具有無偏性 – BLUE of OLS estimators () 在 OLS估計(jì)量是最優(yōu)線性無偏估計(jì)量 – MVUE of OLS estimators () 在 下 OLS估計(jì)量是最小方差無偏估計(jì)量 – The distribution of t / F statistic is t / F distribution t /F統(tǒng)計(jì)量的分布為 t / F分布。 ? These properties hold for any sample size n. 對于容量為 n的樣本，假定成立，則這些性質(zhì)成立。 ? finite sample, small sample, or exact properties of the OLS estimators ? 通常稱為： OLS估計(jì)量的有限樣本性質(zhì)、精確性質(zhì)、小樣本性質(zhì) ? 還想知道：當(dāng)樣本容量 n無窮大時，估計(jì)量的性質(zhì)和相關(guān)統(tǒng)計(jì)量的性質(zhì)：漸近性質(zhì)，或大樣本性質(zhì)。 ? 當(dāng)樣本容量 n 很大時，可以用大樣本性質(zhì)，來代替有限樣本性質(zhì)。 ? 以放棄過強(qiáng)的假定 ：一致性 12nL e t be a n e sti m a tor of ba se d o n a sa m p l e , , ..., . is a c on sist e nt e sti m a tor of if f or e v e r y 0 ,P r ( |W | ) 0 a s n .W he n is c on sist e nt, w e a l so sa y tha t i s the pr ob a bil it y l im it nnnnW y y yWW??????? ? ? ? ?of , w r it te n a s l im ( ) .nnW p W ??何謂一致性 What is Consistency? 令 是基于樣本 的關(guān)于 的估計(jì)量。 如果對于任何 ，當(dāng) 時 便是 的一個一致估計(jì)量。 當(dāng) 具有一致性時，也稱 為 的概率極限，寫作 nP r ( |W | ) 0??? ? ? n ?? 0? lim ( ) .npW ??nWnW??12, , ..., ny y y?nWnW一致性的含義 Explaining consistency ? Consistency means that the distribution of Wn bees more and more concentrated about θ with n growing without bound, which roughly means that for larger sample sizes, Wn is less and less likely to be very far from θ . ? 一致性的意思是，當(dāng) n趨于無窮大時， Wn的分布會越來越集中 θ 附近。 或者說，對于一個容量 n很大的樣本， Wn 距離 θ 不應(yīng)該太遠(yuǎn)。 一致估計(jì)量的樣本分布： n越大，越集中于真值 θ Sample distribution of a consistent estimator ?ε1 ?ε2 ?ε3 ?+ε3 ?+ε2 ?+ε1 n3=1000 1 2 無偏性與一致性 unbiasedness and Consistency ? Unlike unbiasedness—which is a feature of an estimator for a given sample size—consistency involves the behavior of the sampling distribution of the estimator as the sample size n gets large. ? 無偏性是，給定樣本容量 n下，估計(jì)量的性質(zhì) (期望 )； 一致性則是，當(dāng)樣本容量 n變大時，估計(jì)量的樣本分布的變化特征。 ? Unbiased estimators are not necessarily consistent, and consistent estimators are not necessarily unbiased ? 無偏估計(jì)量，當(dāng)樣本容量 n變大時，不一定具有一致性；而一致估計(jì)量，給定樣本容量 n下，也不一定是無偏的。 例：有偏可以是一致的 ? 一個估計(jì)量是否有可能在有限樣本中是有偏的，但又具有一致性？ 的一致估計(jì)量。，卻是的有偏估計(jì)量，則對于隨機(jī)樣本的方差為若隨機(jī)變量222x22)(1s}n1i,{X???? ???xxnxii ?例：無偏不一定一致 unbiasedness . Consistency ? 一個估計(jì)量是否可能是無偏 (unbiased),卻不一致 (inconsistent)？ –假設(shè) z的真值為 0，隨機(jī)變量 X以 1，而以 1，那么 , E(x)=0 = z 。 –但是 , 當(dāng) n趨向無窮大時 , X總是在 X=0這條線上下擺動，它的方差并不會趨于 0。因此，它不是 Z的一致估計(jì)量。 無偏估計(jì)量何時一致 unbiasedness and Consistency ? Only those unbiased estimators whose variances shrink to zero as the sample size grows are consistent. ? 隨著樣本容量 n的增加，只有那些方差趨于 0的無偏估計(jì)量，才具有一致性。 ? If Wn is an unbiased estimator ofθ and Var(Wn) → 0
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1