概率統(tǒng)計chappt課件-文庫吧資料
2025-05-07 02:28本頁面
【正文】 是 ? 2的無偏估計量 . ?????nii XXnS122 )(11證 21212 1)(1 XXnXXnniinii ??? ????前已證 證明 2)()(,)()( ?? ???? XDXDXEXE iinXDXEXE2)(,)()( ?? ???)()(1)(1 21212 XEXEnXXnEniinii ???????? ? ????因而 )()( 2222 ???? ????n221 ?? ???nn212)(11?????????? ??nii XXnE故 證畢 . 注：當(dāng)樣本量趨于無窮時，有 E(s*2) ?? 2， 我們稱 s*2 為 ? 2的漸近無偏估計。 在一定條件下 , 極大似然估計具有相合性 無偏性 定義 設(shè) 是 ? 的一個估計， ? 的參數(shù)空間為 Θ，若對任意的 ?∈ Θ，有 則稱 是 ? 的 無偏估計 ， 否則稱為 有偏估計 。 02 1 202222? d/1? d/2?V a r ( ) 0 , 2 1 ( 1 ) ( 2)nnnnnE ny ynnE ny ynn n nn n n n??? ? ? ?? ? ?? ? ? ??? ? ???????? ? ? ???? ? ? ????? 由大數(shù)定律及定理 ，我們可以看到： 矩估計一般都具有相合性 。 證明： 在例 ? 的極大似然估計是 x(n)。 定理 設(shè) 是 ? 的一個估計量，若 則 是 ? 的相合估計， 1? ? ( , , )n n nxx???? ?l i m ( ) , l i m ( ) 0n n n nE V a r? ? ?? ? ? ????n?1? ?,n n k??1? ?? ( , , )n n n kg? ? ??定理 若 分別是 ?1, …, ?k 的相合估 計， ? =g(?1 , …, ?k) 是 ?1, …, ?k 的連續(xù)函數(shù)，則 是 ? 的相合估計。 1? ? ( , , )n n nxx????l i m ( | | ) 0nnP ? ? ??? ? ? ??n?相合性：估計量隨著樣本量的不斷增大而逼近參數(shù)真值。 167。該性質(zhì)稱為極大似然估計的 不變性 ， 從而使一些復(fù)雜結(jié)構(gòu)的參數(shù)的極大似然估計的獲得變得容易了。(~???xxpX?)。由于 ln(x)是 x的增函數(shù)， lnL( )與 L( )在 的同一值處達(dá)到它的最大值，假定 是一實數(shù)，且 lnL( ) 是 的一個可微函數(shù)。 ??(3) 求似然函數(shù) L( ) 的最大值點 (常常轉(zhuǎn)化 為求 ln L( )的最大值點 ) ，即 的 MLE。 11? niixxn?????2 2 21*1? ()niix x sn??? ? ??解：似然函數(shù)為 ????niixL11)( ??? 11)( ???? ??niin x)10( ?? ix對數(shù)似然函數(shù)為 ?????niixnL1ln)1(ln)(ln ???ni ??1例 * 設(shè) X1,X2,… Xn是取自總體 X的一個樣本 ??? ????其它,010,)(~ 1 xxxfX ??求 的極大似然估計 . ??其中 0, ????niixndLd1ln)(ln???求導(dǎo)并令其為 0 =0 從中解得 ????niixn1* ln?即為 的 MLE . ?對數(shù)似然函數(shù)為 ?????niixnL1ln)1(ln)(ln ??? (4) 在最大值點的表達(dá)式中 , 用樣本值代入 就得參數(shù)的極大似然估計值 . 求極大似然估計 (MLE)的一般步驟是： (1) 由總體分布導(dǎo)出樣本的聯(lián)合概率函數(shù) (或聯(lián)合密度 )。 例 設(shè)一個試驗有三種可能結(jié)果，其發(fā)生概率分別為 現(xiàn)做了 n次試驗，觀測到三種結(jié)果發(fā)生的次數(shù)分別為 n1 , n2 , n3 (n1+ n2+ n3 = n)，則似然函數(shù)為 其對數(shù)似然函數(shù)為 221 2 3, 2 ( 1 ) , ( 1 )p p p? ? ? ?? ? ? ? ?1 2 32 1 2 3 22222( ) ( ) [ 2 ( 1 ) ] [ ( 1 ) ]2 ( 1 )n n nn n n n nL ? ? ? ? ?????? ? ???1 2 3 2 2l n ( ) ( 2 ) l n ( 2 ) l n ( 1 ) l n 2L n n n n n? ? ?? ? ? ? ? ?將之關(guān)于 ? 求導(dǎo)，并令其為 0得到似然方程 解之，得 由于 所以 是極大值點。 1? ?( , , )nxx????( ) m a x ( )LL ??? ?????人們通常更習(xí)慣于由對數(shù)似然函數(shù) lnL(? )出發(fā)尋找 ? 的極大似然估計。 )nnL L x x p x p x p x? ? ? ? ?? ? ? ? ?經(jīng)過一次試驗， ),( 2211 nn xXxXxX ??? ?事件 發(fā)生了，則 總體參數(shù) 的取值應(yīng)使這個事件發(fā)生的概率最大。 ) ( 。 1 1 2( ) ( 。? )， ?是參數(shù) ? 可能取值的參數(shù)空間， x1, x2 , …, x n 是樣本，將樣本的聯(lián)合概率函數(shù)看成 ? 的函數(shù)，用 L(? 。 這說明矩估計可能是不唯一的，這是矩法估計的一個缺點，此時通常應(yīng)該盡量采用低階矩給出未知參數(shù)的估計。 矩法估計的實質(zhì)是用經(jīng)驗分布函數(shù)去替換總體分布，其理論基礎(chǔ)是格里紋科定理。 點估計的幾種方法 替換原理和矩法估計 一、 矩法估計 替換原
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1