概率論與數(shù)理統(tǒng)計教程(茆詩松)第6章(已修改)
2025-08-17 09:10 本頁面
【正文】 第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 1頁 第六章 參數(shù)估計 167。 點(diǎn)估計的幾種方法 167。 點(diǎn)估計的評價標(biāo)準(zhǔn) 167。 最小方差無偏估計 167。 貝葉斯估計 167。 區(qū)間估計 第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 2頁 ? 一般常用 ? 表示參數(shù)，參數(shù) ? 所有可能取值組成的集合稱為 參數(shù)空間， 常用 ?表示。參數(shù)估計問題就是根據(jù)樣本對上述各種未知參數(shù)作出估計。 ? 參數(shù)估計的形式有兩種： 點(diǎn)估計與區(qū)間估計 。 第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 3頁 ? 設(shè) x1, x2,…, xn 是來自總體 X 的一個樣本，我們用一個統(tǒng)計量 的取值作為 ? 的估計值， 稱為 ? 的 點(diǎn)估計（量） ， 簡稱 估計 。 在這里如何構(gòu)造統(tǒng)計量 并沒有明確的規(guī)定，只要它滿足一定的合理性即可。這就涉及到兩個問題： 1? ?( , , )nxx???????? 其一 是如何給出估計，即估計的 方法問題； ? 其二 是如何對不同的估計進(jìn)行評價，即估 計的 好壞判斷標(biāo)準(zhǔn)。 第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 4頁 167。 點(diǎn)估計的幾種方法 替換原理和矩法估計 一、 矩法估計 替換原理是指用樣本矩及其函數(shù)去 替換 相應(yīng)的總體矩及其函數(shù)，譬如： ? 用樣本均值估計總體均值 E(X)， 即 ； ? 用樣本方差估計總體方差 Var(X)， 即 ? 用樣本的 p 分位數(shù)估計總體的 p 分位數(shù)， ? 用樣本中位數(shù)估計總體中位數(shù) 。 ? ()E X x?2?V a r ( ) nXs?第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 5頁 例 對某型號的 20輛汽車記錄其每加侖汽油的行駛里程 (km)，觀測數(shù)據(jù)如下： 經(jīng)計算有 由此給出總體均值、方差和中位數(shù)的估計分別為 : , 和 。 矩法估計的實(shí)質(zhì)是用經(jīng)驗(yàn)分布函數(shù)去替換總體分布，其理論基礎(chǔ)是格里紋科定理。 2 0 . 52 8 . 6 9 5 , 0 . 9 1 8 5 , 2 8 . 6nx s m? ? ?第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 6頁 二、概率函數(shù) P(x,θ)已知時未知參數(shù)的矩法估計 設(shè)總體具有已知的概率函數(shù) P(x, ?1, …, ?k)， x1, x2 , …, xn 是樣本，假定總體的 k階原點(diǎn)矩 ?k存在，若 ?1, …, ?k 能夠表示成 ?1, …, ?k 的函數(shù)?j = ?j(?1, …,?k)，則可給出諸 ?j 的矩法估計為 其中 1? ( , , ) , 1 , , ,jj ka a j k?? ??11 n jjiiaxn ?? ?第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 7頁 例 設(shè)總體服從指數(shù)分布，由于 EX=1/?， 即 ? =1/ EX，故 ? 的矩法估計為 另外，由于 Var(X)=1/?2，其反函數(shù)為 因此，從替換原理來看， ?的矩法估計也可取為 s 為樣本標(biāo)準(zhǔn)差。這說明矩估計可能是不唯一的，這是矩法估計的一個缺點(diǎn)，此時通常應(yīng)該盡量采用低階矩給出未知參數(shù)的估計。 ? 1/ x? ?1 / V a r ( )X? ?1? 1/ s? ?第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 8頁 例 x1, x2, …, xn是來自 (a,b)上的均勻分布U(a,b)的樣本 ， a與 b均是未知參數(shù) ， 這里 k=2，由于 不難推出 由此即可得到 a, b的矩估計： 2(), Va r ( ) ,2 12a b b aEX X????3 V a r ( ) , 3 V a r ( ) ,a E X X b E X X? ? ? ??? 3 , 3a x s b x s? ? ? ?第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 9頁 極 (最 )大似然估計 定義 設(shè)總體的概率函數(shù)為 P(x。? )， ?是參數(shù) ? 可能取值的參數(shù)空間， x1, x2 , …, xn 是樣本，將樣本的聯(lián)合概率函數(shù)看成 ? 的函數(shù)，用 L(? 。 x1, x2, …, xn) 表示，簡記為 L(? )， 稱為樣本的 似然函數(shù) 。 1 1 2( ) ( 。 , , ) ( 。 ) ( 。 ) ( 。 )nnL L x x p x p x p x? ? ? ? ?? ? ? ? ?第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 10頁 如果某統(tǒng)計量 滿足 則稱 是 ? 的 極 (最 )大似然估計 ， 簡記為 MLE（ Maximum Likelihood Estimate） 。 1? ?( , , )nxx????( ) m a x ( )LL ??? ?????人們通常更習(xí)慣于由對數(shù)似然函數(shù) lnL(? )出發(fā)尋找 ? 的極大似然估計。 當(dāng) L(? )是可微函數(shù)時， 求導(dǎo) 是求極大似然估計最常用的方法，對 lnL(? )求導(dǎo)更加簡單些。 第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 11頁 例 設(shè)一個試驗(yàn)有三種可能結(jié)果，其發(fā)生概率分別為 現(xiàn)做了 n次試驗(yàn)，觀測到三種結(jié)果發(fā)生的次數(shù)分別為 n1 , n2 , n3 (n1+ n2+ n3 = n)，則似然函數(shù)為 其對數(shù)似然函數(shù)為 221 2 3, 2 ( 1 ) , ( 1 )p p p? ? ? ?? ? ? ? ?1 2 32 1 2 3 22222( ) ( ) [ 2 ( 1 )] [( 1 ) ]2 ( 1 )n n nn n n n nL ? ? ? ? ?????? ? ???1 2 3 2 2l n ( ) ( 2 ) l n ( 2 ) l n ( 1 ) l n 2L n n n n n? ? ?? ? ? ? ? ?第六章 參數(shù)估計 華東師范大學(xué) 20 August 2022 第 12頁 將之關(guān)于 ? 求導(dǎo)，并令其為 0得到似然方程 解之，得 由于 所以 是極大值點(diǎn)。 ??1 2 3 222 01n n n n???????1 2 1 21 2 322?2 ( ) 2n n n nn n n n? ??????21 2 3 22 2 2l n
數(shù)學(xué)相關(guān)推薦
鄂ICP備17016276號-1