【正文】 x ??1???? 由 故所求 矩估計(jì)量 為： 即 X?? 1??)1( ?? ?? X解得 : XX ?? )1(?XX?? 1?21? ??????????XX?■ 【 例 5】 已知總體 X的概率密度為 : 〖 解 〗 單參數(shù) ， 連續(xù)型 . )(1 XE?? 因?yàn)榭傮w 一階矩 )(21)( || ??????? ? xexf x?? 其中未知參數(shù) θ 0,求 θ 的矩估計(jì)量 . dxexx??||21 ?????? ??0?不含 θ ，故不能由 “ 樣本一階矩 =總體一階矩 ” 解得所求 矩估計(jì)，需要 繼續(xù)求二階矩 ： dxexXEx???||222 21)( ???????? ?河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) ??????????????? ?????? ???????? xdexdxexxx 202021,2)3( 22 ?? ??? 由 “ 樣本二階矩 =總體二階矩 ” 得： ,21 212 ????niiXn 于是 ,所求 矩估計(jì)量 為： ???niiXn1221?? ■ Γ函數(shù)定義 極大似然估計(jì)法 一位老獵人與他的徒弟一起打獵 ,兩人同時(shí)向一 獵物射擊 ,結(jié)果該獵物身中一彈 ,你認(rèn)為誰打中的可能 性最大 ? 根據(jù)經(jīng)驗(yàn)而斷 :老獵人打中獵物的可能性最大 . 極大似然估計(jì)法的思想 就是對(duì)固定的樣本值，選 擇待估參數(shù)的估計(jì)值使 “ 樣本取樣本值 ” [離散型 ]或“ 樣 本取值落在樣本值附近 ” [連續(xù)型 ] 的概率最大。(}{ ???? ??xpxXP形式已知 ,θ 為待估參數(shù) . 為來自總體 X的 樣本 , 為其樣本值 ,則 的聯(lián)合分 布律為 : nXXX ,..., 21nxxx ,..., 21 nXXX ,..., 21)()。,(121 ??? ?????niin xpxxxL ?根據(jù)總體分布律寫出似然函數(shù)：換 x為 xi 這正是事件 “ 樣本取得樣本值 ” 的概率 ,稱之為樣本的 似然函數(shù) ,它是待估參數(shù) θ 的函數(shù) . 極大似然估計(jì)法 ：對(duì)固定的樣本值 ,在參數(shù)空間中 選取使似然函數(shù)達(dá)到最大的參數(shù)值 作為參數(shù) θ 的估 計(jì)值 (稱為 極大似然估計(jì)值 ),它為樣本值的函數(shù) ,記為 θ?),(θ? 21 nxxx ?相應(yīng)統(tǒng)計(jì)量 稱為參數(shù) θ的 極大似然估計(jì)量 . ),(θ? 21 nXXX ?)()。(1??????niixf 事件 “ 樣本取值落在樣本值的鄰域 ” 的概率近似為 ????????niiniiniii dxxfdxxf111)。( ??形式已知 ,θ 為待估參數(shù)。由于因子 ??與 θ 無關(guān) ,故 也使樣本的 似然函數(shù) ),(? 21 nxxx ????niidx1)()。,(121 ??? ?????niin xfxxxL ?),(? 21 nXXX ??稱為參數(shù) θ 的 極大似然估計(jì)量 。(,)。,(1121連續(xù)型離散型niiniinxfxpxxxL????即為待估計(jì)參數(shù)的極大似然估計(jì)值 。,( 21 ??? nxxxLdd ?0)。 【 例 6】 求服從二項(xiàng)分布 B(m， p)的總體 X未知參數(shù) p的極大似然估計(jì)量。 所以 ,樣本的 似然函數(shù) 為 : 因?yàn)榭傮w 其分布律為 ),(~ pmBX).,1,0()1()。()( ?????nixmxxmiii ppC1)1(在 f中換 x為xi寫出連乘積 ? ??? ???????ninixmnixxmiii ppC1 11)1(??? ?????? ??nixmnxxmniiniii ppC111 )1(求導(dǎo)得： ????nixmiCpL1)[()( ?????nixiniipx111)(??? ??niixmnp 1)1(??? ?niixp 1 )1()1)((111 ?????????niixmnnii pxmn]四則運(yùn)算求導(dǎo)法則 ????? ?????? ??nixmnxxmniiniii ppC11111 )1()]()1)([(11????????niinii xmnppx,0令?,0)()1(11?????? ????niinii xmnppx即 ,01????pm nxnii也即 解得 極大似然估計(jì)值 為 河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) mxxmnpnii ?? ?? 11?極大似然估計(jì)量 為 mXp ??■ ? 確定待估參數(shù)的個(gè)數(shù) k,求出總體的前 k階矩 。, . . . ,2,1( klA ll ???? 解方程 (組 ) ? 寫出矩估計(jì)量和矩估計(jì)值 . 知識(shí)回顧 求最大似然估計(jì)量的步驟 : 。()。()。)。(ln)(ln )(11???? ??????niinii xfLxpL 或取對(duì)數(shù)二最大似然估計(jì)法是由 . .?,0d)(lnd,d)(lnd )(???????的最大似然估計(jì)值解方程即得未知參數(shù)并令求導(dǎo)對(duì)三 ?LL 最大似然估計(jì)法也適用于分布中含有多個(gè)未知參數(shù)的情況 . 此時(shí)只需令 .,2,1,0ln kiLi???? ??.?),2,1( ,ii kik?? 的最大似然估計(jì)值數(shù)即可得各未知參個(gè)方程組成的方程組解出由??對(duì)數(shù)似然方程組 對(duì)數(shù)似然方程 ? 多參數(shù)情形 當(dāng)總體分布中含有 多 個(gè)待估參數(shù)時(shí)，可類似于單 參數(shù)情形來求其極大似然估計(jì)，其步驟為： ? 寫出似然函數(shù) )。 河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) 【 例 7】 求正態(tài)總體 N(μ ,σ 2)的兩個(gè)未知參數(shù) μ , σ 2的似然估計(jì)量 . 〖 解 〗 雙參數(shù) ， 連續(xù)型 . 因?yàn)?X~N(μ ,σ 2),所以 X總體的概率密度為 )0,(2)(e x p21),。(其它bxaabbaxf 因?yàn)? 所以 X的概率密度為 ],[~ baUX 設(shè) 為樣本 的一個(gè)樣本值 ,記 nxxx , . . . , 21nXXX ,..., 21? ? ? ? ,m a x,m i n 21)(21)1( nnn xxxxxxxx ?? ??河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) 由于 bxxabxxxa nn ????? )()1(21 , ?所以 ,似然函數(shù) 為 ?????????.,0,)(1),( )()1(其它bxxaabbaLnn對(duì)于滿足 的任意 a,b有 bxxa n ?? )()1( ,nnn xxabbaL )(1)(1),()1()( ????河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) 即 ),(),(m a x )()1(, )()1(nbxxaxxLbaLn???故 a,b的 極大似然估計(jì)值 為 : .?,? )()1( nxbxa ??? ? ? ?.m a x?,m in? 11 iniini XbXa ???? ??故 a,b的 極大似然估計(jì)量 為 : ■ ? 本例直接利用極大似然思想方法來求似然估計(jì) . 河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) 小結(jié) 矩估計(jì)法 是由樣本矩等于總體矩的方程 (組 )解出矩估計(jì)量 ,再相應(yīng)寫出矩估計(jì)值 。 X 樣本方差 是總體方差 σ 2的無偏估計(jì) . 2S???????????? ??? ??nii XnXnESE122211)(?????? ????? ??})]([)({})]([)({)1(1 221XEXDnXEXDn inii)(11???niiXEn ,11?? ?? ??nin?????? ??? ??)()()1(1 212 XnEXEnnii河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) ??????????? ??)()()1(1 22221????nnnni? ?))()1(1 2222 ???? nnn????? 樣本均值 是總體均值 μ 的無偏估計(jì) 。并確定常數(shù) a,b使 D(Y)達(dá)到 最小 . 〖 解 〗 因?yàn)? )2,1()(,)(2??? knXDXEkkk?? 【 例 11】 設(shè)從存在均值 μ 與方差 σ 20的總體中 ,分 別抽取容量為 n1,n2的兩個(gè)獨(dú)立樣本 ,其樣本均值分別 為 .證明 :對(duì)任意常數(shù) a,b, 21, XX)1(21 ???? baXbXaY 由 期望性質(zhì) 得 : 河南理工大學(xué)精品課程 概率論與數(shù)理統(tǒng)計(jì) )()( 21 XbXaEYE ??)()( 21 XbEXaE ???)( ba ?? ?? 由無偏性知 :Y是 μ 的無偏估計(jì)量 . 由 方差 性質(zhì)得 : )()()()( 221221 XDbXDaXbXaDYD ????22212222122 ])1([ ???