第七章參數(shù)估計(jì)-文庫(kù)吧
2025-07-17 12:47 本頁(yè)面
【正文】 從 而? ?12, 0 , , , ,nXX X X X? ? ? ? ??22設(shè) 總 體 N( ) 都 存 在 ， 且 ， 均 未 知 ，是 取 自 的 一 個(gè) 樣 本 ， 試 求（ 1 ） P(X1) 的 矩 估 計(jì) 量 ；（ 2 ） 若 抽 取 了 容 量 為 6 的 樣 本 ， 樣 本 觀 察 值 為 （ 2 ， 5,1,0),P(X1) 的 矩補(bǔ) 充 題 ：估 計(jì) 值 。 121( 1 ) ( )111 ( ) 1 ( )解 ：??????? ???? ? ???? ? ? ? ? ?XP X P12211 11 ( ) 1 ( )1()所 以 P(X1)?? ?? ? ? ? ? ???niiA XBXXn（ 2 ） 若 抽 取 了 容 量 為 6 的 樣 本 ， 樣 本 觀 察 值 為 （ 2 ， 5,1,0),P(X1) 的 矩 估 計(jì) 值 。6221011( ) 4 8 866 iixb x x?? ???? ? ? ? ????(2) 由 于211 11 ( ) 1 ( )81()1 ( 0 . 3 5 ) 1 0 . 6 3 6 8 0 . 3 6 3 2niixxxn??? ? ? ? ??? ? ? ? ? ??所 以 P(X1) 的 矩 估 計(jì) 值 為P(X1) ＝由第五章關(guān)于依概率收斂的序列的性質(zhì)知 1 2 1 2( , , , ) ( , , , ) ,Pkkg A A A g n? ? ???? ? ?.是連續(xù)函數(shù)其中 g11 ( ) , 1 , 2 , 。n Pkk i kiA X n kn ??? ??? ? ? ?? 原理： 最大似然估計(jì)的原理介紹 考察以下例子： 假設(shè)在一個(gè)罐中放著許多白球和黑球，并假定已經(jīng)知道兩種球的數(shù)目之比是 1:3，但不知道哪種顏色的球多。如果用放回抽樣方法從罐中取 5個(gè)球，觀察結(jié)果為：黑、白、黑、黑、黑，估計(jì)取到黑球的概率 p. 31,. 44pp ?解 ： 設(shè) 抽 到 黑 球 的 概 率 為 則 本 例 中 ， 或? ? ? ?3311 .4 4 4 1 0 2 4p ?? 4當(dāng) 時(shí) ， 出 現(xiàn) 本 次 觀 察 結(jié) 果 的 概 率 為? ? ? ?3 3 8 11 .4 4 4 1 0 2 4p 4當(dāng) 時(shí) ， 出 現(xiàn) 本 次 觀 察 結(jié) 果 的 概 率 為3 81 3 31 ? .1024 1024 4 4 4p p p? ? ?由 于 ， 因 此 認(rèn) 為 比 更 有 可 能 ， 于 是 取 為 更 合 理(二）最大似然估計(jì)法（或稱極大似然估計(jì)法） (Maximum Likelihood Estimation )(簡(jiǎn)記 MLE) ~ ( 。 ) P { X x }一 般 地 ， 設(shè) 離 散 型 總 體 ， ， 未 知 。? ? ?? ? ? ?X f x11, , , ,nnX X X x x從 總 體 中 取 得 樣 本 ， 其 觀 察 值 為 ，?? ? ?? ?111111X x , ,( 。 ) .. . ( 。 ) ( 。 ) ,則 事 件 發(fā) 生 的 概 率 為 ? ? ? ??? ? ? ???? ? ? ??nnnnnniiX x X xP X x X xf x f x f x1?( ( , , ) ) m a x ( ) .nL x x L??? ???最 大 似 然 原 理 ：似 然函 數(shù)11? ,? ,nnxxXX????稱 （ ） 為 的 ，相 應(yīng) 統(tǒng) 計(jì) 量 （ ） 為 最最 大 似 然 估大 似 然計(jì)的值估 計(jì) 量 。()? ?L? ?,若 總 體 為 連 續(xù) 型 的 ， 其 概 率 密 度 為 ，其 中 ， 為 未 知 參 數(shù) 。?????X f x? ? ? ?? ? ? ?1 2 1 21, , , , , , , .則 對(duì) 于 樣 本 的 觀 察 值 ， 似 然 函 數(shù) 為 ? ? ??? ? ??nnniiX X X x x xL f x1?( ( , , ) ) m a x ( ) . 就 是 中 找 一 個(gè) , 使 得 L( ) 達(dá) 到 最 大求 最 大 似 然 估 計(jì) 的 實(shí) 質(zhì)即 ：, ?????????nL x x L: ??思 想 用 最 像 真 值 的 值 去 估 計(jì)? ? ? ?12, , , , nL x x x L??通 常 記 為? ? ? ?? ? ? ?121 2 1 2, , , , , , , , , ,knnX f xx x x X X X? ? ? ? ????? ? ? 設(shè) 總 體 的 概 率 密 度 或 者 分 布 律 為為 未 知 參 數(shù) ， 為 參 數(shù) 空 間 ， 即 的 取 值 范 圍 。 設(shè)是 樣 本最 大的 一似 然 估 計(jì) 法 ：個(gè) 觀 察 值 ：? ? ? ?1211. 。 , , , , 。 。似 然 函 數(shù) 作 ? ? ??? ? ??nniiL x x x f x? ?122 . , , , ,求 使 達(dá) 到 最 大 的 值 ， 稱 為, 對(duì)的 最 大似 然 估 計(jì) 應(yīng)值 的 最 大 似 然的 估 .計(jì) 量統(tǒng) 計(jì) 量 為????nL x x x? ?12 1 . , , ,未 知 參 數(shù) 可 能 不 是 一 個(gè) ， 一 般 設(shè) 為 ；說(shuō) 明? ? ? ?????? k? ?? ?? ? ? ?? ?121212 . , , , ,0 , 1 , 2 , . . . , . , , , , ,?0 , 1 , 2 , . . . . ,1ninniiiiL x x xLikln L x x x ln fln L ln Lxln Li k i?? ? ????????????????? ? ???在 求 的 最 大 值 時(shí) ， 當(dāng) L ( ) 關(guān) 于 可 微 時(shí) ， 通 常 轉(zhuǎn) 化 為求 解 下 列 方 程 的 解 ： 利 用 － －（ 稱 為 ） 有 時(shí) ， 還 可 以 轉(zhuǎn) 換 為 求 ：的 最 大 值 ，利似 然 方 程（ ） ＝ （ ）稱 為 對(duì) 數(shù) 似 然 函用 解 得數(shù)，微 分 法, 2 , . . . , .k 對(duì) 數(shù)－ － 似 然 方 程? ? ? ?3. iiL ???若 關(guān) 于 某 個(gè) 是 單 調(diào) 增 減 函 數(shù) ，此 時(shí) 的 最 大 似 然 估 計(jì) 在 其 邊 界 取 得 ； － － 定 義 法? ? ? ?? ?4. gg? ? ? ?若 是 的 最 大 似 然 估 計(jì) ， 則 的 最 大 似 然 估 計(jì) 為 。32 ?例 ： 求 矩 估 計(jì) 部 分 的 例 中 的 最 大 似 然 估 計(jì) 量 。 221? 的 最 大 似 然 估 計(jì) 量 為 ： ???????????M L E niinln X? ? ? ? 2111 1 1,0 。 0 1 , 1 , 2 , ,解 ： 似 然 函 數(shù)??? ? ? ????? ? ???? ?
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1