(備用)貝葉斯方法(估計_推斷_決策)-文庫吧在線文庫
【正文】 斯假設(shè) 1?? ??則 21?,?????nxnxEMD ??第一、在二項分布時， 的最大后驗估計就是經(jīng)典統(tǒng)計中的極大似然估計，即 的極大似然估計就是取特定的先驗分布下的貝葉斯估計。 分 布 共 軛 先 驗 分 布 后 驗 分 布 正態(tài)分布 正態(tài)分布 二項分布 β 分布 Poisson分布 Γ分布 Γ（ a，b） ),( 2??N ,( 2??N 2222???????x),( pnb ),( ba?)(?? nxbaxa????1??bxa EX1 設(shè) θ是一批產(chǎn)品的不合格率，已知它不是 是 ，且其先驗分布為 π（ ） =,π（ ） = 假如從這批產(chǎn)品中隨機取 8個進行檢查，發(fā)現(xiàn)有 2個不合格，求 θ的后驗分布。 , 2 ?? ?? S ?????????.)(,)(00????????dd假如的信息較為豐富，譬如對此產(chǎn)品經(jīng)常進行抽樣檢查，每次都對廢品率作出一個估計，把這些估計值看作的一些觀察值，再經(jīng)過整理，可用一個分布去擬合它。 第二步，根據(jù)先驗信息在先驗分布族中選一個分布作為先驗分布，使它與先驗信息符合較好。再計算 X的邊際密度為 nxn xnxCdxhxm xn ,1,0,)2( )1()1(),()( 10??? ??????? ? ?? 10,)1()1()1()2()( ??????????? ? ????? xnxxnxnx即 )1,1(~ ??? xnxBeX?拉普拉斯計算過這個概率 ,研究男嬰的誕生比例是否大于 ?如抽了 251527個男嬰 ,女嬰241945個 貝葉斯統(tǒng)計學首先要想方設(shè)法先去尋求 θ的先驗分布。獲得后驗分布使人們對 θ 的認識又前進一步，可看出，獲得樣本的的效果是把我們對 θ的認識由 π （ θ ）調(diào)整到 。 1 , nXX??? 1 先驗分布 定義 將總體中的未知參數(shù) θ ∈ Θ看成一取值于 Θ的隨機變量，它有一概率分布，記為 π（ θ ），稱為參數(shù) θ 的先驗分布。 假設(shè) Ⅰ 隨機變量 X有一個密度函數(shù) p（ x； θ ），其中 θ 是一個參數(shù)，不同的 θ 對應不同的密度函數(shù)，故從貝葉斯觀點看， p（ x； θ ）是在給定后θ 是個條件密度函數(shù)，因此記為 p（ x│ θ ）更恰當一些。本節(jié)將簡要介紹貝葉斯統(tǒng)計學中的點估計方法。譬如“總體視察指數(shù)分布”或“總體是正態(tài)分布”在統(tǒng)計推斷中都發(fā)揮重要作用，只要有總體信息，就要想方設(shè)法在統(tǒng)計推斷中使用 2．樣本信息 ，即樣本提供我們的信息，這是任一種統(tǒng)計推斷中都需要 3． 先驗信息 ， 即在抽樣之前有關(guān)統(tǒng)計推斷的一些信息 。 以前所討論的點估計只使用前兩種信息，沒有使用先驗信息?？稍谪惾~斯統(tǒng)計學中應用更多的是貝葉斯公式的密度函數(shù)形式。參數(shù) θ 不是永遠固定在一個值上，而是一個事先不能確定的量。通過試驗，獲得樣本。這個建議被后人稱為貝葉斯假設(shè)。這樣的先驗分布（ β分布）稱為參數(shù) θ的共軛先驗分布。 假如我們能從先驗信息中較為準確地把握 θ的兩個分位數(shù)，如確定 θ確定的 10％分位數(shù)θ0。 確定了先驗分布后，就可計算出后驗分布，過程如下 11 )1()()()(()(),(????? ????????????????xnbxaxnbabaxXpxp??????x=0， 1， … ， n， 0θ1 于是 X的邊際分布為 .,1,0,)( )()()()( )(),() 10nxxnnba xnbxaba badxpxp ????????????????????????? ? ?? 最后在給出 X=x的條件下， θ的后驗密度為 10,)1()()( )()( ),()( 11 ???????? ????? ????? xxnbxa nbaxp xpx xnbxa ?????顯然這個后驗分布仍然是 β分布，它的兩個參數(shù)分別是 a+x和 b+nx。 例如經(jīng)典統(tǒng)計學認為參數(shù)的無偏估計應滿足： 其中平均是對樣本空間中所有可能出現(xiàn)的樣本而求的，可實際中樣本空間中絕大多數(shù)樣本尚為出現(xiàn)過，而多數(shù)從未出現(xiàn)的樣本也要參與平均是實際工作者難以理解的。 ? 表 不合格率 的二種貝葉斯估計的比較 ?試驗號 樣本量 n 不合格數(shù) x 1 3 0 0 2 10 0 0 3 3 3 1 4 10 10 1 nxMD ??? 21? ??? nxE? 在試驗 3和誓言 4中，“抽檢 3個產(chǎn)品全部不合格”與抽檢“ 10個產(chǎn)品全部不合格”也是有差別的。 例如 ， 某商店一個月的經(jīng)營收益為 1000元 ， 即虧 1000元 。 (4)定義在 上的二元函數(shù) 稱為損失函數(shù) 我們把損失函數(shù) 對后驗分布 的期望稱為后驗風險 ,記 ,即 后驗風險就是用后驗分布計算的平均損失 . 定義 在給定的貝葉斯決策問題中 ,從樣本空間 到行動集 A上的一個映照 稱為該決策問題的一個決策函數(shù) , 表示所有樣本空間從到 A上的決策函數(shù)組成的類稱為決策函數(shù)類 . 在貝葉斯決策中我們面臨的是決策函數(shù)類 D,要在 D中選擇決策函數(shù) ,使其風險最小 . 定
教學課件相關(guān)推薦
鄂ICP備17016276號-1