(備用)貝葉斯方法(估計_推斷_決策)(完整版)
【正文】 義 在給定的貝葉斯決策問題中 是其決策函數(shù)稱 為決策函數(shù) 的后驗風險 .假如在決策函數(shù)類中存在這樣的決策函數(shù) ,它在 D中有最小的風險 ,即 則稱 為后驗風險準則下的最優(yōu)決策函數(shù) ,或稱貝葉斯決策 ,或貝葉斯解 . 定理 在平方損失函數(shù) 下 , 的貝葉斯估計為后驗均值 ,即 [Pr] 在平方損失函數(shù)下 ,任何一個決策函數(shù) 的后驗風險為 演講完畢，謝謝觀看！ 。我們不稱為損失 ， 而稱其為虧損 。 設 是 的一個貝葉斯估計，在樣本給定后， 是一個數(shù)，在綜合各種信息后， 是按 取值，所以評價一個貝葉斯估計的誤差的最好而又簡單的方式是用 θ對 的后驗均方差或平方根來度量，定義如下： ???? ??? )( x?? ??稱為 的后驗均方差 ,而其平方根稱為后驗標準誤 . 定義 設參數(shù) θ的后驗分布為 ,貝葉斯估計為 ,則 的后驗期望 )( x?????? 2)?()?( ??? ? ?? xExMSE當 時 ,則 ,稱為后驗均方差 . 后驗均方差與后驗方差有如下關系 : )(? xEE ?? )()?()?( 2 xVarExMSE ExE ???? ? ??? 222)??()()]??()?[()?()?(?????????????????????EEExxxVarEExMSEE?? ???這表明 ,當 時 ,可使后驗均方差達到最小 ,實際中常取后驗均值作為 的貝葉斯估計值 . ?例 2 設一批產(chǎn)品的不合格率為 ,檢查是一個一個進行 ,直到發(fā)現(xiàn)第一個不合格品為止 ,若 X為發(fā)現(xiàn)第一個不合格品時已檢查的產(chǎn)品數(shù) ,則 X服從幾何分布 ,其分布列為 ?,2,1,)1()( 1 ???? ? xxXP x???設 的先驗分布為 , 如今只獲得一個樣本觀察值 x=3,求 的最大后驗估計 ,后驗期望估計 ,并計算它的誤差 .故聯(lián)合分布為 3,2,1,31)4( ??? iiP ? 2)41(431)4,3(iiiXP ????????X=3的無條件概率為 (利用全概率公式 485])41(43)42(42)43(41[31)3( 222 ?????XP 3,2,1,)41(54)3( )4,3()34( 2 ???? ????? iiiXP iXPXiP ??故 ? 41 42 43 )34( ?? XiP ? 209 208 203 可看出 , 的最大后驗估計 41? ?MD? 4017)3(? ??? XEE ? 160051)4017(8017)()()( 222 ????? xExExV ar ???的后驗方差為 MD?? 161)401741160051)??()()?( 22 ?????? ????ExV arxMSE (可信區(qū)間 ) 對于區(qū)間估計問題 ,貝葉斯方法具有處理方便和含義清晰的優(yōu)點 ,而經(jīng)典方法求置信區(qū)間常受到批評 . 定義 參數(shù) 的后驗分布為 ,對給定的樣本 和概率 ,若存在這樣的二個統(tǒng)計量 與 使得 ? )( x??x )10(1 ??? ?? )(?? xLL ?? ? )(?? xUU ?? ? ???? ???? 1)??( xP UL ??1則稱區(qū)間 為參數(shù)的可信水平為 貝葉斯可信區(qū)間 ,或簡稱為 的 可信區(qū)間 .而滿足 ]?,?[ UL ??? ??1 ??? ??? 1)?( xP L的 稱為 的 (單側(cè) )可信下限 . L?? ? )?( xU的 稱 為 的 (單側(cè) )可信上限 . U? ??1滿足 這里的可信水平和可信區(qū)間與經(jīng)典統(tǒng)計中的置信水平與置信區(qū)間雖是同類的概念 ,但兩者還是有本質(zhì)的差別 ,主要表現(xiàn)在下面二點 : 1. 在條件方法下 ,對給定的樣本 和可信水平 ,通過后驗分布可求得具體的可信區(qū)間 ,譬如 , 的可信水平為 區(qū)間是 ,這時我們可以寫出 )( ??? xP ? ,因為它要設法構造一個樞軸量 ,使它的分布不含未知參數(shù) ,這是一項技術性很強的工作 .相比之下可信區(qū)間只要利用后驗分布 ,不需要再去尋求另外的分布 , 可信區(qū)間的尋求要簡單得多 . 例 3 設 是來自正態(tài)總體 的一個樣本觀察值 ,其中 已知 ,若正態(tài)均值的先驗分布取為 ,其中 與 已知 ,則可求得 的后驗分布為 ,由此很容易獲得 的 可信區(qū)間 nxxx ,21 ?),( 2??N2? ),( 2??N?? ),( 211 ????1 ???????? ?? ?????? ?? 1)( 21112111P EX1 設隨機變量 X的密度函數(shù)為 (1)假如 θ的先驗分布為 U(0,1),求 θ的后驗分布 . (2)假如 θ的先驗分布為 求 θ的后驗分布及后驗期望估計 10,2)( 2 ???? ??? xxxp10,3)(
教學課件相關推薦
鄂ICP備17016276號-1