(備用)貝葉斯方法(估計(jì)_推斷_決策)(完整版)
【正文】 義 在給定的貝葉斯決策問題中 是其決策函數(shù)稱 為決策函數(shù) 的后驗(yàn)風(fēng)險(xiǎn) .假如在決策函數(shù)類中存在這樣的決策函數(shù) ,它在 D中有最小的風(fēng)險(xiǎn) ,即 則稱 為后驗(yàn)風(fēng)險(xiǎn)準(zhǔn)則下的最優(yōu)決策函數(shù) ,或稱貝葉斯決策 ,或貝葉斯解 . 定理 在平方損失函數(shù) 下 , 的貝葉斯估計(jì)為后驗(yàn)均值 ,即 [Pr] 在平方損失函數(shù)下 ,任何一個決策函數(shù) 的后驗(yàn)風(fēng)險(xiǎn)為 演講完畢，謝謝觀看！ 。我們不稱為損失 ， 而稱其為虧損 。 設(shè) 是 的一個貝葉斯估計(jì)，在樣本給定后， 是一個數(shù)，在綜合各種信息后， 是按 取值，所以評價(jià)一個貝葉斯估計(jì)的誤差的最好而又簡單的方式是用 θ對 的后驗(yàn)均方差或平方根來度量，定義如下： ???? ??? )( x?? ??稱為 的后驗(yàn)均方差 ,而其平方根稱為后驗(yàn)標(biāo)準(zhǔn)誤 . 定義 設(shè)參數(shù) θ的后驗(yàn)分布為 ,貝葉斯估計(jì)為 ,則 的后驗(yàn)期望 )( x?????? 2)?()?( ??? ? ?? xExMSE當(dāng) 時 ,則 ,稱為后驗(yàn)均方差 . 后驗(yàn)均方差與后驗(yàn)方差有如下關(guān)系 : )(? xEE ?? )()?()?( 2 xVarExMSE ExE ???? ? ??? 222)??()()]??()?[()?()?(?????????????????????EEExxxVarEExMSEE?? ???這表明 ,當(dāng) 時 ,可使后驗(yàn)均方差達(dá)到最小 ,實(shí)際中常取后驗(yàn)均值作為 的貝葉斯估計(jì)值 . ?例 2 設(shè)一批產(chǎn)品的不合格率為 ,檢查是一個一個進(jìn)行 ,直到發(fā)現(xiàn)第一個不合格品為止 ,若 X為發(fā)現(xiàn)第一個不合格品時已檢查的產(chǎn)品數(shù) ,則 X服從幾何分布 ,其分布列為 ?,2,1,)1()( 1 ???? ? xxXP x???設(shè) 的先驗(yàn)分布為 , 如今只獲得一個樣本觀察值 x=3,求 的最大后驗(yàn)估計(jì) ,后驗(yàn)期望估計(jì) ,并計(jì)算它的誤差 .故聯(lián)合分布為 3,2,1,31)4( ??? iiP ? 2)41(431)4,3(iiiXP ????????X=3的無條件概率為 (利用全概率公式 485])41(43)42(42)43(41[31)3( 222 ?????XP 3,2,1,)41(54)3( )4,3()34( 2 ???? ????? iiiXP iXPXiP ??故 ? 41 42 43 )34( ?? XiP ? 209 208 203 可看出 , 的最大后驗(yàn)估計(jì) 41? ?MD? 4017)3(? ??? XEE ? 160051)4017(8017)()()( 222 ????? xExExV ar ???的后驗(yàn)方差為 MD?? 161)401741160051)??()()?( 22 ?????? ????ExV arxMSE (可信區(qū)間 ) 對于區(qū)間估計(jì)問題 ,貝葉斯方法具有處理方便和含義清晰的優(yōu)點(diǎn) ,而經(jīng)典方法求置信區(qū)間常受到批評 . 定義 參數(shù) 的后驗(yàn)分布為 ,對給定的樣本 和概率 ,若存在這樣的二個統(tǒng)計(jì)量 與 使得 ? )( x??x )10(1 ??? ?? )(?? xLL ?? ? )(?? xUU ?? ? ???? ???? 1)??( xP UL ??1則稱區(qū)間 為參數(shù)的可信水平為 貝葉斯可信區(qū)間 ,或簡稱為 的 可信區(qū)間 .而滿足 ]?,?[ UL ??? ??1 ??? ??? 1)?( xP L的 稱為 的 (單側(cè) )可信下限 . L?? ? )?( xU的 稱 為 的 (單側(cè) )可信上限 . U? ??1滿足 這里的可信水平和可信區(qū)間與經(jīng)典統(tǒng)計(jì)中的置信水平與置信區(qū)間雖是同類的概念 ,但兩者還是有本質(zhì)的差別 ,主要表現(xiàn)在下面二點(diǎn) : 1. 在條件方法下 ,對給定的樣本 和可信水平 ,通過后驗(yàn)分布可求得具體的可信區(qū)間 ,譬如 , 的可信水平為 區(qū)間是 ,這時我們可以寫出 )( ??? xP ? ,因?yàn)樗O(shè)法構(gòu)造一個樞軸量 ,使它的分布不含未知參數(shù) ,這是一項(xiàng)技術(shù)性很強(qiáng)的工作 .相比之下可信區(qū)間只要利用后驗(yàn)分布 ,不需要再去尋求另外的分布 , 可信區(qū)間的尋求要簡單得多 . 例 3 設(shè) 是來自正態(tài)總體 的一個樣本觀察值 ,其中 已知 ,若正態(tài)均值的先驗(yàn)分布取為 ,其中 與 已知 ,則可求得 的后驗(yàn)分布為 ,由此很容易獲得 的 可信區(qū)間 nxxx ,21 ?),( 2??N2? ),( 2??N?? ),( 211 ????1 ???????? ?? ?????? ?? 1)( 21112111P EX1 設(shè)隨機(jī)變量 X的密度函數(shù)為 (1)假如 θ的先驗(yàn)分布為 U(0,1),求 θ的后驗(yàn)分布 . (2)假如 θ的先驗(yàn)分布為 求 θ的后驗(yàn)分布及后驗(yàn)期望估計(jì) 10,2)( 2 ???? ??? xxxp10,3)(
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1