(備用)貝葉斯方法(估計_推斷_決策)-wenkub
2023-03-17 15:16:10 本頁面
【正文】 密度函數(shù) p（ x； θ ），其中 θ 是一個參數(shù)，不同的 θ 對應(yīng)不同的密度函數(shù)，故從貝葉斯觀點看， p（ x； θ ）是在給定后θ 是個條件密度函數(shù)，因此記為 p（ x│ θ ）更恰當一些。 初等概率論中的貝葉斯公式是用事件的概率形式給出的。本節(jié)將簡要介紹貝葉斯統(tǒng)計學中的點估計方法。 由于這種信息是在 “ 試驗之前 ” 就已有的 ， 故稱為先驗信息 。譬如“總體視察指數(shù)分布”或“總體是正態(tài)分布”在統(tǒng)計推斷中都發(fā)揮重要作用，只要有總體信息，就要想方設(shè)法在統(tǒng)計推斷中使用 2．樣本信息 ，即樣本提供我們的信息，這是任一種統(tǒng)計推斷中都需要 3． 先驗信息 ， 即在抽樣之前有關(guān)統(tǒng)計推斷的一些信息 。 譬如 ， 在估計某產(chǎn)品的不合格率時 ， 假如工廠保存了過去抽檢這種產(chǎn)品質(zhì)量的資料 ， 這些資料 （ 包括歷史數(shù)據(jù) ） 有時估計該產(chǎn)品的不合格率是有好處的 。 以前所討論的點估計只使用前兩種信息，沒有使用先驗信息。 二、貝葉斯公式的密度函數(shù)形式 貝葉斯統(tǒng)計學的基礎(chǔ)是著名的貝葉斯公式 ， 它是英國學者貝葉斯 （ ~1761） 在他死后二年發(fā)表的一篇論文 《 論歸納推理的一種方法 》 中提出的 ?？稍谪惾~斯統(tǒng)計學中應(yīng)用更多的是貝葉斯公式的密度函數(shù)形式。這個條件密度能提供我們的有關(guān)的 θ 信息就是總體信息。參數(shù) θ 不是永遠固定在一個值上，而是一個事先不能確定的量。 2 后驗分布 在貝葉斯統(tǒng)計學中，把以上的三種信息歸納起來的最好形式是在總體分布基礎(chǔ)上獲得的樣本X1， ? ， Xn，和參數(shù)的聯(lián)合密度函數(shù) )(),(),( 11 ???? nn xxpxxp ?? ?在這個聯(lián)合密度函數(shù)中。通過試驗，獲得樣本。所以對 θ 的統(tǒng)計推斷就應(yīng)建立在后驗分布 的基礎(chǔ)上。這個建議被后人稱為貝葉斯假設(shè)。先驗分布的確定大致可分以下幾步： 第一步，選一個適應(yīng)面較廣的分布族作先驗分布族，使它在數(shù)學處理上方便一些，這里我們選用 β分布族 0,0,10,)1()()( )()( 11 ??????? ??? ?? baba ba ba ????? 注： 0,0,)()()(),(0,0,)1(),(!)1(,0,)(101101????????????????????????qpbaqpqpBqpdxxxqpBnnsdxexsqpxs作為 θ的先驗分布族是恰當?shù)?，從以下幾方面考慮： 1 參數(shù) θ是廢品率，它僅在（ 0， 1）上取值。這樣的先驗分布（ β分布）稱為參數(shù) θ的共軛先驗分布。利用 θ的先驗信息去確定 β分布中的兩個參數(shù) a與 b。 假如我們能從先驗信息中較為準確地把握 θ的兩個分位數(shù)，如確定 θ確定的 10％分位數(shù)θ0。 假如關(guān)于的信息較少，甚至沒有什么有用的先驗信息，那可以用區(qū)間（ 0， 1）上的均勻分布（ a=b=1情況）。 確定了先驗分布后，就可計算出后驗分布，過程如下 11 )1()()()(()(),(????? ????????????????xnbxaxnbabaxXpxp??????x=0， 1， … ， n， 0θ1 于是 X的邊際分布為 .,1,0,)( )()()()( )(),() 10nxxnnba xnbxaba badxpxp ????????????????????????? ? ?? 最后在給出 X=x的條件下， θ的后驗密度為 10,)1()()( )()( ),()( 11 ???????? ????? ????? xxnbxa nbaxp xpx xnbxa ?????顯然這個后驗分布仍然是 β分布，它的兩個參數(shù)分別是 a+x和 b+nx。 解： )1()2( 6228PCXP???? ???PX ?? 11)()()()()()()(62286228?????????????????CCPXPPXPPXPXP???????)(1)( ??????? XPXP ?? EX2 設(shè)一卷磁帶上的缺陷數(shù)服從泊松分布 P（ λ）其中 λ可取 ,又設(shè) λ的先驗分布為 π（ ） = π（ ） = 假如檢查一卷磁帶發(fā)現(xiàn)了 3個缺陷，求 λ的后驗分布。 例如經(jīng)典統(tǒng)計學認為參數(shù)的無偏估計應(yīng)滿足： 其中平均是對樣本空間中所有可能出現(xiàn)的樣本而求的，可實際中樣本空間中絕大多數(shù)樣本尚為出現(xiàn)過，而多數(shù)從未出現(xiàn)的樣本也要參與平均是實際工作者難以理解的。 ? 第二、 的后驗期望值估計 要比最大后驗估計 更合適一些。 ? 表 不合格率 的二種貝葉斯估計的比較 ?試驗號 樣本量 n 不合格數(shù) x 1 3 0 0 2 10 0 0 3 3 3 1 4 10 10 1 nxMD ??? 21? ??? nxE? 在試驗 3和誓言 4中，“抽檢 3個產(chǎn)品全部不合格”與抽檢“ 10個產(chǎn)品全部不合格”也是有差別的。 收益函數(shù)的建立不是件容易的事 ， 要對所研究的問題有全面的了解才能建立起來 。 例如 ， 某商店一個月的經(jīng)營收益為 1000元 ， 即虧 1000元 。 用這種觀點認識損失對提高決策意識是有好處的 。 (4)定義在 上的二元函數(shù) 稱為損失函數(shù) 我們把損失函數(shù) 對后驗分布 的期望稱為后驗風險 ,記 ,即 后驗風險就是用后驗分布計算的平均損失 . 定
教學課件相關(guān)推薦
鄂ICP備17016276號-1