ldjaaa第1章先驗(yàn)分布與后驗(yàn)分布-資料下載頁
2025-08-04 23:05本頁面
【正文】 ） 均值 正態(tài)分布2( , )N ?? 正態(tài)分布（均值已知） 方差 倒伽瑪分布( , )I G a ?? 總結(jié) ? ? 分位數(shù) )1,0(),(),(:?pxpxFX對(duì)任意密度函數(shù)為的分布函數(shù)為設(shè)隨機(jī)變量定義pdxxpxF pxp ?? ???)()()1( 若., 分位數(shù)又稱為下側(cè)分位數(shù)的為則稱 ppXx p167。 超參數(shù)及其確定 定義 ：先驗(yàn)分布中所含的未知參數(shù)稱為 超參數(shù) 。 例 成功概率的共軛先驗(yàn)分布為 Be(α ,β )，它含有兩個(gè)超參數(shù) . 注意： 一般來說，共軛先驗(yàn)分布含有超參數(shù)，而無信息先驗(yàn)分布一般不含超參數(shù)。 共軛先驗(yàn)分布是一種有信息的先驗(yàn)分布，故其中所含的超參數(shù)應(yīng)充分利用各種先驗(yàn)信息來確定，下面結(jié)合具體的例子介紹一些確定超參數(shù)的方法。這些方法又稱為經(jīng)驗(yàn)方法。 例 二項(xiàng)分布中的成功概率 ?的共軛先驗(yàn)分布是貝塔分布 Be(α ,β ) ， α ,β 是其兩個(gè)超參數(shù) 一、利用先驗(yàn)矩 利用先驗(yàn)信息能獲得成功概率 ?的若干個(gè)估計(jì)值，記為 ?1,?2,… , ?k,一般它們是從歷史數(shù)據(jù)整理加工獲得的，由此可算得先驗(yàn)均值 ?和先驗(yàn)方差 S?2，其中 ???kiik11 ?? 2211 ()1kiiS k? ?????? ?然后令其分別等于貝塔分布 Be(α ,β ) 的期望與方差 ? ??????????????22)1(???????????S解之，可得參數(shù) α與 β的估計(jì)值 22( 1 )? 1( 1 )?( 1 ) 1SS??????????? ?????? ??? ? ??????? ? ???????二、利用先驗(yàn)分位數(shù) 假如根據(jù)先驗(yàn)信息可以確定貝塔分布的兩個(gè)分位數(shù)，則可利用這兩個(gè)分位數(shù)來確定 α 與 β 的估計(jì)值。 例如用兩個(gè)上下四分位數(shù) ?U和 ?L來確定 α 與 β ????????????110111()( 1 ) 0 . 2 5( ) ( )()( 1 ) 0 . 2 5( ) ( )LUdd????????? ? ?????? ? ?????????從這兩個(gè)方程解出 α與 β 三、利用先驗(yàn)矩和先驗(yàn)分位數(shù) 假如根據(jù)先驗(yàn)信息可獲得先驗(yàn)均值 ?和 p分位數(shù) ?p，則可列出下列方程的 ???????????????110()( 1 )( ) ( )pdp?????? ? ??????????解之，可得參數(shù) α與 β的估計(jì)值 四、其它方法 假如根據(jù)先驗(yàn)信息可獲得先驗(yàn)均值 ?，令 ? ??? ??再利用其它先驗(yàn)信息求出 α 與 β 的估計(jì)值。 總結(jié) ? ? 練習(xí) 作業(yè)： 167。 多參數(shù)模型 處理多參數(shù)的方法與處理單參數(shù)方法相似，先根據(jù)先驗(yàn)信息給出參數(shù)的先驗(yàn)分布，然后按貝葉斯公式算得后驗(yàn)分布。 設(shè)總體只含 2個(gè)參數(shù) ?=(?1,?2)，總體的密度函數(shù)為p(x|?1,?2),若從該總體抽取一個(gè)樣本 并給出先驗(yàn)密度 ，則 的后驗(yàn)密度為 ),...,( 21 nxxxx ?),( 21 ??? 12( , )??1 2 1 1 22( , ) ( , ) ( , )x p x? ? ? ? ? ? ? ??在多參數(shù)問題中，人們關(guān)心的常常是其中一個(gè)或少數(shù)幾個(gè)參數(shù)，這時(shí)其余參數(shù)常被稱為 討厭參數(shù)或多余參數(shù)。 在處理討厭參數(shù)上，貝葉斯方法要比經(jīng)典方法方便得多。 1 1 2 2( ) ( , )x x d? ? ? ? ? ?? ?例如討厭參數(shù) ?2， 167。 充分統(tǒng)計(jì)量 定義 設(shè) x1, x2, …, xn 是來自某個(gè)總體的樣本，總體分布函數(shù)為 F ( x|? )，統(tǒng)計(jì)量 T = T(x1, x2, …, xn) 稱為 ? 的 充分統(tǒng)計(jì)量， 如果在給定 T 的取值后， x1, x2,…, xn 的條件分布與 ? 無關(guān) . 充分性原則： 在統(tǒng)計(jì)學(xué)中有一個(gè) 基本原則 在充分統(tǒng)計(jì)量存在的場(chǎng)合，任何統(tǒng)計(jì)推斷都 可以基于充分統(tǒng)計(jì)量進(jìn)行，這可以簡(jiǎn)化統(tǒng)計(jì) 推斷的程序。 因子分解定理 定理 設(shè)總體概率函數(shù)為 p(x |? )， X1, …, Xn 為樣本，則 T=T(X1,… Xn) 為充分統(tǒng)計(jì)量的充分 必要條件是：存在 兩 個(gè)函數(shù) g(t。 ?)和 h(x1, …, xn)， 使得對(duì)任意的 ? 和任一組觀測(cè)值 x1, x2,…, xn，有 p(x1, x2,…, xn| ? ) =g(T(x1,x2,…, xn)|? )h(x1,x2,…, xn) () 其中 g(t,? )是通過統(tǒng)計(jì)量 T 的取值而依賴于樣本的。 定理 設(shè) x=(x1, x2, …, xn )是來自密度函數(shù) p ( x |? ) 的一個(gè)樣本， T =T(x） =T(x1, x2, …, xn)是統(tǒng)計(jì)量，它的密度函數(shù)為 p( t|?） ,又設(shè) H={?(?)}是 ?的某個(gè)先驗(yàn)分布族，則 T(x） 為 ? 的 充分統(tǒng)計(jì)量 充要條件是對(duì)任一先驗(yàn)分布 ?(?)∈ H，有 ?(?|T(x） )=?(?|x) 即用樣本分布算得的后驗(yàn)分布與統(tǒng)計(jì)量算得的后驗(yàn)分布是相同的 . 95 ? 關(guān)于定理 ： ? ，所以定理。 ? T(x)是充分的，那么按定理 ，其后驗(yàn)分布可用該統(tǒng)計(jì)量的分布算得，由于充分統(tǒng)計(jì)量可以可簡(jiǎn)化數(shù)據(jù)、降低維數(shù)，故定理 來簡(jiǎn)化后驗(yàn)分布的計(jì)算。 例 用充分統(tǒng)計(jì)量計(jì)算正態(tài)分布 N(θ,1)中參數(shù) θ的后驗(yàn)分布。（自學(xué)） 總結(jié) ? ， 貝葉斯統(tǒng)計(jì)學(xué)派的最基本的觀點(diǎn)。 ? 。 ? 。 ? 。 ? ).(),(~)(),(.~, . . . , 21 xpi i dxxx n ??????? 試確定設(shè)例 ? ).ex p ()()ex p ()()(::11??????????????????? ??a有先驗(yàn)密度為解])(ex p [)()()(:1 ???????? ? ???? ?? nxfx t則其先驗(yàn)密度的核為的共軛分布是即故)(),(),(~)(1?????? Pnxaxnii ???? ???????????niintni ixxtxxxnxxfi1211,!! . . .!)e x p ()e x p (!)(:?????其擬然函數(shù)為
醫(yī)療健康相關(guān)推薦
鄂ICP備17016276號(hào)-1