(備用)貝葉斯方法(估計_推斷_決策)-預覽頁
【正文】 nxB?計算如下： 10.,1,0,)1()()(),(???????? ???????nxCxXpxpxnxxn ? 10,)1()1()1()2()(),()()2()1()1()1()(10?????????????????????????xxnxnxpxpxnxnxCdCxpxnxxnxnxxn????????后驗分布為 )1,1( ??? xnx? 三、 常用的一些共軛先驗分布 對于一些常用的指數(shù)分布族，如果僅對其中的參數(shù) θ感興趣，下表列出了它們的共軛先驗分布及后驗期望。貝葉斯本人認為，當你對參數(shù) θ的認識除了在有限區(qū)間（ c， d）之外，其它毫無所知時，就可用區(qū)間（ c， d）上的均勻分布作為 θ的先驗分布。 5，那可以通過如下兩個方程來確定 a與 b。例如，如果能從先驗信息中較為準確地算得 θ先驗平均和先驗方差，則可令其分別等于 β分布的期望與方差最后解出 a與 b。 4 國內(nèi)外不少人使用 β分布獲得成功。β分布正是這樣一個分布。為了估計 而作 n次獨立觀察，其中事件出現(xiàn)次數(shù)為 X， 則有 X服從二項分布 即 ?? ?? ?)( A ),( ?nb .,1,0,)1()( nxCxXP xnxxn ????? ???? ??? ???oth ers,010,1)(???樣本 X與參數(shù)的聯(lián)合分布為 ?),( ?xh10,1,0,)1( ???? ? ??? nxC xnxxn ?此式在定義域上與二項分布有區(qū)別。在這種情況下，貝葉斯建議用區(qū)間（ 0， 1）上的均勻分布作為的先驗分布。后驗分布是三種信息的綜合。而 ),( 1 nxx ??? ?? ???? dxxpxxp nn )(),(),( 11 ?? 是樣本的邊際分布，或稱樣本 的無條件分布，它的積分區(qū)域就是參數(shù) θ 的取值范圍，隨具體情況而定。而描述這個隨機變量的分布可從先驗信息中歸納出來，這個分布稱為先驗分布，其密度函數(shù)用 π （ θ ）表示。這種信息就是樣本信息。貝葉斯統(tǒng)計學的基本觀點可以用下面三個觀點歸納出來。 為了紀念他 ， 英國歷史最悠久的統(tǒng)計雜志 《 Biometrika》 在 1958年又全文刊登貝葉斯的這篇論文 。只用前兩種信息的統(tǒng)計學稱為經(jīng)典統(tǒng)計學，三種信息都用的統(tǒng)計學稱為貝葉斯統(tǒng)計學。 又如某工程師根據(jù)自己多年積累的經(jīng)驗對正在設(shè)計的某種彩電的平均壽命所提供的估計也是一種先驗信息 。第一節(jié) 貝葉斯推斷方法 第二節(jié) 貝葉斯決策方法 第十一章 貝葉斯估計 第一節(jié) 貝葉斯推斷方法 一 、統(tǒng)計推斷中可用的三種信息 美籍波蘭統(tǒng)計學家耐曼 (－ 1981) 高度概括了在統(tǒng)計推斷中可用的三種信息： 1． 總體信息 ，即總體分布或所屬分布族給我們的信息。這些資料所提供的信息就是一種先驗信息 。假如能把收集到的先驗信息也利用起來，那對我們進行統(tǒng)計推斷是有好處的。 經(jīng)過二百年的研究與應(yīng)用 ， 貝葉斯的統(tǒng)計思想得到很大的發(fā)展 ， 目前已形成一個統(tǒng)計學派 — 貝葉斯學派 。下面結(jié)合貝葉斯統(tǒng)計學的基本觀點來引出其密度函數(shù)形式。 假設(shè) Ⅱ 當給定 θ 后，從總體 p（ x│ θ ）中隨機抽取一個樣本 ,該樣本中含有 θ 的有關(guān)信息。從貝葉斯觀點來看，未知參數(shù) θ 是一個隨機變量。當樣本 給定之后，未知的僅是參數(shù) θ 了，我們關(guān)心的是樣本給定后， θ 的條件密度函數(shù)，依據(jù)密度的計算公式，容易獲得這個條件密度函數(shù) nXX ,1 ? ?????????????dxxpxxpxxpxxpxxnnnnn)(),()(),(),(),(),(11111?????這就是貝葉斯公式的密度函數(shù)形式，其中 稱為 θ 的后驗密度函數(shù)，或 后驗分布。從而對 θ 的先驗分布進行調(diào)整，調(diào)整的方法就是使用上面的貝葉斯公式，調(diào)整的結(jié)果就是后驗分布 。 ),( 1 nxx ??? ),( 1 nxx ??? ,1 n 如果此時我們對事件 A的發(fā)生沒有任何了解，對 的大小也沒有任何信息。 ?例 1 設(shè)事件 A的概率為 ， 即 。因此，必需用區(qū)間（ 0， 1）上的一個分布去擬合先驗信息。選擇共軛先驗分布在處理數(shù)學問題上帶來不少方便。從文獻來看，確定 a與 b的方法很多。 1和 50％的中位數(shù) θ0。用均勻分布意味著我們對的各種取值是“同等對待的”，是“機會均等的”。我們選后驗期望作為的貝葉斯估計，則 θ的貝葉斯估計為 nbaxadxB ????? ? 10 )(? ?????與前面的極大似然估計是不同的。 四、貝葉斯推斷（估計） Ⅰ 條件方法 由于未知參數(shù)的后驗分布是集三種信息（總體、樣本和后驗）于一身，它包含了所有可供利用的信息。故在貝葉斯推斷中不用無偏性，而條件方法是容易被實際工作者理解和接受的。 ? E?? MD?第三、 的后驗期望值估計要比最大后驗估計更合適一些。在實際中，人們經(jīng)常選用后驗期望估計作為貝葉斯估計。 收益矩陣 ???????????????nmnnmm???????212222111211 三、損失函數(shù) 為了以后的統(tǒng)一處理，在決策中常用一個更為有效的概念：損失函數(shù)。 這是對成本而言 。 按上述觀點從收益函數(shù)可以很容易獲得損
教學課件相關(guān)推薦
鄂ICP備17016276號-1