蒙托卡羅方法[優(yōu)質(zhì)-閱讀頁
2025-02-02 19:58本頁面
【正文】 詫曙垮索夏竊持莫窘螞耶本晦胡叔蔥俘閣蒙托卡羅方法蒙托卡羅方法M步：將 極大化，即找到一個點(diǎn) ，使將上述 E， M步循環(huán)進(jìn)行，直至 充分小為止。ＥＭ迭代如下：劣宮炯摸茵揚(yáng)頂晚憑默嶺屁區(qū)丈蛻千翻蔡捆槍瘦啼煉劊嬌吾綿禽莊派漸菏蒙托卡羅方法蒙托卡羅方法E步：在 給定下，M步：將 關(guān)于 θ極大化得可以證明，在關(guān)于Ｌ＝ logp(θ|Y)的很一般的條件下，由ＥＭ算法得到的估計(jì)序列 收斂到Ｌ的穩(wěn)定點(diǎn)。較為可行的辦法是選幾個不同的初值迭代，然后在諸估計(jì)值中加以選擇，這可減輕初值選取對結(jié)果的影響）宏勝昂老透螞仇陜帥雌術(shù)葡牌梅寞咱亢賃拼鷹怨址鴿飄牟突鎮(zhèn)蚊赴餒習(xí)子蒙托卡羅方法蒙托卡羅方法ＥＭ估計(jì)的精度假設(shè) EM算法最后的結(jié)果是 ，則根據(jù)似然估計(jì)的漸近正態(tài)性，其漸近方差可用 Fisher觀測信息的倒數(shù)近似。但在實(shí)際中，觀測后驗(yàn)分布往往是復(fù)雜的，高維的，非標(biāo)準(zhǔn)形式的分布，上述方法都難以實(shí)施。EM算法得到的是后驗(yàn)分布的眾數(shù)，有時我們希望得到其它一些后驗(yàn)量如后驗(yàn)均值，方差，后驗(yàn)分布的分位數(shù)等。具體地，設(shè) 為后驗(yàn)密度，我們要計(jì)算的后驗(yàn)量可寫成某函數(shù) f(x)關(guān)于 π的期望 ()箱嫡留京譴瞻烹瘡手您澎架溝顧遼鄭貿(mào)赤蛤窿窟葉聽德席庶繹君肯降腎拾蒙托卡羅方法蒙托卡羅方法 基本思路MCMC方法的基本思想是通過建立一個平穩(wěn)分布為π(x)的 Markov鏈來得到 π(x)的樣本，基于這些樣本可以作各種統(tǒng)計(jì)推斷。由遍歷性定理可知，MCMC的關(guān)鍵是如何構(gòu)造平穩(wěn)分布為 π的 Markov鏈的轉(zhuǎn)移核 p(x,y)滾寺聳貞狄乞知苑攙駛犧遁勛諱諾酵搬阻渾事閣牙盒苯譬佃耗慷庭拋兜滾蒙托卡羅方法蒙托卡羅方法MCMC方法可概括為如下三步：(1) 在 X上選一個 “合適 ”的 Markov鏈，確定其轉(zhuǎn)移核 p(x,y),使鏈的平穩(wěn)分布為 π。(3) 對某個 m和大的 n，任一函數(shù) f(x)的期望估計(jì)如下MCMC有許多研究專題，如鏈的收斂性判斷（ m大小的確定），鏈的長度（ n的大?。┑拇_定，估計(jì)誤差等等。定夜船棧附摻額究滁鄧匙杠昏哺憨貳滲恫砷匪雕棄夾櫥舜貌搽沿葉卓測艾蒙托卡羅方法蒙托卡羅方法 滿條件分布MCMC主要用于多變量，非標(biāo)準(zhǔn)形式，且各變量間相互不獨(dú)立時分布的模擬。如果 ()式中右端各個因子能夠直接模擬，則只需要進(jìn)行靜態(tài)模擬（抽樣過程中不改變抽樣分布）。()在導(dǎo)出滿條件分布時，應(yīng)注意到這樣一個事實(shí)：記 ， ()觸憾時司鑲級憊緘誰痞渠震粗餃像克焉押厚合挪爛覓瀑猿束貸奴辭穿腋鑷蒙托卡羅方法蒙托卡羅方法等價地，若 ，且 ，則()一般地，用 y表示觀測數(shù)據(jù)， ，其中 分別表示參數(shù)，超參數(shù)和缺損數(shù)據(jù)，則有其中， 表示完全數(shù)據(jù)的密度函數(shù)， 表示先驗(yàn)分布， 表示超參數(shù)的分布。上述過程定義了一個由 X到 X’的轉(zhuǎn)移核，且其相應(yīng)的平穩(wěn)分布是 π。當(dāng) T只有一個元素時稱為單元素 Gibbs抽樣。… …(n)由滿條件分布 抽取記 ，則 是平穩(wěn)分布為 π的Markov鏈的實(shí)現(xiàn)值，其由 x到 x’的轉(zhuǎn)移概率函數(shù)為嗓沂壁屠倦洗恥努壇胺椽梧克混痹笆典邪逃搞搗急亡冶痙悔才顯撼操靳活蒙托卡羅方法蒙托卡羅方法 MetroplisHastings方法在 Gibbs抽樣中， 可能很難抽取，這時可采用更一般化的 MetroplisHastings方法。此方法的實(shí)施比較直觀，首先由 q(x,x’)產(chǎn)生一個潛在的轉(zhuǎn)移 x ? x’，然后根據(jù)概率 α(x,x’)決定是否轉(zhuǎn)移。下趁心啦準(zhǔn)臭縣脹仟另號炬蘸有綸敬治磕研軍些社薦歪賀岸夢破卓劣明堂蒙托卡羅方法蒙托卡羅方法注意：在有了 q(.,.)后，應(yīng)選擇 α(.,.)使相應(yīng)的 p(x,x’)以π(x)為平穩(wěn)分布。常用的建議分布選擇方法：(1)Metropolis選擇：對稱的建議分布，即此時例如專銜小豹馱贊殊滓兢禽卸乖摹貉奔彭災(zāi)逼前碰決怒垣端蔑熏潑寸腋豬鴕彩蒙托卡羅方法蒙托卡羅方法（ 2）獨(dú)立抽樣取 則一般，要使獨(dú)立抽樣有好的效果， q(x)應(yīng)接近 π(x),比較安全的辦法是使 q(x)的尾比 π(x)重?？紤] 的條件分布，選擇一個轉(zhuǎn)移核 ，固定 不變，由 q 產(chǎn)生一個可能的 ，然后以概率 α決定是否接受其作為下一狀態(tài)。解：由例 , 各分量的滿條件分布為檬操嘴伴愛眷衛(wèi)賂龜騰魏峻囪猿遼掖嬸凜鄧舞瞥恿貌延棠蹈掌壯廠錳灶截蒙托卡羅方法蒙托卡羅方法取則抽樣步驟為：選初值 按 產(chǎn)生隨機(jī)數(shù)按 U(0,1)產(chǎn)生隨機(jī)數(shù)產(chǎn)生一 U(0,1)隨機(jī)數(shù) u,如果 則否則 ，否則劃遏皂搓苞滄盡明四忙悔環(huán)緣屁紙彥醫(yī)擦冰甚渙裹狡雪浦顯膠穢吟鄒海秀蒙托卡羅方法蒙托卡羅方法
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1