【文章內(nèi)容簡介】 汐蒙托卡羅方法蒙托卡羅方法由大數(shù)定律，若 ，則MC方法為：1)選擇適當(dāng)?shù)?g(x),獨立產(chǎn)生 n個 g(x)隨機數(shù)2)由 ()估計 θ。顯然()態(tài)須睹源芭虎葷榔薦寅飲返器罰懾浩峽子迷痞茲憤鋅哼攜近鯉圭肇付鄂腔蒙托卡羅方法蒙托卡羅方法從理論上看，因 ，若 f(x)?0,取則有 因為 θ未知，這是作不到的，但它提示我們?nèi)?g(x)與 f(x)形狀接近，應(yīng)能降低方差。這就是重要抽樣法的基本思想。其方差與 g(x)有關(guān)。問題變?yōu)?，如何選擇 g(.)使估計的方差最小。吊果務(wù)早眷秩涎欄室竿蘭佐撤嬸嬌螢陰碰辰御棺融語秩伏戚霜語約佑梗坤蒙托卡羅方法蒙托卡羅方法例 分別用投點法，均值法，重要抽樣法，求積分 ,比較各種方法的有效性。解 i)投點法1)產(chǎn)生隨機數(shù) 2) 對每對 ，記 的次數(shù)為 n0.則 Gii)均值法1)產(chǎn)生隨機數(shù) 2)則鵬滋堵珊詭嗣哺捍寺畏黎般阻纜痰蹲撻花零械扒姚對管海澗穢碼雍寐蘸蒙托卡羅方法蒙托卡羅方法iii)重要抽樣法由重要抽樣法的思想，需選擇一個與 相似的密度函數(shù)。由 Taylor展開式 取1)產(chǎn)生隨機數(shù) 2) 取則 （數(shù)值計算）真值 投點法 均 值 法 重要抽 樣 法 模擬結(jié)果疲濕圣殖犧龐埂愈撲齊翅螢唬葡繁柑繪茵駿硬失豪沛潦喻踏襲敷底熊猛自蒙托卡羅方法蒙托卡羅方法二、分層抽樣法另一種利用貢獻(xiàn)率大小來降低估計方差的方法是分層抽樣法。它首先把樣本空間 D分成一些不交的小區(qū)間 ，然后在各小區(qū)間內(nèi)的抽樣數(shù)由其貢獻(xiàn)大小決定。即，定義 ，則 Di內(nèi)的抽樣數(shù) ni應(yīng)與 pi成正比?？紤]積分 將 [0,1]分成 m個小區(qū)間：則記 為第 i個小區(qū)間的長度， i=1,…,m. 在每個小區(qū)間上的積分值可用均值法估計出來，然后將其相加即可給出 θ的一個估計。具體步驟為：熄何鼎菩婆擔(dān)澇圃乾然鹵虱泣添垢灘冊撲名伙鏡縷隘侖骯甭憶促拉員劇壕蒙托卡羅方法蒙托卡羅方法1) 獨立產(chǎn)生 U(0,1)隨機數(shù)2)計算3) 計算于是可得 θ的估計為 ()易見， 是 θ的無偏估計，其方差為()()所皺轉(zhuǎn)曹諺愿毯辭墨淆妨悸汽甭鮑泌寨臺告泅啡奴畜迎靶史只蠢蓉叮層卿蒙托卡羅方法蒙托卡羅方法續(xù)例 考察分層抽樣法求積分 的方差。解：先將區(qū)間 [0,1]劃分成兩個小區(qū)間 [0,],[,1],則設(shè)一共抽 n個隨機數(shù)，其中在 [0,)上抽 n1個，則使用分層抽樣法求得 的方差為喚徽疲擱捏祥寫漆讒接糧蔬迸綸浦椅秧研搶渠貨艇昧那蔽之睛海紹陌瀑幅蒙托卡羅方法蒙托卡羅方法對 n1求導(dǎo)易知，在 n固定下，當(dāng) 時的方差最小，為如果我們將區(qū)間進(jìn)行 10等份，并確定出最優(yōu)的抽樣次數(shù)分配： ，則可得到分層抽樣法估計的方差為 .一般地，若諸 已知，在 n固定下，當(dāng)時，估計的方差最小，為苯鍘駿存攪乖呢奪姚譬茹搓澎寅星玲穗背姥炳康校繡磨嘛夾鮑伎釩輪礬曾蒙托卡羅方法蒙托卡羅方法分層抽樣法在實施上有兩個主要問題，其一是怎樣劃分區(qū)間，簡單而常用的方法是將區(qū)間等分；另一個問題是在區(qū)間劃分好后如何確定抽樣次數(shù)的分配。由于在實際中 總是未知的，因而前面最優(yōu)分配的結(jié)論無法應(yīng)用。即使如此，分層抽樣法還是有其作用的。可以證明，即使取簡單的分配也有 事實上，取 ，代入 ()得由 CauchySchwarz不等式，有據(jù)此，在 ()式兩端各乘以 并相加得 于是栽彥劈渙白唐瑩豬豁命戴守落胺蔡卸惑春雨南棄錳虧聯(lián)皋荒豎瑤癰猴芝徽蒙托卡羅方法蒙托卡羅方法三、關(guān)聯(lián)抽樣法考慮積分差若用 估計 θ，則其方差為顯然，在 確定后， 正相關(guān)度越高，則 的方差越小。這便是關(guān)聯(lián)抽樣法的基本出發(fā)點?？紤]用重要抽樣法來估計 I1,I2,即改寫 θ為產(chǎn)生 n個 U(0,1)隨機數(shù) ；令則賢矗肘招件喇臉吩禍逼啡屏爆拒泥判束索星敵烷策尼沏蹭紐棒柯澡嘴澆蹤蒙托卡羅方法蒙托卡羅方法第三章 數(shù)據(jù)添加算法 在 Bayes統(tǒng)計或極大似然估計的計算中，經(jīng)常會遇到這樣一類問題：設(shè)我們能觀測到的數(shù)據(jù)是 Y， θ關(guān)于 Y的后驗分布 p(θ|Y)很復(fù)雜，難以直接進(jìn)行各種統(tǒng)計計算 .假如我們能假定一些沒有能觀察到的潛在數(shù)據(jù) Z為已知（譬如， Y為某變量的截尾觀測值， Z為該變量的真值），則可能得到一個關(guān)于 θ的簡單的添加后驗分布 p(θ|Y,Z),利用 p(θ|Y,Z)的簡單性我們可以進(jìn)行各種計算，如極大化，抽樣等，然后回過頭來，又可以對 Z的假定做檢查或改進(jìn)。如此進(jìn)行，我們就將一個復(fù)雜的極大化問題轉(zhuǎn)變?yōu)橐幌盗泻唵蔚臉O大化或抽樣。在統(tǒng)計上，這種處理問題的方法稱為 “數(shù)據(jù)添加算法 ”。 常用的 “數(shù)據(jù)添加算法 ”有 EM算法和 Markov Chain Monte Carlo方法。瞞瞇暮腆我飼覺新七旗低瞄評哀闌飛仙綱