【正文】
馬爾可夫鏈和 MCMC方法的中文參考書 : ?盛驟 等 . 《 概率論與數(shù)理統(tǒng)計(jì) 》 (第三版 ). 高等教育出版社 , 2020. ?龔光魯 等 . 《 應(yīng)用隨機(jī)過(guò)程教程及在算法和智能計(jì)算中的隨機(jī)模型 》 . 清華大學(xué)出版社 , 2020. ―Do not judge, or you too will be judged. For in the same way you judge others, you will be judged, and with the measure you use, it will be measured to you .‖ From Matthew 7:12 NIV 。 return Normalize(N[X]) //對(duì) N[X]進(jìn)行歸一化 關(guān)于 MCMC算法的補(bǔ)充說(shuō)明: ?MCMC方法的一種常用的簡(jiǎn)單變體為: 吉布斯采樣器 ( Gibbs sampler) 【 注 】 :上述算法實(shí)質(zhì)上就是吉布斯采樣器。 ( 3)重復(fù)上述步驟,直到所要求的訪問(wèn)次數(shù) N。判別方法如下: if q P(C|S, ~R) then 轉(zhuǎn)移到下一個(gè)新狀態(tài); otherwise 停留在原狀態(tài) . 對(duì)于本例子,假設(shè)生成的隨機(jī)數(shù) q=,可知, 轉(zhuǎn)移概率 P(Cloudy|Sprinkler= true, Rain=false)= q=,所以, Cloudy由 true狀態(tài)轉(zhuǎn)移到新狀態(tài) false,即采樣結(jié)果為: Cloudy = false。 ?后驗(yàn)概率計(jì)算的主要采樣方法 ?直接采樣方法 ?馬爾可夫鏈蒙特卡羅( MCMC)方法 ?變分法 (Variational method) ?環(huán)傳播 (Loopy propagation)方法 直接采樣方法: ?直接采樣算法 ?拒絕采樣 (Rejection sampling)算法 ?似然加權(quán) (Likelihood weighting)算法 上述方法的詳細(xì)步驟請(qǐng)參見: ?《 人工智能:一種現(xiàn)代方法 》 第 14章 ?Berkeley大學(xué) Russell等人制作的 PPT 馬爾可夫鏈蒙特卡羅( MCMC)算法思想 : ?對(duì)前一個(gè)事件進(jìn)行隨機(jī)改變而生成事件樣本 ?BN為每個(gè)變量指定了一個(gè)特定的當(dāng)前狀態(tài) ?下一個(gè)狀態(tài)是通過(guò)對(duì)某個(gè)非證據(jù)變量 Xi進(jìn)行采樣來(lái)產(chǎn)生,取決于 Xi的馬爾可夫覆蓋中的變量當(dāng)前值 ?MCMC方法可視為:在狀態(tài)空間中 —所有可能的完整賦值空間 —的隨機(jī)走動(dòng) —每次改變一個(gè)變量,但是證據(jù)變量的值固定不變。 連續(xù)隨機(jī)變量: Harvest, Cost. 線性高斯分布: ? P(c | h, subsidy) = N(ath + bt, ?t2)(c) = 1/ (?t21/2?) e –1/2{[c(ath + bt)]/?t]} ? P(c | h, ~subsidy) = N(afh + bf, ?f2)(c) = 1/ (?f21/2?) e –1/2{[c(afh + bf)]/?t]} S型函數(shù) (Sigmoid function) ? p(buys | Cost = c) = 1 / {1 + exp[2(u+?)/ ?]} 貝葉斯網(wǎng)絡(luò)中的精確推理 變量分類: ? 證據(jù)變量集 E — 特定事件 e, ? 查詢變量 X ? 非證據(jù)變量集 — Y隱變量( Hidden variable) ? 全部變量的集合 U = {x} ? E ? Y ( 1)通過(guò)枚舉進(jìn)行推理 Burglary Earthquake MaryCalls JohnCalls Alarm B E P(A) t t t f f t f f A P(J) t f A P(M) t f P(B) P(E) ? 已知,一個(gè)事件 e = {JohnCalls = true, and MaryCalls = true},試問(wèn)出現(xiàn)盜賊的概率是多少