貝葉斯網(wǎng)絡(luò)初步(存儲版)
【正文】 采樣器 （ Gibbs sampler） 【 注 】 ：上述算法實質(zhì)上就是吉布斯采樣器。 Cloudy Rain Sprinkler Wet Grass Rain Cloudy Cloudy Rain Cloudy Rain Sprinkler Sprinkler Sprinkler Wet Grass Wet Grass Wet Grass 馬爾可夫鏈蒙特卡羅（ MCMC）算法描述： function MCMCAsk(X, e, bn, N) return P(X | e) local variables: N[X], //關(guān)于查詢變量 X的向量計數(shù)，初值 0 Z， //bn中的非證據(jù)變量集 x， // bn的當前狀態(tài) 利用 Z中變量的隨機值來初始化 x； for j = 1 to N do N(x) ? N(x) + 1。即： P(C|S, ~R) = P(C,S,~R) / P(S, ~R) = P(C)P(S|C)P(~R|C) / [P(C)P(S|C)P(~R|C)+P(~C)P(S|~C)P(~R|~C)] =(??) / [??+? ?]= 再由計算機生成一個隨機數(shù) q?[0,1]（可參照 《 概率統(tǒng)計 》 中的隨機數(shù)生成方法） 。 U1 Um X Z1j Znj Y1 Yn 【 說明 】 ： 給定 馬爾可夫覆蓋 （兩圓圈之間的區(qū)域），節(jié)點 X和網(wǎng)絡(luò)中所有其它節(jié)點都是條件獨立的。 因此，在貝葉斯網(wǎng)絡(luò)中可通過計算條件概率的乘積并求和來回答查詢。故新的當前狀態(tài)為： [C=false, S=true, R=false, W=true] （ 2） 根據(jù) Rain節(jié)點的馬爾可夫覆蓋 (MB)變量的當前值， 對 Rain采樣 ，即根據(jù) P(Rain | Cloudy = false, Sprinkler = true, WetGrass = true)來采樣。 ?MCMC是概率模型計算中的一種強有力的方法，目前已發(fā)展出很多變形，包括： （ 1）模擬退火算法 （ 2）隨機可滿足性 (Stochastic satisfiability)算法 課后請研讀論文： [1] Tom M. Mitchell. Does machine learning really work? AI Magazine, 18(3): 1120, Fall 1997. 【 必讀 】 [2] C. Andrieu et al. Jordan. An introduction to MCMC for machine learning. Machine Learning, 2020, 5: 543. 【 可選讀 】 【 說明 】 對于打算編程實現(xiàn)，或以后可能要用 MCMC算法的同學，請認真研讀文獻 [2]。 若為 true, false的次數(shù)分別為 n1, n2，則查詢解為： Normalize(n1, n2) = n1 /N, n1 /N 若上述過程訪問了 20個 Rain=true的狀態(tài)和 60個 Rain = false的狀態(tài)，則所求查詢的解為 , 。 MCMC算法執(zhí)行過程示例： Cloudy Rain Wet Grass Sprinkler S R P(W) t t t f f t f f C P(S) t f P(C) C P(R) t f 【 要求 】 ：查詢 P(Rain | Sprinkler = true, WetGrass = true)的概率 MCMC算法執(zhí)行步驟： ?證據(jù)變量 Sprinkler, WetGrass固定為 true ?隱變量 Cloudy和 查詢變量 Rain隨機初始化，例如， Cloudy = true, Rain = false，初始狀態(tài)為： [C=true, S=true, R=false, W=true] ?反復執(zhí)行如下步驟： （ 1） 根據(jù) Cloudy的馬爾可夫覆蓋 (MB)變量的當前值， 對 Cloudy采樣 ，即根據(jù) P(Cl
教學課件相關(guān)推薦
鄂ICP備17016276號-1