貝葉斯網(wǎng)絡(luò)初步-資料下載頁
2025-09-19 09:50本頁面
【導(dǎo)讀】何謂貝葉斯網(wǎng)絡(luò)？條件分布的有效表達(dá)。貝葉斯網(wǎng)絡(luò)中的精確推理。全聯(lián)合概率計算復(fù)雜性十分巨大。樸素貝葉斯太過簡單。現(xiàn)實需要一種自然、有效的方式來捕捉。變量之間的獨立性和條件獨立性可大大。是一個有向無環(huán)圖。隨機變量集組成網(wǎng)絡(luò)節(jié)點，變量可離散或連續(xù)。一個連接節(jié)點對的有向邊或箭頭集合。圖模型或概率圖模型。Weather和其它3個變量相互獨立。給定Cavity后，Toothache和Catch條件獨立。貝葉斯網(wǎng)絡(luò)的兩種含義。對條件依賴性語句集合的編碼—設(shè)計推理過程。作為對域的一種完備而無冗余的表示，貝葉。BN的緊湊性是局部結(jié)構(gòu)化(Locallystructured,BN中每個節(jié)點只與數(shù)量有限的其它節(jié)點發(fā)。假設(shè)節(jié)點數(shù)n=30,每節(jié)點有5個父節(jié)點，則。首先，添加“根本原因”節(jié)點。依次類推，直到葉節(jié)點，即對其它變量沒有。兩節(jié)點間的有向邊的取舍原則：更高精度概?！耙蚬Ｐ汀北取霸\斷模型”需要更少的數(shù)。的父節(jié)點——馬爾可夫覆蓋，證據(jù)變量集E—特定事件e，已知，一個事件e={JohnCalls=true,and. 積并求和來回答查詢。
【正文】 點的馬爾可夫覆蓋 (MB)變量的當(dāng)前值， 對 Rain采樣 ，即根據(jù) P(Rain | Cloudy = false, Sprinkler = true, WetGrass = true)來采樣。假設(shè)采樣結(jié)果為： Rain = true。故新的當(dāng)前狀態(tài)為： [C=false, S=true, R=true, W=true] 【 注 】 ： 上述過程中所訪問的每一個狀態(tài)都是一個樣本 ，能對查詢變量 Rain的估計有貢獻(xiàn)。 （ 3）重復(fù)上述步驟，直到所要求的訪問次數(shù) N。 若為 true, false的次數(shù)分別為 n1, n2，則查詢解為： Normalize(n1, n2) = n1 /N, n1 /N 若上述過程訪問了 20個 Rain=true的狀態(tài)和 60個 Rain = false的狀態(tài)，則所求查詢的解為 , 。 Cloudy Rain Sprinkler Wet Grass Rain Cloudy Cloudy Rain Cloudy Rain Sprinkler Sprinkler Sprinkler Wet Grass Wet Grass Wet Grass 馬爾可夫鏈蒙特卡羅（ MCMC）算法描述： function MCMCAsk(X, e, bn, N) return P(X | e) local variables: N[X], //關(guān)于查詢變量 X的向量計數(shù)，初值 0 Z， //bn中的非證據(jù)變量集 x， // bn的當(dāng)前狀態(tài) 利用 Z中變量的隨機值來初始化 x； for j = 1 to N do N(x) ? N(x) + 1。 //x是當(dāng)前狀態(tài) x中的查詢變量 X的值 for each Zi in Z do 給出 Zi的馬爾可夫覆蓋 MB(Zi)，并根據(jù) P(Zi |mb(Zi)) 來采樣的 Zi值 。 return Normalize(N[X]) //對 N[X]進(jìn)行歸一化 關(guān)于 MCMC算法的補充說明： ?MCMC方法的一種常用的簡單變體為： 吉布斯采樣器 （ Gibbs sampler） 【 注 】 ：上述算法實質(zhì)上就是吉布斯采樣器。 ?MCMC是概率模型計算中的一種強有力的方法，目前已發(fā)展出很多變形，包括： （ 1）模擬退火算法 （ 2）隨機可滿足性 (Stochastic satisfiability)算法 課后請研讀論文： [1] Tom M. Mitchell. Does machine learning really work? AI Magazine, 18(3): 1120, Fall 1997. 【 必讀 】 [2] C. Andrieu et al. Jordan. An introduction to MCMC for machine learning. Machine Learning, 2020, 5: 543. 【 可選讀 】 【 說明 】 對于打算編程實現(xiàn)，或以后可能要用 MCMC算法的同學(xué)，請認(rèn)真研讀文獻(xiàn) [2]。 馬爾可夫鏈和 MCMC方法的中文參考書 ： ?盛驟 等 . 《 概率論與數(shù)理統(tǒng)計 》 (第三版 ). 高等教育出版社 , 2020. ?龔光魯 等 . 《 應(yīng)用隨機過程教程及在算法和智能計算中的隨機模型 》 . 清華大學(xué)出版社 , 2020. ―Do not judge, or you too will be judged. For in the same way you judge others, you will be judged, and with the measure you use, it will be measured to you .‖ From Matthew 7:12 NIV
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1