02貝葉斯決策理論-文庫(kù)吧
2024-10-25 00:52 本頁(yè)面
【正文】 足 則決策為 。 最小錯(cuò)誤率貝葉斯決策中，可令gi(x)=P(ωi|x)。 最小風(fēng)險(xiǎn)貝葉斯決策中，可令gi(x)=R(αi|x)。 判別函數(shù)的選擇并不唯一，可以為gi(x)的任意單調(diào)增函數(shù)f(gi(x))。,等價(jià)形式,因?yàn)閜(x)只是一個(gè)伸縮因子，并不影響后驗(yàn)概率的相對(duì)大小，因此決策規(guī)則中可以不考慮p(x): 如果 p(x | ?1)P(?1) p(x | ?2 ) P(?2) ，則決策為?1 ，否則決策為?2 。 如果p(x | ?1)=p(x | ?2 ) ，則x不提供任何信息，決策結(jié)果完全取決于先驗(yàn)概率 如果P(?1) =P(?2) ，兩種類別等概率出現(xiàn)，決策規(guī)則取決于似然度p(x | ?j)。,基于最小錯(cuò)誤率的貝葉斯決策規(guī)則：,16,貝葉斯決策規(guī)則及等價(jià)形式,等價(jià)形式,2.2最小錯(cuò)誤率貝葉斯決策,令 為c個(gè)類別的有限集，特征向量x是一個(gè)d維的隨機(jī)向量，p(x|ωj)為類條件概率密度，P(ωj)是ωj的先驗(yàn)概率，則利用貝葉斯公式，可以計(jì)算后驗(yàn)概率 其中，,決策規(guī)則,如果對(duì)所有 都有 則決策為ωi. 在這一決策規(guī)則下，分類錯(cuò)誤率 決策的平均錯(cuò)誤率,例：假設(shè)在某個(gè)局部地區(qū)細(xì)胞識(shí)別中正常和異常兩類的先驗(yàn)概率分別為 正常狀態(tài)： 異常狀態(tài)： 現(xiàn)有一待識(shí)別的細(xì)胞，其觀察值為x，類條件概率密度分別為 , 試對(duì)該細(xì)胞x進(jìn)行分類。 解：,,決策例子,最小錯(cuò)誤率的討論,以一維情況為例討論基于最小錯(cuò)誤率的貝葉斯決策確實(shí)對(duì)應(yīng)最小錯(cuò)誤率 統(tǒng)計(jì)意義上的錯(cuò)誤率，即平均錯(cuò)誤率，用P(e)表示,20,最小錯(cuò)誤率的討論,21,兩類錯(cuò)誤率,在很多實(shí)際問(wèn)題中，兩類并不是同等的，比如在疾病的診斷中，假陽(yáng)性是指誤診，而假陰性則為漏診，假陽(yáng)（陰）性率是指假陽(yáng)（陰）性樣本占整個(gè)陰性（陽(yáng)性）樣本的比例。 在評(píng)價(jià)一種檢測(cè)方法的效果時(shí)，常用的兩個(gè)概念是靈敏度(sensitivity)和特異性(specificity)。前者是指在真正的陽(yáng)性樣本中有多少能被檢測(cè)出來(lái)，而后者是指在陰性樣本中有多少比例沒(méi)有被誤判。兩者是一對(duì)矛盾，需要根據(jù)實(shí)際情況取得最佳平衡。 在統(tǒng)計(jì)學(xué)上，假陽(yáng)性又被稱為第一類錯(cuò)誤(TypeI Error)，假陰性被稱為第二類錯(cuò)誤(TypeII Error)。,兩類錯(cuò)誤率,用FP,FN,TP,TN分別表示假陽(yáng)性，假陰性，真陽(yáng)性，真陰性的樣本數(shù)，Sn和Sp分別表示靈敏度和特異性，α,β分別表示第一類和第二類錯(cuò)誤率，則 如果令ω1表示陰性， ω2表示陽(yáng)性，則前面最小錯(cuò)誤率討論中的P1(e)和P2(e)分別對(duì)應(yīng)于第一類錯(cuò)誤率和第二類錯(cuò)誤率?？偟腻e(cuò)誤率是兩類錯(cuò)誤率的加權(quán)平均。,NeymanPearson決策,在某些應(yīng)用中，我們希望保證某個(gè)錯(cuò)誤率不超過(guò)一個(gè)固定水平，在此前提下再考慮另一類錯(cuò)誤率盡可能低。 比如，在鱸魚和鮭魚的例子中，可能政府會(huì)強(qiáng)制性規(guī)定，鮭魚錯(cuò)分為鱸魚的比例不得超過(guò)1% 對(duì)某些重要疾病的診斷，我們希望確保漏診率低于一個(gè)水平ε0(比如0.1%). 這種限定一類錯(cuò)誤率而使另一類錯(cuò)誤率最小的決策規(guī)則稱作NeymanPearson決策規(guī)則。 可以用Lagrange乘子法求解。,2.3最小風(fēng)險(xiǎn)貝葉斯決策,在實(shí)際問(wèn)題中，我們關(guān)心的可能不是分類的錯(cuò)誤率本身，而是它所帶來(lái)的風(fēng)險(xiǎn) 在鱸魚和鮭魚的例子中，把鱸魚錯(cuò)判為鮭魚和把鮭魚錯(cuò)判為鱸魚的損失是不一樣的 在癌細(xì)胞的識(shí)別中，把正常細(xì)胞誤判為癌細(xì)胞和把癌細(xì)胞誤判為正常細(xì)胞的代價(jià)也是不一樣的 因此，不考慮不同錯(cuò)誤所帶來(lái)的不同風(fēng)險(xiǎn)而將它們一視同仁，在很多情況下是不恰當(dāng)?shù)?所謂最小風(fēng)險(xiǎn)貝葉斯決策，就是考慮各種錯(cuò)誤造成損失不同時(shí)的一種最優(yōu)決策,問(wèn)題描述,令 為c個(gè)類組成的狀態(tài)空間，樣本 為d
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1