02貝葉斯決策理論-在線瀏覽
2025-02-15 02:31本頁面
【正文】 則及等價(jià)形式 1 2 11 2 2( | ) ( | )( | ) ( | )? ? ?? ? ?????P x P x xP x P x x1 , 21 , 2112221111222( 1 ) ( | ) m a x ( | )( 2) ( | ) ( ) m a x ( | ) ( )( | ) ( )( 3 ) ( )( | ) ( )()( 4) ( ) l n[ ( ) ] l n ( | ) l n ( | ) l n()i j iji i j j ijP x P x xp x P p x P xp x Pl x xp x PPh x l x p x p x xP? ? ?? ? ? ? ???????????????????? ??? ?? ?? ?? ?? ? ? ? ? ? ???? ???似 然 比 形 式等價(jià)形式 ? 令 為 c個(gè)類別的有限集，特征向量 x是一個(gè) d維的隨機(jī)向量， p(x|ωj)為類條件概率密度， P(ωj)是 ωj的先驗(yàn)概率，則利用貝葉斯公式，可以計(jì)算后驗(yàn)概率 其中， 1{}c??， ，( x | ) P ( )P ( | x) ,( x )jjjpp??? ?1( x ) ( x | ) P ( ) .cjjjpp ???? ?決策規(guī)則 ? 如果對所有 都有 則決策為 ωi. ? 在這一決策規(guī)則下，分類錯(cuò)誤率 ? 決策的平均錯(cuò)誤率 ji?P ( | x) P ( | x) ,ij???( | x ) ( | x) 1 ( | x) .jijiP e P P???? ? ??( ) ( , x) dx ( | x ) ( x) dxP e P e P e p????例 ：假設(shè)在某個(gè)局部地區(qū)細(xì)胞識別中正常和異常兩類的先驗(yàn)概率分別為 正常狀態(tài)： 異常狀態(tài)： 現(xiàn)有一待識別的細(xì)胞，其觀察值為 x，類條件概率密度分別為 , 試對該細(xì)胞 x進(jìn)行分類。 ? 在評價(jià)一種檢測方法的效果時(shí)，常用的兩個(gè)概念是靈敏度 (sensitivity)和特異性 (specificity)。兩者是一對矛盾，需要根據(jù)實(shí)際情況取得最佳平衡。 兩類錯(cuò)誤率 ? 用 FP,FN,TP,TN分別表示假陽性，假陰性，真陽性，真陰性的樣本數(shù)， Sn和 Sp分別表示靈敏度和特異性， α,β分別表示第一類和第二類錯(cuò)誤率， 則 ? 如果令 ω1表示陰性， ω2表示陽性，則前面最小錯(cuò)誤率討論中的 P1(e)和 P2(e)分別對應(yīng)于第一類錯(cuò)誤率和第二類錯(cuò)誤率。 T P T NS n 1 , S p 1 .T P +F N T N +F P??? ? ? ? ? ?NeymanPearson決策 ? 在某些應(yīng)用中，我們希望保證某個(gè)錯(cuò)誤率不超過一個(gè)固定水平，在此前提下再考慮另一類錯(cuò)誤率盡可能低。 ? 可以用 Lagrange乘子法求解。 1= { }c??? ， ， T12x [ , , , ]dx x x? 12{ , , , }k? ? ?? 。 ? 由于 R(α (x)|x)和 p(x)都是非負(fù)的，且 p(x)是已知的，因此要使 R(α)最小，就要對所有 x使 R(α (x)|x)最小，因此，最小風(fēng)險(xiǎn)貝葉斯決策就是： 若 則 1 , ,( | x) m in ( | x) ,ijjkRR?? ??i??? 。 111 1 12 2 21 1 22 22( | x) ( | x) ( | x) ( | x) , x .P P P P ?? ? ? ? ? ? ? ? ?? ?? ? ? ???若 則( , ) .ij i j? ? ? ??11 22 12 21= = 0 = = 1? ? ? ?，幾種等價(jià)形式 111 21 1 22 12 2211 1 1 22 12 12 2222 2 2 11 21 21 1111 1 12 2222 2 21 11( ) P ( | x) ( ) P ( | x) x .P ( | x) ( x | ) P ( )x.( | x) ( x | ) P ( )( x | ) P ( ) ( )( x ) x .( x | ) P ( ) ( )pPpplp?? ? ? ? ? ???? ? ? ? ? ? ??? ? ? ? ? ? ??? ? ? ??? ? ? ?? ?? ? ? ???? ???? ? ? ?? ???? ???? ?? ??若 ， 則若 ， 則若 ， 則決策例子 決策 狀態(tài) ω1 ω2 α1 0 6 α2 1 0 在前面例子的基礎(chǔ)上，利用下面的決策表，按最小風(fēng)險(xiǎn)貝葉斯決策重新進(jìn)行分類決策。 決策例子 ? 解：已計(jì)算出的后驗(yàn)概率為 ? 條件風(fēng)險(xiǎn) ? 由于 ，決策為 ω2，即判別待識別細(xì)胞為異常細(xì)胞。 ? 由于決策表是人為確定的，決策表的不同會導(dǎo)致決策結(jié)果的不同，因此，在實(shí)際應(yīng)用中，需要認(rèn)真分析所研究問題的內(nèi)在特點(diǎn)和分類的目的，與應(yīng)用領(lǐng)域的專家共同設(shè)計(jì)出適當(dāng)?shù)臎Q策表，才能做出更有效的決策。 ● 對于任意隨機(jī)向量 x， xT∑x是 ∑的二次型。 ● 若 xT∑x0，則 ∑為正定陣。 ? ⑴參數(shù) μ和 ∑對分布的決定性 ? ⑵等密度點(diǎn)的軌跡為一超橢球面 ? ⑶不相關(guān)性等價(jià)于獨(dú)立性 ? ⑷邊緣分布和條件分布的正態(tài)性 ? ⑸線性變換的正態(tài)性 ? ⑹線性組合的正態(tài)性 ⑴ 參數(shù) μ和 ∑對分布的決定性 ? 多元正態(tài)分布被均值向量 μ和協(xié)方差矩陣 ∑所完全確定。 ? 協(xié)方差矩陣 ∑由于其對稱性故其獨(dú)立元素有 p(x)~N(μ,∑) ? 多元正態(tài)分布概率密度函數(shù)常記為 ⑵ 等密度點(diǎn)的軌跡為一超橢球面 ? 從正態(tài)分布總體中抽取的樣本大部分落在由 μ和 ∑所確定的一個(gè)區(qū)域里 。 橢圓顯示了等概率密度的高斯分布軌跡 。在數(shù)理統(tǒng)計(jì)中上式所表示的數(shù)量： )()(12 μxμx ???? ?T?)()( 12 μxμx ???? ?T?? 為 x到 μ的 Mahalanobis距離的平方。這個(gè)超橢球體大小是樣本對于均值向量的離散度度量。 ⑶ 不相關(guān)性等價(jià)于獨(dú)立性 ? 不相關(guān)與獨(dú)立的定義：
黨政相關(guān)相關(guān)推薦
鄂ICP備17016276號-1