[理學]第二章貝葉斯決策理論-展示頁
2024-10-25 21:28本頁面
【正文】 )1 m ax ( | )iiPPPePPP? ? ?? ? ??? ? ??? ?? ? ????x x xxx x xx若 決 定若 決 定16 決策的錯誤率（ 3） ? 設 t為兩類的分界面，則在特征向量 x是一維時， t為 x軸上的一點。 ?Bayes決策常用的準則： ?最小錯誤率 準則 ?最小風險 準則 ?在限定一類錯誤率條件下使另一類錯誤率為最小的準則 ?最小最大決策準則 7 Bayes最小錯誤率決策 ? 以兩類分類問題為例：已知先驗概率 P(ωi)和觀測值的類條件概率密度 (分布 ) p(x|ωi)， i=1,2 問題 ：對某個樣本 x， x∈ ω1? x∈ ω2？ ( ) ( | )iigP ??xx? 即選擇 P(ω1|x)， P(ω2|x)中最大值對應的類作為決策結果 ? 該決策使得在觀測值 x下的條件錯誤率 P(e|x)最小。北方民族大學信計學院 第二章 貝葉斯決策理論 模式識別理論及應用 Pattern Recognition Methods and Application 內容目錄 第二章 貝葉斯決策理論 引言 基于判別函數(shù)的分類器設計 基于最小錯誤率的 Bayes決策 基于最小風險的 Bayes決策 正態(tài)分布的最小錯誤率 Bayes決策 討論 模式識別與神經(jīng)網(wǎng)絡 3 引言 數(shù)據(jù)獲取 預處理 特征提取 與選擇 分類決策 分類器 設計 信號空間 特征空間 4 基本概念 ? 模式分類 ：根據(jù)識別對象的觀測值確定其類別 ? 樣本與樣本空間 S： ? ?12, , , T nnx x x R??xx? ?12, , , ,ic? ? ? ???? 類別與類別空間： c個類別（類別數(shù)已知） 5 決策 ? 把 x分到哪一類最合理？ 理論基礎之一是 統(tǒng)計決策理論 ? 決策：是從樣本空間 S，到?jīng)Q策空間 Θ的一個 映射 ，表示為 D: S Θ 引言 Bayes統(tǒng)計決策理論方法要求 : (1)各類別總體的概率分布是已知的 。 (2)要決策分類的類別是一定的 . 6 決策 準則 引言 ? 評價決策有多種標準，對于同一個問題，采用不同的標準會得到不同意義下 “ 最優(yōu) ” 的決策。 Bayes決策理論是最優(yōu)的 ? 以后驗概率為判決函數(shù)： ? 決策規(guī)則： a rg m a x ( | )iijP ?? x8 后驗概率 P (ωi| x)的計算 ? Bayes公式 ： 假設已知先驗概率 P(ωi)和觀測值的類條件概率密度 p(x|ωi)， i=1,2 ( , )( | )()( ) ( | )( ) ( | )iiiijjjPPpPpPp?????????xxxxx最小錯誤率決策 9 公式簡化 ? 比較大小不需要計算 p(x)： ar g m ax ( | )( | ) ( )ar g maax()rg m ax ( | ) ( )iiiiiiiiPpPPpp??????? xxxx最小錯誤率決策 10 公式簡化 ? 對數(shù)域中計算，變乘為加： l n ( | ) ( ) l n ( | ) l n ( )i i i ip P p P? ? ? ???xx最小錯誤率決策 判別函數(shù)中與類別 i無關的項，對于類別的決策沒有影響，可以忽略 11 Bayes最小錯誤率決策例解 ? 兩類細胞識別問題：正常 (ω1)和異常 (ω2) ? 根據(jù)已有知識和經(jīng)驗，兩類的先驗概率為： ?正常 (ω1)： P(ω1)= ?異常 (ω2)： P(ω2)= ?對某一樣本觀察值 x，通過計算或查表得到： p(x|ω1)=， p(x|ω2)= ? 如何對 細胞 x進行分類？ 最小錯誤率決策 12 Bayes最小錯誤率決策例解 （ 2） ? 利用 貝葉斯公式 計算 兩類的 后驗概率 ： 最小錯誤率決策 111 21( ) ( | ) 0 . 9 0 . 2( | ) 0 . 8 1 80 . 9 0 . 2 0 . 1 0 . 4( ) ( | )jjjPpPPp???????? ? ?? ? ??xxx222 21( ) ( | ) 0 . 4 0 . 1( | ) 0 . 1 8 20 . 2 0 . 9 0 . 4 0 . 1( ) ( | )jjjPpPPp???????? ? ?? ? ??xxxar g m ax ( | ) 1iijP ??? x1??x決策結果 13 圖解 最小錯誤率 決策 p(x|ω1) p(x|ω2) p(ω1|x) p(ω2|x) 類條件概率密度函數(shù) 后驗概率 14 決策的錯誤率 (1) ?條件錯誤率 ： ( | )Pe x( ) ( ( | ) ) ( | ) ( )P e E P e P e p d????? ?x x x x最小錯誤率決策 （平均）錯誤率是條件錯誤率的數(shù)學期望 ?（平均）錯誤率 ： 15 決策的錯誤率（ 2） 最小錯誤率 決策
教學課件相關推薦
鄂ICP備17016276號-1