bayes決策理論課件(ppt67頁)-文庫吧資料
2025-01-26 11:17本頁面
【正文】 es決策理論 返回本章首頁 設(shè) 在超橢球上， 到超橢球中心的距離為 ，求主軸長度即是求其條件極值，構(gòu)造 Lagrange函數(shù) 111( , ) ( )2 2 0 0 0TTLkL????????? ? ? ??? ? ? ? ? ? ? ??? ? ? ?x x x x xx x x xxxx12Txxx x111 20 T T Tk?? ? ???? ? ?? ? ? ? ?xxx x x x x x第 3章 Bayes決策理論 返回本章首頁 所以，第 i 個主軸的長度與 的第 i 個特征值的平方根成正比 ，如圖所示。 211( ) e x p22xpx ???????? ??????? ??????????( ) ( )E x x p x d x? ?????? ?2 2 2( ) ( ) ( )E x x p x d x? ? ???????? ? ? ??? ?期望 方差 ()p x??2( , )N ??2( , )N ??第 3章 Bayes決策理論 返回本章首頁 （ 2）多維變量正態(tài)分布 ? ? ? ?112 211( ) e x p2( 2 )Tdp ??????? ? ? ? ??????x x x( ) ( )i i iE x p x d x?????? ?x?? ? ? ?? ? ? ?2 2 21 1 1 2 12 2 21 2 2 2 22 2 2122dT dd d d di j i i j jEE x x? ? ?? ? ???? ? ?? ? ?????????? ? ? ? ?????????????? ? ???xx均值向量 協(xié)方差矩陣 ( , )N ? ?第 3章 Bayes決策理論 返回本章首頁 多維變量正態(tài)分布密度函數(shù)的性質(zhì) （ 1）多維變量正態(tài)分布密度函數(shù)由均值向量 和協(xié)方差矩陣 完全確定，包含的參數(shù)個數(shù)為 。 這里我們以正態(tài)分布概率密度函數(shù)為主進(jìn)行討論，因?yàn)? Ⅰ 在實(shí)際問題中，大量的隨機(jī)變量都服從或近似地服從正態(tài)分布； Ⅱ 即使統(tǒng)計總體不服從正態(tài)分布，但是它的許多重要的樣本特征可能是漸進(jìn)正態(tài)分布的； Ⅲ 正態(tài)分布分析起來比較方便。在 c 類的情況下，我們共有 c個判別函數(shù)，記為 判別函數(shù)的性質(zhì) 假如一個模式 X 屬于第 i 類，則有 而如果這個模式在第 i 類和第 j 類的分界面上，則有 ( ) ( ) ijgg?xx第 3章 Bayes決策理論 返回本章首頁 1 多類情況 最小錯誤率的 Bayes決策規(guī)則： 可設(shè)判別函數(shù)為： ( ) ( ) , 1 , 2 , , , i j iP P j c j i? ? ?? ? ?xx( ) ( )iigP ??xx( ) ( ) ( ) ( ) ( ) ( ) ( )i i j j ii i ip P p Pg p P? ? ? ? ?????xxxxl n ( ) l n ( ) l n ( ) l n ( ) ( ) l n ( ) l n ( )i i j j ii i ip P p Pg p P? ? ? ? ???? ? ???xxxx( ) ( ( ) ) ( )g f P h???x x x第 3章 Bayes決策理論 返回本章首頁 最小風(fēng)險的 Bayes決策規(guī)則， 可設(shè)判別函數(shù)為 決策面方程 分類器框圖 ( ) ( )iigR ???xx 1 , 2 , ,( ) m i n ( )kiiaRR????xx( ) ( )ijgg?第 3章 Bayes決策理論 返回本章首頁 第 3章 Bayes決策理論 返回本章首頁 第 3章 Bayes決策理論 返回本章首頁 2 兩類情況 可設(shè)判別函數(shù)為： 12( ) ( ) ( )g g g??x x x12( ) 0 , ( ) 0 , ( ) 0 ,ggg?????????? ??xxxxx可將其任意分類，或拒絕 第 3章 Bayes決策理論 正態(tài)分布時的 Bayes決策法則 返回本章首頁 在前面我們提到設(shè)計 Bayes分類器的兩個先決已知條件： （ 1）先驗(yàn)概率 ； （ 2）條件概率密度函數(shù) 。 其任務(wù)就是尋找使 Bayes風(fēng)險為最大時的決策域 和 ，它對應(yīng)于下式 然后確定 R? 1()P ? 1()P ??1()P ? 1P211 1 2 2 2 1 1 1 1 1 2 2 2 2( ) ( ) ( ) ( ) ( ) 0RRp d p d? ? ? ? ? ? ? ?? ? ? ? ? ???x x x x1R2R1 2 2 2 22 1 1 1 1( ) ( )( ) ( )P tP? ? ?? ? ?? ??1()P ??第 3章 Bayes決策理論 Bayes分類器和判別函數(shù) 12( ) , ( ) , , ( )cg g gx x x ( ) ( ) , , 1 , 2 , , , ijg g i j c j i? ? ?xx返回本章首頁 前面我們介紹了四種決策規(guī)則，這里結(jié)合第二章中介紹的 判別函數(shù)和決策面的概念 來設(shè)計分類器。以二類模式識別問題為例，進(jìn)行討論。比如，在我們的有些分類問題中可能設(shè)想盡管模式的有些物理屬性恒定不變，然而先驗(yàn)概率可能變化范圍很大，并且以一種不確定的 方式出現(xiàn)。 2 1 1 1 1 2 2 2? ? ? ?? ? ?第 3章 Bayes決策理論 返回本章首頁 一般的多類問題中，設(shè)損失函數(shù)為 01損失函數(shù) 0 ( , ) , 1 , 2 , , 1 ijij i j cij? ? ?????? ?? 11( ) ( , ) ( ) ( )cci i j j jjjijR P P? ? ? ? ? ??????x x x1 , 2 , , 1( ) m i n ( ) ( )ck i jic jijR R P? ? ?? ???? ?x x x第 3章 Bayes決策理論 返回本章首頁 1111 , 2 , ,1 , 2 , ,11 , 2 , , 1 , 2 , ,( ) ( )( ) 1( ) ( )( ) m i n ( ) m in ( ) m in 1 ( ) m a x ( )cjjcjjcjiiikiiccjicjjiiiic icpPPpPRRPPP?????????????????? ?????? ? ? ? ???????xxxxxxxx第 3章 Bayes決策理論 Neyman— Pearson決策 Neyman— Pearson決策即限定一類錯誤率條件下使另一類錯誤率為最小的兩類別決策。 到此為止，我們已經(jīng)分析了兩種分別使錯誤率和風(fēng)險達(dá)到最小的 Bayes決策規(guī)則，下面分析一下兩種決策規(guī)則的關(guān)系。 根據(jù) Bayes公式，后驗(yàn)概率為： j? i?51( ) ( )( ) 1 , 2 , , 5( ) ( )jjjiiipPPjpP?????????xxx第 3章 Bayes決策理論 返回本章首頁 對于剛才的決策表考慮如下的一個條件期望損失，即給定 ，我們采取決策 情況下的 條件期望損失（條件風(fēng)險） ： 采取那種決策呢 ？ 最小風(fēng)險 Bayes決策規(guī)則 ： 51( ) ( , ) ( ) ( , ) 1 , 2 , , 5i i j j
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1