02貝葉斯決策理論-文庫吧資料
2024-10-20 20:29本頁面
【正文】 一個以均值μ為中心的二維高斯分布中取出的樣本。,均值向量μ由d個分量組成。 ●對于正定矩陣，各階主子式非零（包括|∑|≠0）。如果對x≠0的一切x 有 xT∑x≥0 都成立，則稱∑為非負定陣。,2.3 正態(tài)分布時的統(tǒng)計決策,正態(tài)分布概率密度函數(shù)的定義及性質(zhì) 多元正態(tài)概型下的最小錯誤率貝葉斯判別函數(shù)和決策面,正態(tài)分布的重要性,正態(tài)分布是所有分布中最受關(guān)注的分布 數(shù)學上易于分析 物理上的合理性：適合于給定類別ωi的特征x是某個單值向量μi的隨機擾動的情形（根據(jù)中心極限定理，大量微小的，獨立的隨機擾動加和的累積效應會導致高斯分布） 很多模式（比如魚，手寫字符，語音等）都可以看成一個理想模式被大量隨機過程所擾動的結(jié)果，因此正態(tài)分布是描述實際概率分布的理想模型,2.3.1正態(tài)分布概率密度函數(shù)的定義及性質(zhì),㈠單變量正態(tài)分布 ●單變量正態(tài)分布概率密度函數(shù)定義為,正態(tài)分布的重要性質(zhì),正態(tài)分布可以由均值μ和方差σ完全確定 正態(tài)分布與熵之間有著深刻的聯(lián)系， 熵度量的是從一個分布中隨機抽取樣本時的不確定性 可以證明，在給定均值和方差的前提下，正態(tài)分布的熵是最大的,㈡ 多元正態(tài)分布 ⒈多元正態(tài)分布的概率密度函數(shù),●協(xié)方差的各分量為：,●協(xié)方差矩陣總是非負定陣。,分析,同樣的數(shù)據(jù)，因為對兩類錯誤帶來的風險的認識不同，得出了與前面相反的結(jié)論。,P(ω1)=0.9， P(ω2)=0.1, 未知細胞x滿足P(x|ω1)=0.2， P(x|ω2)=0.4。 由于R(α (x)|x)和p(x)都是非負的，且p(x)是已知的，因此要使R(α)最小，就要對所有x使R(α (x)|x)最小，因此，最小風險貝葉斯決策就是： 若 則,決策步驟,利用貝葉斯公式計算后驗概率 利用決策表，計算條件風險 在各種風險中選擇風險最小的決策，即,特殊情形,在樣本和決策都是兩類的情形下，最小風險貝葉斯決策為： 其中， 顯然，當 時，最小風險貝葉斯決策就變?yōu)樽钚″e誤率貝葉斯決策。,2.3最小風險貝葉斯決策,在實際問題中，我們關(guān)心的可能不是分類的錯誤率本身，而是它所帶來的風險 在鱸魚和鮭魚的例子中，把鱸魚錯判為鮭魚和把鮭魚錯判為鱸魚的損失是不一樣的 在癌細胞的識別中，把正常細胞誤判為癌細胞和把癌細胞誤判為正常細胞的代價也是不一樣的 因此，不考慮不同錯誤所帶來的不同風險而將它們一視同仁，在很多情況下是不恰當?shù)?所謂最小風險貝葉斯決策，就是考慮各種錯誤造成損失不同時的一種最優(yōu)決策,問題描述,令 為c個類組成的狀態(tài)空間，樣本 為d維隨機向量，對隨機向量x可能采取的決策組成了決策空間 設對于實際狀態(tài)為ωj的向量x,采取決策αi所帶來的損失為λ(αi, ωj),i=1,…k, j=1,…c. λ(αi, ωj),i=1,…k, j=1,…c 稱為損失函數(shù)，通常用表格給出，在應用中需要根據(jù)問題的背景知識確定。 比如，在鱸魚和鮭魚的例子中，可能政府會強制性規(guī)定，鮭魚錯分為鱸魚的比例不得超過1% 對某些重要疾病的診斷，我們希望確保漏診率低于一個水平ε0(比如0.1%). 這種限定一類錯誤率而使另一類錯誤率最小的決策規(guī)則稱作NeymanPearson決策規(guī)則?？偟腻e誤率是兩類錯誤率的加權(quán)平均。 在統(tǒng)計學上，假陽性又被稱為第一類錯誤(TypeI Error)，假陰性被稱為第二類錯誤(TypeII Error)。前者是指在真正的陽性樣本中有多少能被檢測出來，而后者是指在陰性樣本中有多少比例沒有被誤判。 解：,決策例子,最小錯誤率的討論,以一維情況為例討論基于最小錯誤率的貝葉斯決策確實對應最小錯誤率 統(tǒng)計意義上的錯誤率，即平均錯誤率，用P(e)表示,20,最小錯誤率的討論,21,
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1