模式識別-參數(shù)估計統(tǒng)計決策法(已修改)
2025-01-14 10:15 本頁面
【正文】 模 式識別 Pattern Classification 第四章 : 參數(shù)估計統(tǒng)計決策法 參數(shù)估計 ? 原理 ? 對于絕大多數(shù)的識別問題，類概率密度函數(shù)已知的條件并不成立，而通常只知類概率密度的函數(shù)形式，其參數(shù)未知。 ? 參數(shù)估計法即是利用學習樣本來估計類概率密度參數(shù)的方法。 3 Applied Pattern Recognition CSE616 參數(shù)估計 參數(shù)估計法 最大似然估計法 Bayes估計法 兩種方法原理不同，但結果是一致的！ 4 Applied Pattern Recognition CSE616 參數(shù)估計 ? 原理 ? 最大似然估計法：將待估參數(shù)視為 確定的未知量 進行估計 ? Bayes估計法：將待估參數(shù)視為 隨機變量 進行估計 5 Applied Pattern Recognition CSE616 最大似然估計法（ ML） ? 已知條件 擁有一批已知類別的學習樣本 ，并知第 j類的類概率密度 的函數(shù)形式，參數(shù)未知。 ? 問題 由學習樣本 估計最佳參數(shù)。 },{ 21)( nj XXXX ??)/( jXp ?)(jX6 Applied Pattern Recognition CSE616 最大似然估計法 ? 解決方案 7 Applied Pattern Recognition CSE616 最大似然估計法 ? 解決方案 8 Applied Pattern Recognition CSE616 最大似然估計法 ? 設有 6個學習樣本如下圖所示，樣本分布滿足正態(tài)分布，且方差已知，現(xiàn)需估計最佳的均值 μ ? 可以看出， μ取 A和 B對似然函數(shù) 的影響 ??6 1 )/(k kXp ?由于 μ取 B是似然函數(shù)更大，參數(shù) B優(yōu)于 A P ( x / μ ) x A B μ=B μ=A 9 Applied Pattern Recognition CSE616 最大似然估計法 P ( x / θ ) 10 Applied Pattern Recognition CSE616 最大似然估計法 ? 設有 6個學習樣本如下圖所示，樣本分布滿足正態(tài)分布，且均值已知，現(xiàn)需估計最佳的方差 σ ? 可以看出， σ的變化對似然函數(shù) 的影響 P ( x / σ ) x σ 1 σ 2 ??6 1 )/(k kXp ?參數(shù) σ1 優(yōu)于 σ2 11 Applied Pattern Recognition CSE616 最大似然估計法 ? 如何尋求最優(yōu)參數(shù)？ 12 Applied Pattern Recognition CSE616 ? 解決方案 ? 用求極值的方法求最佳 θ 值 為計算方便，對似然函數(shù)求自然對數(shù) : 最大似然估計法 ?????nkknkk XpXp11)/(ln)/(ln ??13 Applied Pattern Recognition CSE616 最大似然估計法 ?解決方案 定義梯度算子▽為： ?????????????
教學課件相關推薦
鄂ICP備17016276號-1