概率密度函數(shù)的估計非參數(shù)估計(更新版)
【正文】 ? 經(jīng)典的密度函數(shù)都是單峰的，而在許多實際情況中卻是多峰的 因此用非參數(shù)估計 總體分布的非參數(shù)估計 ? 非參數(shù)估計 ? 處理問題 ? 直接用已知類別樣本去估計總體密度分布 p(x|ωi) ? 需要計算 p(x|ωi)的每個點的值 ? 方法 ? ① 用樣本直接去估計類概率密度 p(x|ωi)以此來設計分類器 , 如窗口估計 ? ② 用學習樣本直接估計后驗概率 p(ωi|x)作為分類準則來設計分類器如 k近鄰法 . ^ 本章只考慮第一種方法 總體分布的非參數(shù)估計 ? 概率密度函數(shù)估計的基本思想 一個隨機變量 x落在區(qū)域 R的概率為 P p(x)是要求的 x的概率密度 概率 P是 p(x)在區(qū)域 R上平滑或平均后得到的概率 我們可以通過估計 P來估計 p(x)的平滑值 P R ? ?RxPdxxpP R r ??? ? )(總體分布的非參數(shù)估計 ? 估計概率 P ? 假設有 N個樣本 X=(x1, x2,… xN)T都是獨立同分布的，概率密度函數(shù)是 p(x)。 必須讓體積 V趨于零。 ? 若 hN選太大，則 PN(x)估計較平坦，反映不出總體分布的變化 ? kN近鄰法的思想 ? 體積是數(shù)據(jù)的函數(shù)，而不是樣本數(shù) N的函數(shù) ? 根據(jù) KN選擇 hN ? KN是 N的函數(shù) kN近鄰估計 ? kN對估計結(jié)果的影響 導數(shù)不連續(xù) kN近鄰估計 K=5
環(huán)評公示相關推薦
鄂ICP備17016276號-1