概率密度函數(shù)的估計(jì)非參數(shù)估計(jì)(更新版)
【正文】 ? 經(jīng)典的密度函數(shù)都是單峰的，而在許多實(shí)際情況中卻是多峰的 因此用非參數(shù)估計(jì) 總體分布的非參數(shù)估計(jì) ? 非參數(shù)估計(jì) ? 處理問(wèn)題 ? 直接用已知類別樣本去估計(jì)總體密度分布 p(x|ωi) ? 需要計(jì)算 p(x|ωi)的每個(gè)點(diǎn)的值 ? 方法 ? ① 用樣本直接去估計(jì)類概率密度 p(x|ωi)以此來(lái)設(shè)計(jì)分類器 , 如窗口估計(jì) ? ② 用學(xué)習(xí)樣本直接估計(jì)后驗(yàn)概率 p(ωi|x)作為分類準(zhǔn)則來(lái)設(shè)計(jì)分類器如 k近鄰法 . ^ 本章只考慮第一種方法 總體分布的非參數(shù)估計(jì) ? 概率密度函數(shù)估計(jì)的基本思想 一個(gè)隨機(jī)變量 x落在區(qū)域 R的概率為 P p(x)是要求的 x的概率密度 概率 P是 p(x)在區(qū)域 R上平滑或平均后得到的概率 我們可以通過(guò)估計(jì) P來(lái)估計(jì) p(x)的平滑值 P R ? ?RxPdxxpP R r ??? ? )(總體分布的非參數(shù)估計(jì) ? 估計(jì)概率 P ? 假設(shè)有 N個(gè)樣本 X=(x1, x2,… xN)T都是獨(dú)立同分布的，概率密度函數(shù)是 p(x)。 必須讓體積 V趨于零。 ? 若 hN選太大，則 PN(x)估計(jì)較平坦，反映不出總體分布的變化 ? kN近鄰法的思想 ? 體積是數(shù)據(jù)的函數(shù)，而不是樣本數(shù) N的函數(shù) ? 根據(jù) KN選擇 hN ? KN是 N的函數(shù) kN近鄰估計(jì) ? kN對(duì)估計(jì)結(jié)果的影響 導(dǎo)數(shù)不連續(xù) kN近鄰估計(jì) K=5
環(huán)評(píng)公示相關(guān)推薦
鄂ICP備17016276號(hào)-1