ch05非參數(shù)方法-資料下載頁
2024-09-29 22:37本頁面
【導(dǎo)讀】途徑1：估計類條件概率密度。通過和，利用貝葉斯規(guī)則計算后驗概率，然后。方法1a：概率密度參數(shù)估計。途徑2：直接估計后驗概率。概率密度函數(shù)的形式未知。經(jīng)典的密度函數(shù)往往不能很好的描述現(xiàn)實數(shù)據(jù)。經(jīng)典密度函數(shù)的參數(shù)形式一般都是單模的。能處理任意的概率密度。非參數(shù)方法取得較好結(jié)果所需訓(xùn)練樣本一般遠遠大于參。通過估計x周圍一個小區(qū)域R的概率來估計p. 當數(shù)據(jù)量n很大時，Pk在nP附近有非常顯著的高峰，可以。為區(qū)域R大小的度量。在樣本數(shù)量n有限的情況下。如果R內(nèi)沒有樣本點，則。構(gòu)造一系列包含x的區(qū)域。如果要使，則如下條件必須滿足。根據(jù)某個確定的體積函數(shù)，如，來逐漸收縮。根據(jù)以上兩種近似，得到。假設(shè)R為邊長為h的d維超立方體，則R的體積。估計結(jié)果的統(tǒng)計穩(wěn)定性不足。不必規(guī)定R為超立方體，而是某種由窗函數(shù)定義的一般。需求，隨特征空間的維數(shù)指數(shù)增長。對特定的樣本數(shù)n，固定窗的寬度（體積）
【正文】 h h n?舉 例 2 分 類 ? 基于 Parzen窗估計的分類器 ? 對每一個類，用 Parzen窗估計其類條件概率密度 ? 然后，利用貝葉斯公式求后驗概率 ? 根據(jù)“最大后驗概率”（ MAP）原則進行分類 ( | )ip ?x( | )ip ? x分 類 ? Parzen窗分類器的 決策域 與 窗函數(shù) 窗寬度較小 窗寬度較大 優(yōu) 點 vs. 缺點 ? 非參數(shù)方法 ? 優(yōu)點 ? 通用性：不必了解分布的形式就能對其作出估計 ? 在訓(xùn)練樣本足夠多的情況下，無論實際的概率密度函數(shù)的形式如何，最終肯定能得到一個可靠的收斂的結(jié)果 ? 缺點 ? 需要大量訓(xùn)練樣本，往往比已知分布的參數(shù)形式而進行參數(shù)估計所需的訓(xùn)練樣本個數(shù)多得多。 ? “ 維數(shù)災(zāi)難 ”（ curse of dimensionalty）對訓(xùn)練樣本個數(shù)的需求，隨特征空間的維數(shù)指數(shù)增長。 小 結(jié) ? 非參數(shù)估計 直接估計密度函數(shù)而不需知道函數(shù)形式 ? 優(yōu)點 ? 通用性：不必了解分布的形式就能對其作出估計 ? 在訓(xùn)練樣本足夠多的情況下，無論實際的概率密度函數(shù)的形式如何，最終肯定能得到一個可靠的收斂的結(jié)果 ? 缺點 ? 需要大量訓(xùn)練樣本，往往比已知分布的參數(shù)形式而進行參數(shù)估計所需的訓(xùn)練樣本個數(shù)多得多。 ? “ 維數(shù)災(zāi)難 ”（ curse of dimensionalty）對訓(xùn)練樣本個數(shù)的需求，隨特征空間的維數(shù)指數(shù)增長。 小 結(jié) ? Parzen窗估計 ? 對特定的樣本數(shù) n，固定窗的寬度（體積）
教學課件相關(guān)推薦
鄂ICP備17016276號-1