第五章參數(shù)估計與非參數(shù)估計-閱讀頁
2025-08-16 13:14本頁面
【正文】 。)39?！? ∴ 條件密度的估計： (V足夠小 ) 討論 :① 當(dāng) V固定的時候 N增加 , k也增加 ,當(dāng) 時 只反映了 P(x)的空間平均估計 而反映不出空間的變化 ② N固定 ,體積變小 當(dāng) 時 ,k=0時 時 所以起伏比較大 ,噪聲比較大 ,需要對 V進(jìn)行改進(jìn) . NkPVxP ???)(VNkxP ?)(??N ??k1??? NkP VVNkxP 1)( ??0?V 0)( ??VNkxP0?k ???VNkxP )(對體積 V進(jìn)行改進(jìn)： 為了估計 X點的密度 ,我們構(gòu)造一串包括 X的區(qū)域序列 R1,R2,.. RN. 對 R1采用一個樣本進(jìn)行估計 ， 對 R2采用二個樣本進(jìn)行估計 ..。 因此盡管在R內(nèi)落入了很多的樣本 ， 但同總數(shù) N比較 , 仍然是很小的一部分 。 ∴ 在 xi落入方窗時，則有 在 VN內(nèi)為 1 不在 VN內(nèi)為 0 落入 VN的樣本數(shù)為所有為 1者之和 ∴ 密度估計 ???????????22hxxhxxNiNi1]21[]2[]||[ ????? ??? hhh xxNNNi????? Ni NiN hxxK1)||(?????? Ni NiNNNNhxxVNVNKxP1)||(11)( ?討論： ① 每個樣本對估計所起的作用依賴于它到 x的距離 ， 即 | xxi|≤hN/2時 ， xi在 VN內(nèi)為 1， 否則為 0。 )||( h xxNi??hxxNi || ?)||( h xxNi??③ 要求估計的 PN(x)應(yīng)滿足： 為滿足這兩個條件 ， 要求窗函數(shù)滿足： ④ 窗長度 hN對 PN(x)的影響 若 hN太大 , PN(x)是 P(x)的一個平坦 , 分辨率低的估計 , 有平均誤差 若 hN太小 , PN(x)是 P(x)的一個不穩(wěn)定的起伏大的估計 ,有噪聲誤差 為了使這些誤差不嚴(yán)重 ， hN應(yīng)很好選擇 ????????????? ????hxhxxdhxxhxxNixNiNiNi|| 0)||()||(0)||(???????? 1)(0)(dxxPxPNN例 1：對于一個二類 （ ω1 ， ω2 ） 識別問題 ， 隨機(jī)抽取 ω1類的 6個樣本 X=(x1， x2， … . x6) ω1=(x1， x2， … . x6) =(x1=， x2=， x3=3， x4=6， x5=， x6=) 估計 P(x|ω1)即 PN(x) 解：選正態(tài)窗函數(shù) )21ex p (21)( 2uu ?? ??])||(21e xp[21)||()(2hxxhxxuNiNi ?????????0 1 2 3 4 5 6 x6 x5 x3 x1 x2 x4 x ∵ x是一維的 上式用圖形表示是 6個分別以 ， ， 3， 6， ， 心的丘形曲線 (正態(tài)曲線 )，而 PN(x)則是這些曲線之和。 例 2：設(shè)待估計的 P(x)是個均值為 0，方差為 1的正態(tài)密度 函數(shù)。 解：設(shè)窗口函數(shù)為正態(tài)的， σ＝ 1， μ ＝ 0 hN:窗長度， N為樣本數(shù)， h1為選定可調(diào)節(jié)的參數(shù)。 ②當(dāng) N＝ 16及 N=256時 h1＝ 曲線起伏很大，噪聲大 h1＝ 1 起伏減小 h1＝ 4 曲線平坦，平均誤差 ③當(dāng) N→∞時， PN(x)收斂于一平滑的正態(tài)曲線， 估計曲線較好。待估的密度函數(shù)為二項分布 解：此為多峰情況的估計 設(shè)窗函數(shù)為正態(tài) 解：此為多峰情況的估計 設(shè)窗函數(shù)為正態(tài) x 2 1 0 2 P(x) ??????01)( xPx2 0x2 x為其它 NhhuuN12 ],21ex p [21)( ????? ?h202?202?202?11 ?h 41 ?h?用 窗法估計兩個均勻分布的實驗 Parzen當(dāng) N= 1 25 ∞時的 PN(x)估計如圖所示 ①當(dāng) N＝ 1時， PN(x) 實際是窗函數(shù)。 結(jié)論： ①由上例知窗口法的優(yōu)點是應(yīng)用的普遍性。 ②要求樣本足夠多，才能有較好的估計。 ： 在窗口法中存在一個問題是對 hN的選擇問題 。 若 hN選太大 ， 則 PN(x)估計較平坦 ， 反映不 出總體分布的變化 ， 而 KN近鄰法的思想是以 x為中心建立空胞 ， 使 v↑， 直到捕捉到 KN個樣本為止 。 樣本密度小 ， VN ↑。 K近鄰分類的錯誤率隨 K↑， Pk↓,最低的錯誤率為 Bayes分類 。 錯誤率： M為類別數(shù) P(e)為 Bayes估計的錯誤率 最近鄰分類法則的錯誤率 P比 K近鄰錯誤率還大，但最大 不會超過貝葉斯分類器錯誤率的
電大資料相關(guān)推薦
鄂ICP備17016276號-1