一、非參數(shù)經(jīng)驗貝葉斯估計(編輯修改稿)
2025-08-31 23:35 本頁面
【文章內(nèi)容簡介】 ***()()dxdx則 貝 葉 斯 決 策 函 數(shù) 與 貝 葉 斯 后 驗 型 決 策 函數(shù) 是 等 價 的 . 定理表明：如果決策函數(shù)使得貝葉斯風(fēng)險最小，此決策函數(shù)也使得后驗風(fēng)險最小，反之，也成立 . 證明從略 定理 設(shè) ?的先驗分布為 ?(?)和損失函數(shù)為 ( , ) | | ,L d d????* ( ) { ( | ) }d x h x?? 后 驗 分 布 的 中 位 數(shù)證 則 ?的貝葉斯估計為 設(shè) m為 h(?|x)的中位數(shù)，又設(shè) d=d(x)為 ?的另一 估計，為確定期間，先設(shè) dm,由絕對損失函數(shù)的定義可得 2, ,( , ) ( , ) ( ) , , ,m d mL m L d m d m dd m d?? ? ? ??????? ? ? ? ? ??? ???又由于 22 ( ) ( )m d m d d m d d m??? ? ? ? ? ? ? ? ?當(dāng) 時 ，則 , ,( , ) ( , ), ,m d mL m L dd m m????????? ????由于 m是中位數(shù)，因而 1122{ | } , { | } ,P m x P m x??? ? ? ?則有 ( | ) ( | ) ( ( , ) ( , ) | )R m x R d x E L m L d x??? ? ?( ) { | } ( ) { | }m d P m x d m P m x??? ? ? ? ? ?11 022( ) ( )m d d m? ? ? ? ?于是，當(dāng) dm時 ( | ) ( | )R m x R d x?同理可證，當(dāng) dm時 ( | ) ( | )R m x R d x?因而 * ( ) { ( | ) }d x m h x??? 后 驗 分 布 的 中 位 數(shù)定理 設(shè) ?的先驗分布為 ?(?)和損失函數(shù)為 01( ) ,( , )( ) , ,k d dLdk d d????????? ????，0* ( ) { ( | ) }d x h xk???11k后 驗 分 布 的 上 側(cè) 分 位 數(shù)k則 ?的貝葉斯估計為 證 首先計算任一決策函數(shù) d(x)的后驗風(fēng)險 ( | ) [ ( , ( ) ) ] ( , ( ) ) ( | ) dR d x E L d x L d x h x x? ? ??????? ?10( ) ( | ) d ( ) ( | ) dddk d h x x k d h x x? ? ? ?????? ? ? ???1 0 0( ) ( ) ( | ) d ( ( | ) )dk k d h x x k E x d? ? ???? ? ? ? ??為了得到 R(d|x)的極小值，關(guān)于等式兩邊求導(dǎo)： 1 0 0 0( | ) ( ) ( | ) d()dR d x k k h x x kdd ???? ? ? ??即 0 11 0 1 0( | ) d ( | ) dddk kh x x h x xk k k k??????? ? ?????0* ( ) { ( | ) }d x h xk???11k后 驗 分 布 的 上 側(cè) 分 位 數(shù)k則 例 5(p131 例 ) 設(shè)總體 X服從兩點分布 B(1,p), 其中參數(shù) p未知，而 p在 [0,1]上服從均勻分布，樣本 12( , , , )nX X X X來 自 總 體 ， 損 失 函 數(shù) 為 平 方 損 失 ，試求參數(shù) p的貝葉斯估計與貝葉斯風(fēng)險 ? 解 平方損失下的貝葉斯估計為： * ( ) ( | ) ( | ) dd x E p X x p h p x p?? ? ? ?而 10( | ) π ( ) ( | ) π ()( | )() ( | ) π ( ) dq x p p q x p ph p xmx q x p p p???1 1 1 11111101 1 11111( ) ( )( , )( ) dn n n ni i i ii i i inniiiix n x x n xnnx n xiiiip p p px n xp p p?? ? ? ????????? ? ? ??????? ? ? ?? ???1 1101 ( ) ( ), ) ( ) d ,()ab aba b x x xab? ?????? ? ???其 中 （ 則11111211( ) ( )( | )( ) ( )nniiiix n xnniiiip p nh p xx n x?????????????? ? ???111111( ) ( ) !( ) !( ) !nniiiix n xnniiiip p nx n x?????????????* ( ) ( | ) dd x p h p x p?? ?111101111( ) !( ) d( ) ! ( ) !nniiiix n xnniiiinp p px n x???????????????1111112( ) ! ( ) !( ) !( ) !( ) ! ( ) !nniiiinniiiix n xnnx n x??????????????112niixn?????其貝葉斯風(fēng)險為 ?( ) ( ( , ) ) [ ( , ) | ]π ( ) dR p E R d E L p d p p p? ???? ?1122 10012?( ) d ( ) dniixE p p p E p pn??? ? ? ?????1 22 011 122( ( ) ) d()niiE x n p pn ?? ? ? ?? ??2112( ( ) )niiE x n p?? ? ??22112 1 2 1 2( ) ( ( ) ) ( ) ( ( ) )nniiiiE x n p E x n p??? ? ? ? ? ? ???又因為 1( ) ( , )niix B n p??則 22111, ( ) ( ) ( )nniiiiE x n p E x n p p n p??? ? ? ???2211 2 1 1 2( ( ) ) ( ) ( )niiE x n p n p p p?? ? ? ? ? ? ??所以 1 22 01 1 1 22?( ) ( ) ( ) d()R p n p p p pn? ? ? ?? ?21 4 4 12 3 2()
職業(yè)教育相關(guān)推薦
鄂ICP備17016276號-1