【正文】 ? 原理 ? 最大似然估計法：將待估參數(shù)視為 確定的未知量 進(jìn)行估計 ? Bayes估計法：將待估參數(shù)視為 隨機(jī)變量 進(jìn)行估計 5 Applied Pattern Recognition CSE616 最大似然估計法（ ML） ? 已知條件 擁有一批已知類別的學(xué)習(xí)樣本 ，并知第 j類的類概率密度 的函數(shù)形式，參數(shù)未知。 為待估隨機(jī)參數(shù)的先驗(yàn)概率分布。 解 :與前述方法相同，即： ),()/( ?? ?? NXp j?? ?????? ?????? ? )()(21exp)2(1)/( 1212???? XXXp Td25 Applied Pattern Recognition CSE616 最大似然估計法 似然函數(shù) 令 : ????? ?????? ????????nkkTknkk XXdXp111)()(21ln212ln2)/(ln ????0)/(ln1???????? ??nkkXp ??26 Applied Pattern Recognition CSE616 最大似然估計法 得 : ????nkkXn11??????????nkTkk XXn1))((1 ??27 Applied Pattern Recognition CSE616 最大似然估計法 ? 基于最大似然估計法的分類器設(shè)計 ? 確定樣本類概率密度函數(shù)形式 ? 確定待估參數(shù) ? 根據(jù)學(xué)習(xí)樣本，用最大似然估計法估計概率密度函數(shù)的參數(shù) ? 估計樣本先驗(yàn)概率 ? 用 Bayes方法設(shè)計分類器 )/( ?Xp? )(jp ?28 Applied Pattern Recognition CSE616 Bayes估計 ? 原理： 將待估參數(shù)視為具有某種先驗(yàn)分布的隨機(jī)變量，通過學(xué)習(xí)樣本的觀察，將先驗(yàn)分布轉(zhuǎn)換為后驗(yàn)概率，并以此來修正參數(shù)的估計值。 解： 對于一維正態(tài)分布 待估參數(shù)為 其中 ?????? ???22)(21exp21)/(????? xxp j},{ 21 ??? ? 221 , ???? ??17 Applied Pattern Recognition CSE616 最大似然估計法 可記為 : 則似然函數(shù)為： ?????? ???2212)(21exp21)/(????? xxp ???? ?????? ???? nkknkk xxp11221)(212ln21)/(ln ?????18 Applied Pattern Recognition CSE616 最大似然估計法 令 : 即 : 0)/(ln1???????? ??nkkxp ???????????????????????????????0)/