【正文】
gorithm oT o1 ot ot1 ot+1 x1 xt1 xt xt+1 ),.. .,.. .(max)( 1111...11ttttxxj ojxooxxPtt?? ????1)(m a x)1( ??? tjoijiij batt ??1)(m a xa rg)1( ??? tjoijiij batt ??47 Viterbi Algorithm oT o1 ot ot1 ot+1 x1 xt1 xt xt+1 xT )(m a xa rg? TX iiT ??)1(?1^ ???tXtXt ?48 HMM的應(yīng)用 (1) 評(píng)估 根據(jù)已知的 HMM找出一個(gè)觀察序列的概率 (2) 解碼 根據(jù)觀察序列找到最有可能出現(xiàn)的隱狀態(tài)序列 (3) 學(xué)習(xí) 從觀察序列中得出 HMM 49 HMM的應(yīng)用 (3) BaumWelch算法 (模型訓(xùn)練算法 ) ? 目的:給定觀察值序列 O,通過(guò)計(jì)算確定一個(gè)模型 ? , 使得 P(O| ?)最大。 ? 算法步驟: 1. 初始模型(待訓(xùn)練模型) ?0, 2. 基于 ?0 以及觀察值序列 O, 訓(xùn)練新模型 ?; 3. 如果 log P(X|?) log(P(X|?0) Delta, 說(shuō)明訓(xùn)練已經(jīng)達(dá)到預(yù)期效果, 算法結(jié)束。 4. 否則,令 ?0 = ? , 繼續(xù)第 2步工作 50 1111111i11i1ij( , )( , ) ( , | , )( ) ( ) ( )( ) ( ) ( )( ) ( , ) S( ) S( , )tt t tt ij j t tNNt ij j t tijNttjTtttiji j P s i s j Xi a b O ji a b x ji i j tiij??????????????????????? ? ????????給定模型 和觀察序列條件下,從 到 的轉(zhuǎn)移概率定義為時(shí)刻處于狀態(tài) 的概率整個(gè)過(guò)程中從狀態(tài) 轉(zhuǎn)出的次數(shù)(number of time)的預(yù)期1ij1SSTt???? 從 跳轉(zhuǎn)到 次數(shù)的預(yù)期BaumWelch算法 ? 定義 : 51 BaumWelch算法 ? 參數(shù)估計(jì) : R e e s t i m a t e :e xp e c t e d coun t of tra ns i t i on s f r om i t o j?e xp e c t e d coun t of st a y s a t i( , )( , )ijttttjaijij???????,Oe x p e c te d n u m b e r o f ti m e s in sta te a n d o b se r v ing sy m b o l?()e x p e c te d n u m b e r o f ti m e s in sta te()()tjttkttjkbkjjj???????t 1 ( 1 )i iiS????當(dāng) =時(shí)處于 的概率52 HMM的應(yīng)用領(lǐng)域 ? 語(yǔ)音識(shí)別 ? 機(jī)器視覺(jué) ? 人臉檢測(cè) ? 機(jī)器人足球 ? 圖像處理 ? 圖像去噪 ? 圖像識(shí)別 ? 生物醫(yī)學(xué)分析 ? DNA/蛋白質(zhì)序列分析 53 The End! Thank you!