基于隱馬爾科夫的詞性標(biāo)注講稿_by于江德-文庫(kù)吧
2025-04-12 00:54 本頁(yè)面
【正文】 一對(duì)應(yīng)，因此不能直接看到狀態(tài)，而是通過一個(gè)隨機(jī)過程去感知狀態(tài)的存在及其特性。因而稱之為 “ 隱 ”馬爾可夫模型。 HMM的形式描述 ? 對(duì)于一個(gè)隨機(jī)事件，有一個(gè)觀察值序列：O1,...,OT 該事件隱含著一個(gè)狀態(tài)序列： X1,...,XT ? 一個(gè)隱馬爾可夫模型 (HMM) 是一個(gè)五元組： (ΩX , ΩO, A, B, π ) 其中： ΩX = {q1,...qN}： 狀態(tài)的有限集合 ΩO = {v1,...,vM}： 觀察值的有限集合 A = {aij}， aij = p(Xt+1 = qj |Xt = qi)： 轉(zhuǎn)移概率 B = {bik}， bik = p(Ot = vk | Xt = qi)： 輸出概率 π = {πi}， πi = p(X1 = qi)： 初始狀態(tài)分布 （初始概率） HMM的三個(gè)基本問題 令 λ = {A,B,π} 為給定 HMM的參數(shù)， 令 σ = O1,...,OT 為觀察值序列， 隱馬爾可夫模型（ HMM） 的三個(gè)基本問題： 1. 評(píng)估問題：對(duì)于給定模型，求某個(gè)觀察值序列的概率 p(σ|λ) ； 2. 解碼問題：對(duì)于給定模型和觀察值序列，求可能性最大的狀態(tài)序列；（對(duì)應(yīng)詞性標(biāo)注問題） 3. 學(xué)習(xí)問題：對(duì)于給定的一個(gè)觀察值序列，調(diào)整參數(shù) λ， 使得觀察值出現(xiàn)的概率 p(σ|λ)最大。 詞性標(biāo)注和 HMM ? 如何建模？ ? 單詞序列、詞性序列？ ? 三個(gè)概率如何得到？ ? 兩個(gè)隨機(jī)過程？ ? 問題的實(shí)質(zhì)？ 基于 HMM進(jìn)行詞性標(biāo)注（ 1） ? 兩個(gè)隨機(jī)過程 選擇罐子：上帝按照一定的轉(zhuǎn)移概率隨機(jī)地選擇罐子 選擇彩球：上帝按照一定的概率隨機(jī)地從一個(gè)罐子中選擇一個(gè)彩球輸出 ? 人只能看到彩球序列（詞序列，記作 W＝ w1w2… wn），需要去猜測(cè)罐子序列（隱藏在幕后的詞性標(biāo)注序列，記作 T=t1t2… tn) ? 已知詞序列 W（ 觀測(cè)序列）和模型 λ的情況下，求使得條件概率 p(T|W， λ)值最大的那個(gè) T’， 一般記作： T′= arg max P(T|W, λ) 基于 HMM進(jìn)
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1