基于隱馬爾科夫的詞性標(biāo)注講稿_by于江德-展示頁
2025-05-14 00:54本頁面
【正文】 ? 為語言學(xué)的研究，提供翔實(shí)的資料 ? 從加工過的文本中獲取詞類及頻度的詞性標(biāo)注知識(shí) 詞性標(biāo)注的實(shí)質(zhì)：尋找最優(yōu)路徑 4 1 1 2 2 2 3＝ 96種可能性，哪種可能性最大？ 隱馬爾可夫模型簡要回顧 ? 隱馬爾可夫模型是在馬爾可夫鏈的基礎(chǔ)之上發(fā)展起來的。 ? HMM是 一個(gè)雙重隨機(jī)過程 ，其中之一是馬爾可夫鏈，這是基本隨機(jī)過程，它 描述狀態(tài)的轉(zhuǎn)移 。這樣，站在觀察者的角度，只能看到觀察值，不像馬爾可夫鏈模型中的觀察值和狀態(tài)一一對(duì)應(yīng)，因此不能直接看到狀態(tài)，而是通過一個(gè)隨機(jī)過程去感知狀態(tài)的存在及其特性。 HMM的形式描述 ? 對(duì)于一個(gè)隨機(jī)事件，有一個(gè)觀察值序列：O1,...,OT 該事件隱含著一個(gè)狀態(tài)序列： X1,...,XT ? 一個(gè)隱馬爾可夫模型 (HMM) 是一個(gè)五元組： (ΩX , ΩO, A, B, π ) 其中： ΩX = {q1,...qN}： 狀態(tài)的有限集合 ΩO = {v1,...,vM}： 觀察值的有限集合 A = {aij}， aij = p(Xt+1 = qj |Xt = qi)： 轉(zhuǎn)移概率 B = {bik}， bik = p(Ot = vk | Xt = qi)： 輸出概率 π = {πi}， πi = p(X1 = qi)： 初始狀態(tài)分布 （初始概率） HMM的三個(gè)基本問題 令 λ = {A,B,π} 為給定 HMM的參數(shù)， 令 σ = O1,...,OT 為觀察值序列， 隱馬爾可夫模型（ HMM） 的三個(gè)基本問題： 1. 評(píng)估問題：對(duì)于給定模型，求某個(gè)觀察值序列的概率 p(σ|λ) ； 2. 解碼問題：對(duì)于給定模型和觀察值序列，求可能性最大的狀態(tài)序列；（對(duì)應(yīng)詞性標(biāo)注問題） 3. 學(xué)習(xí)問題：對(duì)于給定的一個(gè)觀察值序列，調(diào)整參數(shù) λ， 使得觀察值出現(xiàn)的概率 p(σ|λ)最大。 P(C|W)為給定 Ｗ 條件下 Ｃ 出現(xiàn)的概率 。 這樣就把詞類標(biāo)注問題轉(zhuǎn)化為尋找一組標(biāo)記串 Ｃ ′ ， 使得： Ｃ ′ = arg max P(C|W) (1) 基于 HMM進(jìn)行詞性標(biāo)注（ 3） 根據(jù)貝葉斯定律，可以得到：
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1