基于隱馬爾科夫的詞性標(biāo)注講稿_by于江德(完整版)
【正文】 程 ，其中之一是馬爾可夫鏈，這是基本隨機(jī)過(guò)程，它 描述狀態(tài)的轉(zhuǎn)移 。另一個(gè)隨機(jī)過(guò)程 描述狀態(tài)和觀察值 之間的統(tǒng)計(jì)對(duì)應(yīng)關(guān)系。 由于兩者的參數(shù)估計(jì)極為復(fù)雜 ， 在實(shí)際應(yīng)用中 ， 往往需進(jìn)行簡(jiǎn)化 。 )(),(/)(/),()(),()|(1111111??????? ???iiiiiiiiiii cf ccfNcf NccfcP ccPccP)(),(/)(/),()(),()|(iiiiiiiiiii cfcwfNcfNcwfcPcwPcwP ???基于 HMM進(jìn)行詞性標(biāo)注（ 6） ? 詞性之間的轉(zhuǎn)移概率可以從語(yǔ)料庫(kù)中統(tǒng)計(jì)得到： ? 已知詞性標(biāo)注下輸出詞義的概率可以從語(yǔ)料庫(kù)中統(tǒng)計(jì)得到： 出現(xiàn)的總次數(shù)訓(xùn)練語(yǔ)料中之后的次數(shù)出現(xiàn)在訓(xùn)練語(yǔ)料中111 )|(??? ?iiiii tttttP出現(xiàn)的總次數(shù)訓(xùn)練語(yǔ)料中的次數(shù)的詞性被標(biāo)記為訓(xùn)練語(yǔ)料中iiiii ttwtwP ?)|(計(jì)算所分詞系統(tǒng) 基本思想 ? Institute of Computing Tech., Chinese Lexical Analysis System. (ICTCLAS)中科院計(jì)算所詞語(yǔ)分析系統(tǒng) ? 特點(diǎn)：此分詞系統(tǒng)實(shí)現(xiàn)了分詞和詞性標(biāo)注一體化，未登錄詞與普通詞處理的一體化；評(píng)估體系一體化 ? 基本思想：采取 HMM（ 隱式馬爾可夫模型），建立切分詞圖。因而稱(chēng)之為 “ 隱 ”馬爾可夫模型。 ? 意義 ? 為更高層次的自然語(yǔ)言文本加工提供素材 ? 為語(yǔ)言學(xué)的研究，提供翔實(shí)的資料 ? 從加工過(guò)的文本中獲取詞類(lèi)及頻度的詞性標(biāo)注知識(shí) 詞性標(biāo)注的實(shí)質(zhì)：尋找最優(yōu)路徑 4 1 1 2 2 2 3＝ 96種可能性，哪種可能性最大？ 隱馬爾可夫模型簡(jiǎn)要回顧 ? 隱馬爾可夫模型是在馬爾可夫鏈的基礎(chǔ)之上發(fā)展起來(lái)的。 P(C|W)為給定 Ｗ 條件下 Ｃ 出現(xiàn)的概率 。 計(jì)算所分詞系統(tǒng) 功能模塊圖 ICTCLAS 結(jié)果生成 HMM詞性標(biāo)注 未登錄詞識(shí)別 N最短路
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號(hào)-1