《中文分詞研究現(xiàn)狀》ppt課件-全文預(yù)覽
【正文】 racters C1C1 The previous and the next character T1 T2 The tag of the previous character The tag of the character two before the current character Default feature To capture cases where no other features are available 22 Bakeoff 2022（ 3） ? 特征生成舉例 – 我 / 愛 / 北京 / 天安門 / 。( , )( | )( , 39。 26 Bakeoff 2022（ 2） ? GATE的中文分詞 – 評測取得的名次為 1 14。 – 注意訓(xùn)練語料與被切分文本的字符編碼要保持一致。 ? 下表為 top5的情況： 參賽單位 第一名成績 學(xué)習(xí)模型 特征 微軟亞洲研究院 自然語言計算組 UPUCC/CityUO/ ASO/ASC CRF 改進(jìn)自 Low and Ng 北京大學(xué) 機器感知國家實驗室 MSRAC ME 拷貝自 Low and Ng 臺灣中研院 智能 Agent系統(tǒng)實驗室 CityUC ME 聚類算法重現(xiàn) Low and Ng 法國電信 北京研發(fā)中心 MSRAO Gao method (language model) / ME 類似 Low and Ng 德州大學(xué) Austin分校 語言學(xué)系 UPUCO ME 拷貝自 Low and Ng s 28 Bakeoff 2022 – 概況 參賽單位 成績 學(xué)習(xí)模型 香港城市大學(xué) 5項 分詞 封閉測試中，包攬 5個第一 4項 命名實體識別 測試中，獲得 3個第二， 2個第三 CRF 微軟亞洲研究院 和東北大學(xué) 5項 分詞 封閉測試中，獲得 4個第二， 1個第五 CRF 法國電信 北京研發(fā)中心 分詞 開放測試中，獲得 1個第一 4項 命名實體識別 測試中，獲得 3個第一， 1個第四 CRF Yahoo!Inc. 參加 4項 詞性標(biāo)注 封閉測試，獲得 4個第一， 4個第二 ME 以上 CRF模型都采用免費工具 CRF++實現(xiàn) 29 Bakeoff 2022 – 香港城市大學(xué) ? ―Character tagging bees a prevailing technique for this kind of labeling task for Chinese language processing, following the current trend of applying machine learning as a core technology in the field of natural language processing.‖——趙海 ? 標(biāo)注集 – 分詞：沿用 MSRA在 Bakeoff 2022的 6詞位標(biāo)注（ B, B1, B2, M, E, S） – 對于命名實體識別的標(biāo)注集，舉例如下： ? 特征模板集 – 對于分詞和命名實體識別封閉測試，采用 同樣的特征模板集 ： – 除以上特征模板，還包括“無監(jiān)督切詞器的輸出” 30 Bakeoff 2022 – 香港城市大學(xué) ? 在 Bakeoff 2022數(shù)據(jù)上的實驗，展示了 CRF模型計算的開銷： CRF的計算負(fù)載一般要比 ME高一個數(shù)量級 —— 趙海 ? 趙海的博客 31 Bakeoff 2022 – MSRAamp。這種做法的原因是： 基于詞的標(biāo)注常常將未登錄詞切分為單字 。 ? At least 10% of unseen and missed named entities have been labeled out correctly for at least once. – ―If the context surrounding one occurrence of a token sequence is very indicative of it being an entity, then this should also influence the labeling of another occurrence of the same token sequence in a different context that is not indicative of entity‖. 33 Bakeoff 2022 – 法國電信北京研發(fā)中心 34 Bakeoff 2022 – 法國電信北京研發(fā)中心 ? Local Features – Unigram:Cn(n=2,1,0,1,2) – Bigram:CnCn+1(n=2,1,0,1) and C1C1 ? 0/1 Features – Assign 1 to all the characters which are labeled as entity and 0 to all the characters which are labeled as NONE in training data. – In such way, the class distribution can be alleviated greatly , taking Bakeoff 2022 MSRA NER training data for example, ? if we label the corpus with 10 classes, the class distribution is: (BPER), (BLOC), (BORG), (IPER), (ILOC), (IORG), (EPER), (ELOC), (EORG), (NONE) ? if we change the label scheme to 2 labels(0/1), the class distribution is: (entity), (NONE) 35 Bakeoff 2022 – 法國電信北京研發(fā)中心 ? Nonlocal Features – Tokenposition features(NF1) ? These refer to the position information(start, middle and last) assigned to the token sequence which is matched with the entity list exactly. ? These features enable us to capture the dependencies between the identical can
教學(xué)課件相關(guān)推薦
鄂ICP備17016276號-1