深度學習在自然語言處理的應(yīng)用v-資料下載頁
2025-04-30 01:57本頁面
【正文】 大綱 ? 深度學習簡介 ? 基礎(chǔ)問題：語言表示問題 – Word Embedding – 不同粒度語言單元的表示 ? 字符 /單字 /單詞 /短語 /句子 /文檔 ? 值得重點關(guān)注的模型 – RAE/Tensor Network/卷積網(wǎng)絡(luò) ? NLP的應(yīng)用 – 語言模型 – 中文分詞 – 知識挖掘 – 情感計算 – 機器翻譯 – Paraphrase – IR ? 探討與思考 51 探討與思考 ? 與傳統(tǒng)方法比較 DL的優(yōu)勢所在 – 拋掉特征選擇步驟 – 簡潔地融入語義級特征 – 很多應(yīng)用可以直接繞過 NLP的中間場景比如 POS，句法，減少錯誤累加 – 語言長程依賴容易建模：詞向量 +卷積網(wǎng)絡(luò) – 可以解決語言模型的數(shù)據(jù)稀疏問題： 15Gram – 很多場景如果優(yōu)化速度非?？欤奖銘?yīng)用的工程化實用化 52 探討與思考 ? 目前研究模式中最基礎(chǔ)和重要的問題 – 短語、句子、段落、文檔級別的有效 Word Embedding表示 – 文檔級別表示很多應(yīng)用直接受益 :分類， IR等 ? 問題：文檔級別采用低維表示，是否丟失細節(jié)信息？只能作為輔助手段？句子級別的低維表示很有意義，最關(guān)鍵。 ? 如何更能體現(xiàn)“深度”的思想 – 目前還說不上很 Deep： WE為主 – 是否有除了“ Word Embedding”外更 Deep的模式？ ? 目前看 DL在 NLP哪些方面好哪些一般？ – 涉及語義處理的應(yīng)用：表現(xiàn)好 – 不涉及太多語義的應(yīng)用： Stateoftheart – 說明什么？ ? Word Embedding已經(jīng)把傳統(tǒng) ML方法使用特征融合迚去了 ? 語義級別特征效果體現(xiàn)明顯 53 探討與思考 ? 與 CRF的比較及區(qū)別與聯(lián)系 – CRF:線性 VS DL:非線性 – CRF:高維離散特征 VS: DL:低維連續(xù)特征 – 結(jié)論：非線性模型對于低維連續(xù)特征有效，對高維離散特征無效 ? DL在推薦系統(tǒng)方面應(yīng)用方法的思考 – 不成熟的初步思路 ? 我個人看好 DL在 NLP方面的作用 – 與傳統(tǒng)方法比有明顯優(yōu)點 – 發(fā)展初期：機會多、挑戰(zhàn)大 ? NLP方向博士生的黃金時代 – 非常容易想到很多 New Idea – 一把新的錘子，很多釘子可以去敲 54 廣告時間 55 Thanks!
環(huán)評公示相關(guān)推薦
鄂ICP備17016276號-1