基于詞向量和LSTM的漢語零指代消解研究.pdf

1、漢語零指代消解任務是自然語言處理領域一個重要的研究分支和研究熱點，對于幫助計算機理解自然語言文本有著重要的作用。漢語零指代消解是找到漢語句子中的零指代位置所指向的先行詞。傳統(tǒng)的漢語零指代消解方法利用句子的完全句法樹，通過利用詞法、句法信息等來進行零指代消解，很少從語義層面進行研究。
　　隨著深度學習技術的發(fā)展，詞向量作為一種語義的載體被廣泛地研究和應用，同時像循環(huán)神經(jīng)網(wǎng)絡（Recurrent neural network，RNN）

2、、長短期記憶模型（Long short-term memory,LSTM）等模型和技術也廣泛地應用在自然言處理各項任務上，并取得了很好的效果。
　　本課題提出了使用詞向量和LSTM模型用于漢語零指代消解任務，分別提出了基于詞向量的漢語零指代消解框架和基于LSTM的漢語零指代消解模型。利用詞向量這種語義載體，從語義層面對漢語零指代消解任務進行建模和實驗，取得了良好的效果，證明了利用詞向量和深度神經(jīng)網(wǎng)絡模型在漢語零指代消解任務上的有效

3、性，提供了一種漢語零指代消解的新思路。
　　我們構建了基于詞向量的線性分類框架進行漢語零指代消解任務，具體的包括關鍵詞的提取策略，定義樣本格式、訓練詞向量和構建線性二元分類模型等；同時為了對詞向量信息和上下文信息更加有效的利用和建模，我們提出了基于雙向LSTM的模型，包括構造適合漢語零指代消解任務的網(wǎng)絡結構，對embedding的特殊處理以及各種優(yōu)化方法等。實驗證明本課題提出的這些方法能夠有效的利用語義信息，在語義層面解決漢語零指