融合統(tǒng)計與規(guī)則技術的蒙古語詞法分析研究.pdf

1、詞是語言中最小的能獨立運用的單位,是自然語言處理的基本單位。詞法分析是自然語言處理的一個基礎課題,其主要研究內容是進行詞語切分和詞語標注。
　　 語言學上,按照詞的形態(tài)結構對各種語言進行劃分,漢語屬于分析型語言,而蒙古語是黏著型語言。漢語詞基本上沒有專門表示語法意義的附加成分,形態(tài)變化也很少;而蒙古語詞內有專門表示語法意義的附加成分詞綴,一個詞綴表達一種語法意義,詞由詞干和詞綴相結合構成。目前,蒙古語詞法分析研究是詞法分析研究領

2、域的熱點問題。
　　 本文針對蒙古語詞的形態(tài)結構特點,采用統(tǒng)計語言模型與語言學規(guī)則相結合的方法,進行蒙古語詞法分析。所完成的主要工作如下:
　　 1)針對蒙古語詞由詞干和詞綴構成的特點,按照詞形態(tài)結構設計了一種生成式的概率統(tǒng)計語言模型。首先,把蒙古語句子的詞法分析結果描述為有向圖,圖中節(jié)點表示分析結果中的詞干、詞綴及其相應標注,而邊則表示節(jié)點之間的轉移或生成關系;然后,使用訓練程序把訓練數據轉換成語言模型;最后,解碼器載

3、入上述語言模型并使用動態(tài)規(guī)劃算法整句解碼,找出最優(yōu)詞法分析結果。實驗表明,基于生成式的統(tǒng)計語言模型提高了詞級聯合切分與標注的準確率,準確率可達到93.5％。
　　 2)在上述生成式統(tǒng)計模型的基礎上,進一步加入“蒙古語語法信息詞典”數據規(guī)范作為語言學構詞規(guī)則,加入語言學規(guī)則后,一方面,在動態(tài)規(guī)劃整句解碼過程中,以詞的詞干作為觸發(fā)條件,利用數據規(guī)范規(guī)則修正解碼器候選結果概率值,給予正確候選分析結果更高概率值;另一方面,按照詞類對專有