融入背景知識(shí)的篇章語(yǔ)義分析方法研究.pdf

1、篇章語(yǔ)義分析以獲取篇章級(jí)語(yǔ)義信息為目標(biāo)，以篇章語(yǔ)義結(jié)構(gòu)分析和篇章語(yǔ)義內(nèi)容分析為主要內(nèi)容，是一個(gè)新興的研究熱點(diǎn)。目前，篇章語(yǔ)義分析研究主要關(guān)注如何挖掘原文內(nèi)容語(yǔ)義信息。實(shí)際上，根據(jù)認(rèn)知心理學(xué)中的聯(lián)想主義理論，原文并不能脫離背景知識(shí)而存在，缺少背景知識(shí)必定會(huì)影響對(duì)原文語(yǔ)義的分析與理解。為了更好地進(jìn)行篇章語(yǔ)義分析，融入背景知識(shí)是必不可少的輔助手段。本文首先在背景知識(shí)獲取方面切入，提出基于搜索引擎的篇章背景知識(shí)聯(lián)想模型，并在其基礎(chǔ)上進(jìn)一步改進(jìn)提

2、出基于分布式語(yǔ)義的篇章背景知識(shí)聯(lián)想模型，賦予機(jī)器獲取背景知識(shí)的能力；隨后，將背景知識(shí)融入篇章語(yǔ)義分析研究最重要的兩個(gè)方面：篇章語(yǔ)義結(jié)構(gòu)分析和篇章語(yǔ)義內(nèi)容分析，并相應(yīng)地探索了篇章語(yǔ)義關(guān)系分析和篇章語(yǔ)義連貫性分析兩個(gè)子問(wèn)題，其中篇章語(yǔ)義關(guān)系分析研究以獲取篇章語(yǔ)義結(jié)構(gòu)信息為目標(biāo)，篇章語(yǔ)義連貫性分析則以篇章語(yǔ)義內(nèi)容信息為分析對(duì)象。本文主要研究?jī)?nèi)容可概括如下：
　　1.基于搜索引擎的篇章背景知識(shí)聯(lián)想研究
　　本文提出基于搜索引擎的篇章

3、背景知識(shí)聯(lián)想模型，采用“Subject,Predicate,Object”（主語(yǔ)，指示詞，賓語(yǔ)）三元組作為知識(shí)表示方案，從人工構(gòu)建知識(shí)庫(kù)和自動(dòng)抽取知識(shí)庫(kù)中引入背景知識(shí)候選。本文提出基于三元組關(guān)聯(lián)網(wǎng)絡(luò)的篇章表示方案，將背景知識(shí)候選和原文信息統(tǒng)一表示起來(lái)，并進(jìn)一步引入搜索引擎作為資源，提出基于權(quán)重傳播的排序模型計(jì)算背景知識(shí)候選與原文的相關(guān)性，依此對(duì)背景知識(shí)候選進(jìn)行排序。在評(píng)價(jià)方面，我們采用排序問(wèn)題的方式評(píng)估模型性能，并采用人工標(biāo)注的方式判定

4、結(jié)果。實(shí)驗(yàn)結(jié)果顯示：本文最終獲得MAP值為0.676，P@20值為0.417，取得了較好的性能。
　　2.基于分布式語(yǔ)義的篇章背景知識(shí)聯(lián)想研究
　　為了彌補(bǔ)上文方法計(jì)算效率低、評(píng)價(jià)不夠完整等缺點(diǎn)，本文進(jìn)一步提出基于分布式語(yǔ)義的篇章背景知識(shí)聯(lián)想模型。本文利用主題模型和深度學(xué)習(xí)等方法將背景知識(shí)候選和原文信息同時(shí)轉(zhuǎn)換為質(zhì)密的實(shí)值向量，并使用向量運(yùn)算代替搜索引擎計(jì)算結(jié)點(diǎn)之間的語(yǔ)義相關(guān)度。本文隨后采用改進(jìn)的權(quán)重傳播模型對(duì)背景知識(shí)候選進(jìn)

5、行排序，并選出相關(guān)性較高的背景知識(shí)引入文本分類(lèi)任務(wù)中，通過(guò)基于任務(wù)的評(píng)價(jià)方式驗(yàn)證背景知識(shí)聯(lián)想模型的分析效果。實(shí)驗(yàn)結(jié)果顯示：該模型在背景知識(shí)引入上取得的MAP值為0.649，P@5值為0.5596；同時(shí)，通過(guò)引入背景知識(shí)使得文本分類(lèi)模型性能提高2.55％。
　　3.融入背景知識(shí)的中文篇章語(yǔ)義關(guān)系研究
　　之后，本文將背景知識(shí)融入篇章語(yǔ)義分析的重要方面：篇章語(yǔ)義結(jié)構(gòu)分析，并通過(guò)探索篇章語(yǔ)義關(guān)系分析任務(wù)來(lái)獲取篇章語(yǔ)義結(jié)構(gòu)信息?？紤]

6、到中文篇章關(guān)系分析尚無(wú)成熟的任務(wù)定義和語(yǔ)料資源，本文首先提出面向中文的篇章關(guān)系任務(wù)及關(guān)系類(lèi)型體系，并探索大規(guī)模篇章關(guān)系語(yǔ)料資源的構(gòu)建方法，提出句群、復(fù)句、分句的三層標(biāo)注方案，構(gòu)建包含1096篇文檔、超過(guò)兩萬(wàn)個(gè)實(shí)例的高質(zhì)量中文資源。隨后，本文融合背景知識(shí)信息，探索了顯式篇章關(guān)系識(shí)別和隱式關(guān)系識(shí)別，并將結(jié)果應(yīng)用于傾向性分析任務(wù)中，取得了較好的效果，同時(shí)為后續(xù)研究提供了資源基礎(chǔ)和模型參考。
　　4.融入背景知識(shí)的篇章語(yǔ)義連貫性分析研究<

7、br>　　本文在篇章語(yǔ)義關(guān)系分析的基礎(chǔ)上更進(jìn)一步，將背景知識(shí)融入篇章語(yǔ)義分析的另一個(gè)重要方面：篇章語(yǔ)義內(nèi)容分析，并通過(guò)探索篇章語(yǔ)義連貫性分析任務(wù)來(lái)獲取篇章語(yǔ)義內(nèi)容信息。給定一篇待分析的文章，本文使用前文介紹的方法獲取背景知識(shí)，并將其融入已有連貫性分析模型中，包括基于圖的無(wú)指導(dǎo)模型和基于實(shí)體的有指導(dǎo)模型兩類(lèi)。我們?cè)诰渥优判蚝驼B貫性評(píng)估兩個(gè)任務(wù)上測(cè)試模型，實(shí)驗(yàn)結(jié)果顯示：融合背景知識(shí)的無(wú)指導(dǎo)、有指導(dǎo)兩類(lèi)模型，在兩個(gè)任務(wù)上均獲得了非常顯著的

8、性能提升，證明了本研究的實(shí)際價(jià)值。
　　綜上，本文在背景知識(shí)獲取和融入背景知識(shí)的篇章語(yǔ)義分析兩方面都做了嘗試并取得一定成果，希望本文融入背景知識(shí)來(lái)支持相關(guān)研究的思路能對(duì)其他研究人員有所啟發(fā)。在本文的部分工作中，為了更好地與已有研究進(jìn)行對(duì)比，我們的實(shí)驗(yàn)針對(duì)英文語(yǔ)料展開(kāi)，但需要指出的是本文所提出的方法并沒(méi)有語(yǔ)言依賴(lài)性。相信隨著自然語(yǔ)言處理技術(shù)的進(jìn)步，以及各種資源的不斷豐富，背景知識(shí)獲取和原文語(yǔ)義分析方法都將不斷進(jìn)步，并進(jìn)而促進(jìn)機(jī)器翻譯