基于深度卷積神經(jīng)網(wǎng)絡(luò)的實(shí)體關(guān)系抽取.pdf

1、實(shí)體關(guān)系抽取一直以來(lái)就是自然語(yǔ)言處理領(lǐng)域研究的一個(gè)熱點(diǎn)問(wèn)題。能夠準(zhǔn)確的識(shí)別出兩個(gè)實(shí)體之間的語(yǔ)義關(guān)系在信息抽取任務(wù)中是至關(guān)重要的，同時(shí)對(duì)于知識(shí)庫(kù)的創(chuàng)建以及信息檢索等領(lǐng)域都具有重要的意義。隨著深度學(xué)習(xí)在圖像和視覺(jué)等領(lǐng)域的迅猛發(fā)展，近年來(lái)深度學(xué)習(xí)也被引入到自然語(yǔ)言處理領(lǐng)域，成為了研究的熱點(diǎn)。由于傳統(tǒng)的實(shí)體關(guān)系抽取方法在模型學(xué)習(xí)之前都需要人工手動(dòng)的選取一些離散的特征，特征選取的好壞直接關(guān)系到最終的抽取結(jié)果。我們無(wú)法預(yù)知什么樣的特征最有效，而且特

2、征的數(shù)量也不是越多越好，多數(shù)是依賴專家經(jīng)驗(yàn)來(lái)判斷特征的有效性。同時(shí)特征的選擇過(guò)程大多依賴于現(xiàn)有的自然語(yǔ)言處理（NLP）工具，費(fèi)時(shí)費(fèi)力，且易造成錯(cuò)誤傳播。與傳統(tǒng)的方法相比，基于深度學(xué)習(xí)機(jī)制的關(guān)系抽取算法可以自動(dòng)的從原始的語(yǔ)料中學(xué)習(xí)到特征，不僅減少了對(duì)于NLP工具的依賴，而且充分利用了文本的結(jié)構(gòu)信息。同時(shí)，前人的研究成果證明了深度學(xué)習(xí)模型中的卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）以其獨(dú)特的網(wǎng)絡(luò)結(jié)構(gòu)可

3、以對(duì)特征進(jìn)行更好的學(xué)習(xí)。
　　本研究采用深度卷積神經(jīng)網(wǎng)絡(luò)完成實(shí)體關(guān)系抽取任務(wù)。首先，提出基于句子的衡量詞重要性的 TP-ISP(term proportion-inverse sentence proportion)算法，通過(guò)該算法得到每個(gè)類別中各個(gè)詞的tpisp值，根據(jù)該值的大小結(jié)合排序算法得到關(guān)于每個(gè)詞重要性的排序結(jié)果；然后選取排名靠前的詞作為表征該類別的核心詞特征，同原始句子的詞向量特征和詞位置特征一同作為網(wǎng)絡(luò)的初始輸入，減

4、少了現(xiàn)有的使用深度學(xué)習(xí)的方法中僅僅依賴單一詞向量學(xué)習(xí)特征的不足。通過(guò)加入該類別核心詞特征，增加了類別間的區(qū)分度，同時(shí)也彌補(bǔ)了網(wǎng)絡(luò)自動(dòng)學(xué)習(xí)特征的不足；最后在網(wǎng)絡(luò)訓(xùn)練階段，采用分段最大池化策略，即選取每一段中得分值最高的特征，將這些特征組合起來(lái)作為最終分類器的輸入特征。這一策略一定程度上減少了傳統(tǒng)的最大池化策略對(duì)于信息的丟失問(wèn)題。此外，由于中文語(yǔ)料匱乏等原因在此方面研究較少，因此以COAE（Chinese Opinion Analysis