基于深度學(xué)習(xí)的文本情感分析研究.pdf

1、隨著互聯(lián)網(wǎng)的迅猛發(fā)展，社交平臺(tái)和電商平臺(tái)的數(shù)量急劇增加，世界各地的用戶在互聯(lián)網(wǎng)上發(fā)表意見(jiàn)、表達(dá)情感已經(jīng)成為一種新的習(xí)慣。利用自然語(yǔ)言處理技術(shù)對(duì)互聯(lián)網(wǎng)上的文本進(jìn)行分析，并挖掘其中所包含的情感傾向已經(jīng)成為社會(huì)輿情監(jiān)督和廠家售后信息反饋的重要途徑。因此，研究文本情感分析方法具有重要的社會(huì)意義和商業(yè)價(jià)值。
　　現(xiàn)有的情感分析方法主要分為基于情感詞典的情感分析方法和基于機(jī)器學(xué)習(xí)的情感分析方法。基于情感詞典的文本情感分析方法很大程度上依賴于情

2、感詞典的質(zhì)量和覆蓋度，而基于機(jī)器學(xué)習(xí)的文本情感分析方法依賴于人工構(gòu)建和抽取的特征。近年來(lái)，深度學(xué)習(xí)技術(shù)在自然語(yǔ)言處理領(lǐng)域取得了很大的進(jìn)展，因此本文主要研究基于深度學(xué)習(xí)的文本情感分析方法。
　　本文主要的工作包括：首先，針對(duì)循環(huán)神經(jīng)網(wǎng)絡(luò)無(wú)法學(xué)習(xí)長(zhǎng)距離依賴信息的問(wèn)題，本文將長(zhǎng)短時(shí)記憶格替換循環(huán)神經(jīng)網(wǎng)絡(luò)的隱藏層節(jié)點(diǎn)組成長(zhǎng)短時(shí)記憶型循環(huán)神經(jīng)網(wǎng)絡(luò)模型，并將該模型應(yīng)用于文本情感分析任務(wù)。在NLPCC2014年基于深度學(xué)習(xí)技術(shù)的情感分析（NLP

3、CC-SCDL）評(píng)測(cè)任務(wù)數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明，預(yù)訓(xùn)練詞向量的加入能夠有效地提升模型的分類性能和訓(xùn)練速度。相比于NLPCC-SCDL評(píng)測(cè)中的最佳系統(tǒng)，該模型在中文數(shù)據(jù)集的正面情感傾向性判別上的F1值提升了0.2％，在英文數(shù)據(jù)集的負(fù)面情感傾向性判別上的F1值提升了0.6%。
　　然后，針對(duì)現(xiàn)有基于卷積神經(jīng)網(wǎng)絡(luò)的文本情感分析模型中全連接分類層對(duì)非線性分布的數(shù)據(jù)不能夠有效地進(jìn)行情感分類的問(wèn)題，本文提出了一種結(jié)合卷積神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)的

4、文本情感分析模型。此模型首先將輸入樣本的詞語(yǔ)序列替換為對(duì)應(yīng)的預(yù)訓(xùn)練詞向量序列，然后將卷積神經(jīng)網(wǎng)絡(luò)作為自動(dòng)特征學(xué)習(xí)器去學(xué)習(xí)輸入樣本的特征表達(dá)，最后將獲得的特征表達(dá)作為支持向量機(jī)的輸入以得到最終的類別標(biāo)簽。在NLPCC-SCDL評(píng)測(cè)任務(wù)數(shù)據(jù)集上的實(shí)驗(yàn)顯示，相比于NLPCC-SCDL評(píng)測(cè)中的最佳系統(tǒng)，該模型在中文數(shù)據(jù)集的正面和負(fù)面情感傾向性判別上的F1值分別提升了1.2%和1.0%，在英文數(shù)據(jù)集的正面和負(fù)面情感傾向判別上的F1值分別提升2.7