基于半監(jiān)督的SVM遷移學(xué)習(xí)文本分類方法.pdf

1、隨著互聯(lián)網(wǎng)的快速發(fā)展，各種信息風(fēng)靡網(wǎng)絡(luò)，而這些網(wǎng)絡(luò)信息主要通過(guò)文本的形式來(lái)表達(dá)，因此對(duì)文本數(shù)據(jù)進(jìn)行合理有效的處理是十分必要的。文本分類是進(jìn)行信息挖掘的一種重要數(shù)據(jù)分析方法，它能夠從數(shù)據(jù)中挖掘關(guān)鍵信息并構(gòu)建模型，使計(jì)算機(jī)從過(guò)去的數(shù)據(jù)中獲取知識(shí)，解決問(wèn)題。
　　傳統(tǒng)的文本分類方法在要求有充足標(biāo)注數(shù)據(jù)訓(xùn)練模型的同時(shí)還要求訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)屬于同一分布。支持向量機(jī)(SVM)作為常用文本分類方法之一，特別適合處理像文本這樣的數(shù)據(jù)集較大的分類

2、問(wèn)題。然而，SVM在處理分類問(wèn)題時(shí)也常會(huì)因?yàn)橛?xùn)練樣本不充分而無(wú)法學(xué)習(xí)到高精度的分類模型。近年來(lái)，在SVM算法中引入半監(jiān)督學(xué)習(xí)模式，利用大量未標(biāo)注數(shù)據(jù)與少量標(biāo)注數(shù)據(jù)共同訓(xùn)練分類器，在一定程度上解決了訓(xùn)練數(shù)據(jù)不充分的問(wèn)題，但半監(jiān)督學(xué)習(xí)仍需滿足訓(xùn)練數(shù)據(jù)與測(cè)試數(shù)據(jù)同分布假設(shè)。遷移學(xué)習(xí)是最近興起的一種有效解決上述問(wèn)題的學(xué)習(xí)方式，其可以利用相似領(lǐng)域中大量標(biāo)注數(shù)據(jù)來(lái)幫助新領(lǐng)域目標(biāo)任務(wù)的學(xué)習(xí)。于是在SVM中引入遷移學(xué)習(xí)，在提供大量標(biāo)注數(shù)據(jù)的同時(shí)還放寬了

3、對(duì)數(shù)據(jù)分布的要求。
　　本文通過(guò)結(jié)合遷移學(xué)習(xí)和半監(jiān)督學(xué)習(xí)來(lái)研究文本分類問(wèn)題，主要研究?jī)?nèi)容如下:
　　(1)針對(duì)傳統(tǒng)有監(jiān)督SVM文本分類方法的不足，詳細(xì)描述了半監(jiān)督式的自訓(xùn)練SVM分類方法，包括其基本思想、具體流程以及存在的缺陷。
　　(2)針對(duì)以往SVM遷移學(xué)習(xí)方法在訓(xùn)練過(guò)程中大量遷移與目標(biāo)數(shù)據(jù)很不相似的源領(lǐng)域數(shù)據(jù)的問(wèn)題，提出了一種利用源域支持向量進(jìn)行相似遷移的方法。該方法先利用源領(lǐng)域訓(xùn)練得到的支持向量代表源領(lǐng)域數(shù)據(jù)，

4、再利用源域支持向量與目標(biāo)訓(xùn)練集的相似度來(lái)衡量源域數(shù)據(jù)的重要性，進(jìn)而有效的對(duì)源領(lǐng)域知識(shí)進(jìn)行遷移。
　　(3)考慮到未標(biāo)注數(shù)據(jù)可能包含有對(duì)分類起重要作用的信息，提出了結(jié)合目標(biāo)領(lǐng)域未標(biāo)注數(shù)據(jù)共同學(xué)習(xí)分類模型的基于半監(jiān)督的SVM遷移學(xué)習(xí)分類方法。該方法以SVM遷移模型為基礎(chǔ)分類器，給未標(biāo)注數(shù)據(jù)帶上初始標(biāo)簽并共同學(xué)習(xí)分類模型，進(jìn)一步提高了分類器性能。
　　將本文提出的SVM遷移學(xué)習(xí)方法以及基于半監(jiān)督的SVM遷移學(xué)習(xí)方法與傳統(tǒng)的SVM方