利用文本可信度的增量文本分類研究.pdf

1、標(biāo)注訓(xùn)練樣本是文本自動(dòng)分類中的基礎(chǔ)和關(guān)鍵。大規(guī)模的標(biāo)注訓(xùn)練樣本需要人工干預(yù)，耗時(shí)、費(fèi)力，難以在有限的時(shí)間內(nèi)完成，而未標(biāo)注文本卻十分豐富。如何利用少量的標(biāo)注樣本和大量的未標(biāo)注文本快速（限時(shí)）構(gòu)造出數(shù)量較大的標(biāo)注樣本成為了文本增量學(xué)習(xí)中的熱點(diǎn)和難點(diǎn)。本文采用FEM評(píng)估方法和SEM評(píng)估方法來(lái)度量文本的可信度，將可信度高的文本看作標(biāo)注文本，以此構(gòu)造算法來(lái)解決上述問(wèn)題。具體工作如下:
　　 本文將聚類和貝葉斯增量學(xué)習(xí)結(jié)合起來(lái)，提出了基于文

2、本可信度的增量學(xué)習(xí)方法。該算法包括2個(gè)步驟:(1)首先對(duì)新增訓(xùn)練集進(jìn)行子集劃分，構(gòu)造出一個(gè)子集序列;利用FEM評(píng)估方法依次迭代找出每個(gè)子集中的正確集區(qū)間和模糊區(qū)間，將正確集區(qū)間內(nèi)的文本看作可信度高的文本，合并到標(biāo)注樣本集。在此處理過(guò)程中，后一步的FEM評(píng)估中所使用的分類器是根據(jù)初始標(biāo)注樣本集和在此步之前獲得的所有可信度高的文本共同構(gòu)成的文本集訓(xùn)練得到的。(2)將前面所有模糊區(qū)間合并為一個(gè)大的模糊區(qū)間，并對(duì)其進(jìn)行AP聚類處理，利用SEM評(píng)

3、估方法將聚類結(jié)果中可信度高的類簇中的可信度高的文本合并到標(biāo)注樣本集。更新模糊區(qū)間，迭代第(2)個(gè)步驟，直至模糊區(qū)間為空。這里，可信度高的類簇指純度高的類簇。
　　 本文提出方法的優(yōu)點(diǎn):(1)弱化了噪音數(shù)據(jù)的影響，提高了分類器的精度;(2)每個(gè)增量步選擇的文本數(shù)多，迭代次數(shù)少，大幅度減少學(xué)習(xí)時(shí)間，更適合于大規(guī)模數(shù)據(jù)的處理。(3)在處理海量未標(biāo)注文本時(shí)，僅采用FEM評(píng)估方法，就可以快速獲得約80％標(biāo)注可信度非常高的文本，無(wú)需標(biāo)注更多