基于ICF詞語聚合的特征降維方法以及在中文文本分類中的應用.pdf

1、文本分類作為一項重要的數(shù)據(jù)挖掘技術，在國內(nèi)廣泛地應用于詞義辨析、文本組織與管理、信息過濾、Web網(wǎng)頁文檔分類、數(shù)字圖書館、信息檢索等眾多領域，因此提高文本分類的精確度和效率有重要的研究意義。文本分類主要有文本預處理、文本分類處理、分類結果評價三個步驟，其中特征降維技術直接影響分類效果，傳統(tǒng)的特征降維方法采用對訓練語料庫的分詞集合統(tǒng)計的方法，通過計算某種評價函數(shù)選擇超過預先設定的閡值的詞語作為特征項。這種降維方法過于依賴訓練文本集，效果受

2、訓練文本的局限，會導致過擬合。
　　針對過擬合現(xiàn)象，本文從詞語間的語義關系出發(fā)，提出一種基于詞語聚合的文本特征降維技術。該方法通過研究詞語之間的語義關系求出分類類別詞的詞語聚合集作為降維的特征集。詞語之間的語義關系由語義距離決定，而語義距離和詞語的相似度成反比關系。在對詞語相似度的研究中，本文提出基于逆概念頻率ICF(inverse concept frequency)的詞語相似度計算方法，計算第一基本義原結構、其他基本義原結構、

3、關系符號結構、關系義原結構中各義原結構的ICF權重，計算概念基本特征的權重，得出概念相似度與概念權重的乘積作為詞語相似度計算結果。在詞語相似度研究的基礎上提出詞語聚合技術?；谠~語聚合的特征降維技術首先用詞語間的語義距離計算分類類別詞語的詞語聚合，計算詞語聚合時利用模擬退火算法求不同分類詞詞語聚合的聚合半徑。最后將所有分類詞的詞語聚合的并集作為特征集，從而達到降維的要求。
　　本文將基于詞語聚合的特征降維技術應用在KNN分類器對待