文本分類中基于概念聚合的KNN算法優(yōu)化問題研究.pdf

1、隨著知識經(jīng)濟時代的到來，信息已成為這個時代的最重要標(biāo)志之一，對于信息的獲取與管理也越來越得到重視。信息的表現(xiàn)形式也從最初的結(jié)構(gòu)化、半結(jié)構(gòu)化逐漸向非結(jié)構(gòu)化過渡。對于非結(jié)化信息的組織和處理顯得越來越重要，文本分類作為其中的關(guān)鍵技術(shù)之一，已廣泛用于信息檢索，知識挖掘和管理等領(lǐng)域，但對于海量的文本信息，文本分類的效率與精確度嚴(yán)重制約著它在即時領(lǐng)域的應(yīng)用和推廣。
　　 當(dāng)前較常用的文本分類算法主要是基于統(tǒng)計的，較著名的有貝葉斯(Bayes

2、)、K最鄰近法(KNN)、支持向量機(SVM)、神經(jīng)元網(wǎng)絡(luò)(Nnet)等。其中，KNN作為一種簡單、高效、非參數(shù)的方法，取得了較好的分類效果，使其得到較為廣泛的應(yīng)用。但KNN算法的大計算量限制了它在即時領(lǐng)域的應(yīng)用，因此如何有效地提高KNN算法的分類效率得到了學(xué)者們的廣泛關(guān)注。本文的研究重點是如何在不犧牲分類精度的前提下，提高文本分類的效率。
　　 本文首先提出了概念聚合，在概念聚合的基礎(chǔ)上提出文本特征位串和特征多類別矩陣兩種方式

3、，從不同的角度來提高文本的分類效率。
　　 本文研究的主要創(chuàng)新部分有:
　　 1、基于語義相關(guān)的概念聚合。在文本的特征詞中常常會出現(xiàn)一些義同形異的詞，傳統(tǒng)的相似度計算中，由于無法判別這類詞的關(guān)系，而忽略它們在文本相似的作用，本文將對這類詞進(jìn)行語義聚合，形成概念。實驗結(jié)果顯示，關(guān)于概念的聚合能有效的表達(dá)出這類特征詞的含義，使得在相似度計算中，能充體現(xiàn)這類詞對文本相似度的貢獻(xiàn)，提高文本分類的精度，同時也降低了文本向量的維數(shù)。

4、
　　 2、通過文本特征位串來減小KNN算法的計算量。針對KNN算法計算量大的問題，提出文本特征位串來快速的篩選出與待分類文本可能相似的文本，即選出與待分類文本存在概念共現(xiàn)的文本，從而縮小進(jìn)行KNN相似度計算的訓(xùn)練文本集，達(dá)到減小KNN計算量的目的。理論分析和實驗結(jié)果表明，文本特征位串能在不降低分類準(zhǔn)確率的情況下，提高KNN算法的分類效率。
　　 3、提出特征多類別矩陣來降低KNN算法的計算量。在KNN算法中，要減小計算