基于K-均值的文本聚類分析.pdf

1、傳統(tǒng)的K-均值算法(K-meansclustering)是一種得到最廣泛使用的聚類算法。其應(yīng)用領(lǐng)域非常廣泛，包括文本聚類、圖像及語音數(shù)掘壓縮，使用徑向基函數(shù)網(wǎng)絡(luò)進(jìn)行系統(tǒng)建模的數(shù)據(jù)預(yù)處理，以及異構(gòu)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中的任務(wù)分解。而且對大型數(shù)據(jù)集而言，K-均值算法是具有相對可伸縮的和高效的性能。由于K-均值算法聚類效果依賴于數(shù)值K的確定、聚類中心的初始位置和相似度量的計(jì)算等的選取，并且K-均值算法是一個常用的局部搜索算法，它的主要缺陷是容易陷入局

2、部極小值，該局部最小值與全局部最優(yōu)解往往有很大的偏差。 針對K-均值算法中的不足，從幾個方面對傳統(tǒng)的K-均值算法進(jìn)行改進(jìn)，首先提出了一種間接的學(xué)習(xí)權(quán)值算法可以得到一個好的距離度量，即如何學(xué)習(xí)加權(quán)距離式中的特征權(quán)值，以改進(jìn)K-均值算法的聚類性能。該算法主要是構(gòu)造一個評價函數(shù)，采用梯度下降技術(shù)極小化評價函數(shù)來降低相似矩陣的模糊性。通過評價函數(shù)求權(quán)值偏導(dǎo)數(shù)逐次調(diào)整權(quán)值，每次計(jì)算偏導(dǎo)，應(yīng)用公式更新權(quán)值。如果評價函數(shù)的值低于或等于一個最小

3、閾值或者迭代次數(shù)超過某一次數(shù)閾值時結(jié)束學(xué)習(xí)。當(dāng)一組向量相似性較大時，可以通過學(xué)習(xí)特征權(quán)值改變它們屬于同一類的程度，使其相似性變大。當(dāng)一組向量相似性較小時，可以通過學(xué)習(xí)特征權(quán)值減少它們的相似性。因此這樣通過極小化評價函數(shù)學(xué)習(xí)到的即為特征向量的權(quán)值，改善了聚類性能。其次提出針對參數(shù)K值的學(xué)習(xí)算法，初步使用了遺傳算法選擇較優(yōu)的K值。雖然還沒有提出尋找K值的方法，仍然是可以通過對不同值的實(shí)驗(yàn)決定具體取值。最后，基于傳統(tǒng)K-均值算法實(shí)施的各個環(huán)節(jié)