軟硬結(jié)合的聚類算法及其集成的研究.pdf

1、近幾十年來(lái)，隨著科學(xué)技術(shù)的發(fā)展經(jīng)濟(jì)和社會(huì)都取得了極大的進(jìn)步，同時(shí)在各個(gè)領(lǐng)域也產(chǎn)生了海量的數(shù)據(jù)。1989年舉行的第十一屆國(guó)際聯(lián)合人工智能學(xué)術(shù)會(huì)議上知識(shí)發(fā)現(xiàn)(Knowledge Discoveryin Databases，KDD)被首次提出來(lái)。之后，這一學(xué)科受到來(lái)自各個(gè)領(lǐng)域的研究者關(guān)注并產(chǎn)生了學(xué)科交叉，數(shù)據(jù)挖掘(Data Mining)也由此產(chǎn)生。目前數(shù)據(jù)挖掘主要研究的是關(guān)聯(lián)規(guī)則、分類、聚類、預(yù)測(cè)、Web挖掘等。其中聚類(Clusterin

2、g Analysis)是指根據(jù)某種規(guī)則將數(shù)據(jù)對(duì)象劃分為幾個(gè)類簇，使在同一個(gè)類簇中的對(duì)象之間相似性最高，而在不同類簇的對(duì)象相似性最低。聚類過(guò)程是將沒(méi)有訓(xùn)練樣本的數(shù)據(jù)集劃分為有意義的不同類，屬于無(wú)監(jiān)督學(xué)習(xí)。目前的聚類算法有許多種，根據(jù)聚類算法的聚類法則大致可以將聚類算法分為五個(gè)類別。每種聚類算法都有一定的適用范圍并在某些特定的數(shù)據(jù)集上有較好的表現(xiàn)，但是目前不存在一種聚類算法可以對(duì)各種結(jié)構(gòu)的數(shù)據(jù)集進(jìn)行聚類。總體來(lái)說(shuō)聚類算法存在著以下幾種研究難

3、題:如可擴(kuò)展性不強(qiáng)，一些聚類算法適合在小數(shù)據(jù)集上工作，但不適合在大數(shù)據(jù)集工作;需要先驗(yàn)知識(shí)去決定輸入?yún)?shù)，例如k-means算法需要輸入類別數(shù)k;無(wú)法辨別任意形狀聚類;缺乏適合于類屬性數(shù)據(jù)的聚類有效性研究。
　　 集成學(xué)習(xí)(Ensemble Learning)是利用多個(gè)基學(xué)習(xí)器來(lái)解決同一個(gè)問(wèn)題，可以顯著地提高學(xué)習(xí)系統(tǒng)的泛化能力。在此基礎(chǔ)上，2002年Strehl等提出了聚類集成(Cluster Ensemble)并給出了定義。聚

4、類集成是利用多個(gè)基聚類結(jié)果進(jìn)行集成得到一個(gè)新的劃分，這個(gè)劃分最大程度上分享了所有的輸入基聚類結(jié)果。目前聚類集成的算法有許多種，但根據(jù)集成的方法可以大致劃分為三類。聚類集成有較好的泛化能力，能夠挖掘出數(shù)據(jù)集的潛在結(jié)構(gòu)。
　　 從聚類的結(jié)果來(lái)看，聚類可分為兩大類:軟聚類和硬聚類。軟聚類是將樣本個(gè)體通過(guò)隸屬度標(biāo)識(shí)出與各個(gè)類簇的隸屬關(guān)系。硬聚類是將樣本個(gè)體劃分為某一特定的類簇，與其它的類簇并沒(méi)有關(guān)系。從數(shù)學(xué)模型的角度來(lái)看，軟聚類是以模糊

5、數(shù)學(xué)為基礎(chǔ)的。本文首先對(duì)聚類算法進(jìn)行了研究，進(jìn)一步研究了軟聚類與硬聚類方法的結(jié)合，提出一種軟硬結(jié)合的聚類算法，該算法首先使用模糊數(shù)學(xué)的模糊相似矩陣來(lái)劃分出模糊樣本個(gè)體和一般樣本個(gè)體。之后在實(shí)驗(yàn)中將這種軟硬結(jié)合的聚類算法和硬聚類K-means算法、軟聚類FCM算法進(jìn)行比較，最后實(shí)驗(yàn)結(jié)果表明了在人工數(shù)據(jù)集和UCI數(shù)據(jù)集上這種軟硬結(jié)合的聚類算法優(yōu)于單純的硬聚類K-means算法和軟聚類FCM算法。在聚類集成中，本文提出了基于相似性選擇的聚類集