基于結(jié)構(gòu)信息的單類分類算法研究.pdf

1、單類分類問題是近年來機(jī)器學(xué)習(xí)和模式識(shí)別領(lǐng)域研究的熱點(diǎn)問題之一。在實(shí)際應(yīng)用中單類分類問題很常見，如衛(wèi)星圖像檢測(cè)油井噴發(fā)、罕見病例的醫(yī)療診斷、網(wǎng)絡(luò)入侵檢測(cè)、交易欺詐識(shí)別、惡意欠費(fèi)識(shí)別等。因此，提高單類分類器的分類性能和泛化能力具有重要價(jià)值和現(xiàn)實(shí)意義。
　　本文首先從密度分析、支持域以及結(jié)構(gòu)信息三個(gè)方面研究了現(xiàn)有單類分類算法。雖然密度分析以及支持域的方法針對(duì)某些問題可以提高分類器的性能，但這兩種方法在訓(xùn)練時(shí)需要大量的數(shù)據(jù)，特別是當(dāng)樣本空

2、間維度很高時(shí)，訓(xùn)練數(shù)據(jù)很難達(dá)到要求，導(dǎo)致分類精度較低。針對(duì)這些缺陷，本文從樣本結(jié)構(gòu)信息的角度出發(fā)，通過聚類的方式，改進(jìn)了現(xiàn)有的算法。在人工數(shù)據(jù)集和UCI數(shù)據(jù)集上的大量實(shí)驗(yàn)表明本文提出的算法能夠有效的提高分類性能。
　　本文從三個(gè)不同角度對(duì)現(xiàn)有算法進(jìn)行了改進(jìn)，給出了基于結(jié)構(gòu)信息的三種有效的單類分類算法：
　　1.從聚類的角度對(duì)傳統(tǒng)的基于聚類的單類分類算法進(jìn)行了優(yōu)化，加入了聚類評(píng)價(jià)的過程，引入DBCV評(píng)價(jià)指標(biāo)，并在此基礎(chǔ)上構(gòu)造基

3、于密度分析的改進(jìn)MST分類器，降低分類器復(fù)雜度的同時(shí)，使訓(xùn)練出的分類器得到了較高的準(zhǔn)確率。
　　2.采用集成學(xué)習(xí)的方法，提出了一種基于結(jié)構(gòu)信息的快速單類分類算法，提高了弱分類器準(zhǔn)確性，運(yùn)用分治法的思想降低了算法的時(shí)間復(fù)雜度。針對(duì)不同基分類器，給出了最佳聚類個(gè)數(shù)的計(jì)算方法，并給出詳細(xì)證明，最終使算法有效地減少了分類器對(duì)輸入?yún)?shù)的依賴。
　　3.在算法層面和數(shù)據(jù)層面結(jié)合反向近鄰定義提出了一個(gè)近似搜索反向近鄰算法，對(duì)傳統(tǒng)的K近鄰求

4、解進(jìn)行了優(yōu)化和加速。算法首先通過K-means聚類構(gòu)造優(yōu)先搜索樹，在搜索求解K近鄰時(shí)提出了原型近似搜索方案，用葉子節(jié)點(diǎn)的父節(jié)點(diǎn)近似搜索，減少了搜索次數(shù)，在保證準(zhǔn)確性的前提下加快了求解速度，使得訓(xùn)練出的分類器能夠得到較高的準(zhǔn)確率和穩(wěn)定性。
　　綜上所述，本文通過引入聚類評(píng)價(jià)解決了復(fù)雜樣本空間問題，對(duì)集成學(xué)習(xí)的研究減少了分類器對(duì)輸入?yún)?shù)的依賴，另一方面利用反向近鄰算法很好的完成了對(duì)高維特征數(shù)據(jù)的分類。最后在人工數(shù)據(jù)集和UCI數(shù)據(jù)集上驗(yàn)