面向不均衡數(shù)據(jù)集中少數(shù)類樣本細(xì)分的過(guò)采樣算法的研究.pdf

1、在數(shù)據(jù)挖掘研究中，分類問(wèn)題一直是備受研究學(xué)者關(guān)注的方向。傳統(tǒng)的分類算法對(duì)樣本類別分布均衡的數(shù)據(jù)集進(jìn)行分類往往能夠取得較好的分類效果。但在實(shí)際應(yīng)用中，通常數(shù)據(jù)集的類別分布不平衡，即當(dāng)數(shù)據(jù)集中某一類別樣本的數(shù)目明顯多于其他類別樣本時(shí)，傳統(tǒng)的分類算法往往不能夠很好的對(duì)這種數(shù)據(jù)集分類。由于不均衡數(shù)據(jù)集中，各個(gè)少數(shù)類樣本相對(duì)于決策邊界的分布各不相同，且越靠近決策邊界的樣本越易被錯(cuò)分，對(duì)分類器而言便更具有學(xué)習(xí)的價(jià)值，因此，本文提出面向少數(shù)類樣本細(xì)分

2、的過(guò)采樣算法，按照少數(shù)類樣本相對(duì)于決策邊界的分布差異，將少數(shù)類樣本集劃分為多個(gè)細(xì)分，再對(duì)不同細(xì)分做不同的過(guò)采樣處理，更加合理有效地達(dá)到多數(shù)類與少數(shù)類均衡的目的。本文學(xué)習(xí)了已有的經(jīng)典過(guò)采樣算，總結(jié)分析各自的優(yōu)點(diǎn)與不足，并以面向少數(shù)類樣本的細(xì)分為基礎(chǔ)，提出如下改進(jìn)：
　　1.少數(shù)類樣本相對(duì)于決策邊界的分布具有差異性，經(jīng)典過(guò)采樣算法通常并未對(duì)它們做區(qū)別處理，或者僅處理部分樣本的信息。本文按照少數(shù)類樣本的 k近鄰分布，將其劃分至DANGE

3、R、AL_SAFE、SAFE三個(gè)細(xì)分中，對(duì)不同細(xì)分中的樣本使用不同的采樣策略進(jìn)行處理，有效的利用不同細(xì)分的所有少數(shù)類樣本信息；
　　2. AL_SAFE細(xì)分中樣本依然靠近決策邊界，但數(shù)量較多，因此需要減少在原本少數(shù)類樣本分布稠密的區(qū)域的采樣數(shù)量，增大稀疏區(qū)域采樣數(shù)量。少數(shù)類樣本的 k近鄰中，同類樣本數(shù)越多，表示其支持度越高，選擇概率越小。利用輪盤賭進(jìn)行選擇，使得采樣范圍分布更加均勻。上述兩步稱之為SD-ISMOTE算法。
　

4、　3.上述算法在對(duì)已有少數(shù)類樣本細(xì)分后，僅從細(xì)分級(jí)別的粒度進(jìn)行過(guò)采樣操作，細(xì)分內(nèi)部樣本分布不均衡的情況并未處理。為此，使用 K-均值聚類方法對(duì)每個(gè)細(xì)分聚類，形成若干個(gè)簇再?gòu)拇氐募?jí)別進(jìn)行過(guò)采樣，合理確定每個(gè)細(xì)分中的每個(gè)簇的采樣數(shù)量，以此解決細(xì)分內(nèi)部樣本分布不均衡的問(wèn)題；
　　4.在對(duì)AL_SAFE細(xì)分樣本處理過(guò)程中，由于使用已有的采樣策略僅能在初始點(diǎn)間的距離為半徑的球體內(nèi)采樣，不能更大限度將決策邊界向多數(shù)類方向推移。因此，增大采樣隨