基于樣本選擇的近鄰分類算法研究.pdf

1、近鄰分類算法因其簡單有效等特性已被廣泛應(yīng)用于各大領(lǐng)域，但它的諸多弊端也日益顯現(xiàn)。其中，復雜數(shù)據(jù)的出現(xiàn)導致分類器的時間空間消耗巨大，這就需要通過適當?shù)臄?shù)據(jù)預處理操作來改善數(shù)據(jù)集的質(zhì)量。并且實際應(yīng)用中對分類精度的需求在不斷的提高，這就要求不斷的更新分類準則，設(shè)計更優(yōu)的分類算法。因此，本文圍繞近鄰分類算法的改進來進行研究和分析，主要研究內(nèi)容如下：
　　首先，概括總結(jié)了幾種典型的近鄰分類和樣本選擇方法，分析了它們各自的算法原理和其利弊，并

2、簡述樣本選擇與近鄰分類之間的密切聯(lián)系。
　　然后，針對近鄰分類方法需要消耗大量的時間和空間，并且其分類性能易受到噪聲樣本干擾的問題，設(shè)計了融合互近鄰的樣本選擇方法(Sample Selection Algorithm Combined with Mutual Neighbors, MNSS)。MNSS算法利用互近鄰的原理來刪除原始數(shù)據(jù)集中的噪聲樣本和冗余點，提高數(shù)據(jù)集的質(zhì)量，使得分類器更加魯棒。
　　其次，為了改善近鄰分類的

3、分類性能，將BP神經(jīng)網(wǎng)絡(luò)和基于類間樣本之間相似性的偽最近鄰(Pseudo Nearest Neighbor, PNN)相結(jié)合，設(shè)計了基于BP神經(jīng)網(wǎng)絡(luò)的自適應(yīng)偽最近鄰分類(Adaptive Pseudo Nearest Neighbor Classification Based on BP Neural Network, BPANN)。通過BP神經(jīng)網(wǎng)絡(luò)輸入輸出間的映射來自適應(yīng)的調(diào)節(jié)待測樣本與每類訓練集中各近鄰間的距離加權(quán)系數(shù)，從而彌補了P

4、NN中主觀確定距離加權(quán)系數(shù)造成算法不能得到最優(yōu)距離加權(quán)值這一缺陷。并通過實驗驗證了該算法的有效性。
　　最后，針對離群點對分類結(jié)果的干擾，我們受到PNN和局部均值原理的啟發(fā)，提出了結(jié)合局部均值的偽最近鄰分類(Pseudo Nearest Neighbor Combined with Local Mean, LMPNN)方法，進一步的提高分類器的分類精度。LMPNN首先通過MNSS方法預處理數(shù)據(jù)集，再利用測試樣本在每類訓練樣本集里的