基于自然最近鄰居的分類算法研究.pdf

1、在各學(xué)科領(lǐng)域及實際應(yīng)用中，存在著大量的分類問題。隨著信息技術(shù)的迅猛發(fā)展，人們面臨著急速增長的數(shù)據(jù)量，然而人們迫切地希望從已有的海量數(shù)據(jù)中獲取有價值的信息或是預(yù)測未來的能力，因此分類算法也越來越受到人們的重視。作為數(shù)據(jù)挖掘的重要研究領(lǐng)域，分類技術(shù)已廣泛應(yīng)用于各個領(lǐng)域并起到了很重要的作用，具有很高的實用價值。
　　在數(shù)據(jù)挖掘的分類領(lǐng)域中，國內(nèi)外大量研究學(xué)者在K最近鄰域概念的基礎(chǔ)上提出了K最近鄰分類算法及許多有效的K最近鄰改進算法。但是

2、在實際的涉及到K近鄰分類算法的應(yīng)用環(huán)境中，不同的參數(shù)K值對最終的分類結(jié)果及性能會有顯著的影響。同時當實驗數(shù)據(jù)集為不同特征時，具體 K值的選擇沒有可信賴的理論基礎(chǔ)以及可借鑒的信息，K值只能依賴大量的實驗以及用戶在實驗過程中的經(jīng)驗來選擇。所以對于K近鄰算法中的敏感參數(shù)K值的選擇是一個比較困難的研究點。
　　針對上述問題，本文提出了基于自然最近鄰居的分類算法，具體工作如下：
　?、僬{(diào)研并分析了分類技術(shù)的研究背景、實際應(yīng)用意義。并闡

3、述了分類算法國內(nèi)外的研究現(xiàn)狀。
　　②簡要描述了分類算法的定義及過程。隨后著重探討了幾種常用分類算法的算法思想、優(yōu)缺點及其典型算法等。最后，闡述了常用的分類算法的評價指標。
　?、垡肓俗匀蛔罱従蛹夹g(shù)的概念以及核心思想。該近鄰技術(shù)的優(yōu)勢在于不需要設(shè)置任何參數(shù)，算法通過自適應(yīng)計算形成每個樣本的鄰居。并對自然最近鄰居的搜索算法進行了改進，通過實驗驗證了改進算法不再對噪聲點敏感。最后介紹了自然最近鄰居的密度特性和穩(wěn)定性，并通過在

4、隨機以及真實數(shù)據(jù)集上的實驗驗證了這些特性。
　?、芴岢隽嘶谧匀蛔罱従拥姆诸愃惴?。通過分析并發(fā)現(xiàn)自然最近鄰居用于高維數(shù)據(jù)分類時的不足，提出了一種基于自然最近鄰搜索算法、自然鄰居的相關(guān)定義以及加權(quán)方式的新的訓(xùn)練集權(quán)重分配方式，以提高分類精度。再利用自然最近鄰算法以及帶有權(quán)值的訓(xùn)練集對測試樣本進行分類。
　?、萃ㄟ^在UCI真實數(shù)據(jù)集上將本文的分類算法與傳統(tǒng)的KNN算法以及加權(quán)KNN算法進行比較，實驗驗證了本文算法的有效性。并通