支持向量分類(lèi)機(jī)的核函數(shù)研究.pdf

1、支持向量機(jī)是二十世紀(jì)九十年代發(fā)展起來(lái)的統(tǒng)計(jì)學(xué)習(xí)理論的核心內(nèi)容，它是借助于最優(yōu)化方法解決機(jī)器學(xué)習(xí)問(wèn)題的新工具，集成了最優(yōu)超平面、Mercer核函數(shù)、凸二次規(guī)劃、稀疏解和松弛變量等多項(xiàng)技術(shù)，具有全局最優(yōu)、結(jié)構(gòu)簡(jiǎn)單、推廣能力強(qiáng)等優(yōu)點(diǎn)，在模式分類(lèi)、回歸分析和概率密度估計(jì)等若干方面獲得非常好的應(yīng)用效果。核函數(shù)是支持向量機(jī)的重要組成部分，它巧妙地解決了高維空間的問(wèn)題，通過(guò)使用不同的核函數(shù)，可實(shí)現(xiàn)不同的支持向量機(jī)算法。經(jīng)驗(yàn)表明在眾多核函數(shù)中，高斯核函

2、數(shù)由于其特殊的性質(zhì)和廣泛的應(yīng)用得到廣大研究者的重視。由于核函數(shù)的好壞直接影響著支持向量機(jī)的性能，因此有關(guān)核函數(shù)的研究就成為大家關(guān)注的焦點(diǎn)，成為支持向量機(jī)研究中需要解決的核心問(wèn)題之一。
　　 論文針對(duì)支持向量機(jī)核函數(shù)的參數(shù)選擇和核函數(shù)的修正問(wèn)題進(jìn)行了研究，主要內(nèi)容為：
　　 首先，對(duì)支持向量機(jī)分類(lèi)模型的核參數(shù)進(jìn)行分析，考察目前常用的幾種核參數(shù)優(yōu)化方法，包括交叉驗(yàn)證法、網(wǎng)格搜索算法、遺傳算法和粒子群算法，總結(jié)了它們的優(yōu)缺點(diǎn)。

3、基于粒子群算法收斂速度快而遺傳算法不易陷入局部最優(yōu)的優(yōu)點(diǎn)，提出一種新的核參數(shù)優(yōu)化方法，該方法是兩種算法交替進(jìn)行，應(yīng)用迭代控制器進(jìn)行控制，每隔數(shù)代進(jìn)行最優(yōu)粒子交互，從而克服了粒子群算法陷入局部最優(yōu)而導(dǎo)致的收斂精確度低或不收斂的問(wèn)題，支持向量機(jī)分類(lèi)精度也提高了。
　　 其次，為了更好地適應(yīng)實(shí)際情況，利用實(shí)驗(yàn)數(shù)據(jù)從黎曼幾何角度來(lái)增大支持向量機(jī)的分類(lèi)精度。針對(duì)之前的修正核函數(shù)受到支持向量數(shù)目和分布的影響這一缺陷，基于黎曼幾何信息和Ama

4、ir的幾何修改方法提出一種新的修正核函數(shù)。該方法利用原始核函數(shù)訓(xùn)練SVM得到的分類(lèi)邊界與樣本值所在平面的距離來(lái)代替樣本點(diǎn)到支持向量的距離，通過(guò)改變擬共形變換來(lái)修正高斯核，旨在放大高斯核函數(shù)的體積元，從而提高SVM分類(lèi)的效果。新的修正核函數(shù)，克服了以前修正核函數(shù)受支持向量數(shù)目的影響，并在很大程度上提高了SVM的泛化能力。
　　 最后，將論文的方法用于UCI數(shù)據(jù)庫(kù)中Mushroom的分類(lèi)中，實(shí)驗(yàn)說(shuō)明用基于遺傳算法-粒子群算法的核參數(shù)