改進(jìn)網(wǎng)格搜索的支持向量機(jī)參數(shù)優(yōu)化研究及應(yīng)用.pdf

1、支持向量機(jī)(Support Vector Machine。SVM)作為數(shù)據(jù)挖掘中具有代表性的分類算法，是在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上發(fā)展起來(lái)的。SVM通過(guò)對(duì)已知樣本信息的分析，尋找最優(yōu)分類超平面，對(duì)未知數(shù)據(jù)進(jìn)行分類，能較好地解決非線性、高維數(shù)、小樣本學(xué)習(xí)問題。SVM的分類性能與其參數(shù)的選取密切相關(guān)，因此SVM的參數(shù)優(yōu)化已經(jīng)成為一個(gè)備受關(guān)注的研究課題。
　　近年來(lái)，許多學(xué)者已提出或引入了諸如網(wǎng)格搜索算法、粒子群算法、遺傳算法等SVM參數(shù)優(yōu)

2、化算法。然而，本文在對(duì)現(xiàn)有的SVM參數(shù)優(yōu)化算法性能分析后發(fā)現(xiàn)，現(xiàn)有的SVM參數(shù)優(yōu)化算法計(jì)算量大，尤其在面對(duì)數(shù)據(jù)規(guī)模較大的機(jī)器學(xué)習(xí)任務(wù)時(shí)，使得SVM建模過(guò)程較慢，從而導(dǎo)致SVM整體運(yùn)行效率不高。
　　針對(duì)以上問題，本文提出了一種改進(jìn)的SVM參數(shù)優(yōu)化算法——空間折半-變步長(zhǎng)網(wǎng)格搜索算法(Half space&Variable step Grid Search。HVGS)。該算法首先將預(yù)設(shè)搜索步長(zhǎng)擴(kuò)大L倍并在初始空間內(nèi)進(jìn)行第一次參數(shù)搜索

3、，然后根據(jù)參數(shù)搜索結(jié)果，對(duì)初始空間進(jìn)行折半并將步長(zhǎng)縮小 M倍，在折半的搜索空間內(nèi)用較小的步長(zhǎng)進(jìn)行第二次參數(shù)搜索，重復(fù)這一過(guò)程并進(jìn)行第三次參數(shù)搜索，并且使第三次參數(shù)搜索時(shí)搜索步長(zhǎng)縮小N倍至預(yù)設(shè)步長(zhǎng)。通過(guò)兩次參數(shù)搜索空間的折半操作及三次步長(zhǎng)的放縮操作，可以大幅提升參數(shù)的搜索效率從而減少 SVM的整體運(yùn)行時(shí)間。本文在利用屬性標(biāo)準(zhǔn)化及主成分分析進(jìn)行數(shù)據(jù)預(yù)處理的基礎(chǔ)上，融合了所提出的HVGS，在MATLAB下構(gòu)建了名為PHVSVM的支持向量機(jī)算法