孿生支持向量機(jī)及其優(yōu)化方法研究.pdf

1、孿生支持向量機(jī)(Twin Support Vector Machines, TWSVM)是在支持向量機(jī)(Support Vector Machines, SVM)的基礎(chǔ)上提出的一種新的機(jī)器學(xué)習(xí)方法。和SVM相比,TWS VM要尋找的是一對不平行的超平面,其中每個超平面都應(yīng)該盡可能的靠近其中一類樣本,而遠(yuǎn)離另一類樣本。TWS VM在形式上完全類似于SVM,但算法最終歸結(jié)為求解兩個SVM型問題,計算開銷縮減到標(biāo)準(zhǔn)SVM的1/4。鑒于TWS

2、VM優(yōu)秀的學(xué)習(xí)性能,目前其已成為機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點。然而,TWSVM在算法效率、參數(shù)尋優(yōu)等方面還存在著改善的空間,針對這些問題,本文做了系統(tǒng)的研究,以下是主要研究內(nèi)容:
　　自TWSVM被提出以來,許多研究學(xué)者對其算法進(jìn)行了改進(jìn),進(jìn)一步提出了最小二乘孿生支持向量機(jī),投影孿生支持向量機(jī)等,并將其應(yīng)用于生物醫(yī)學(xué)、說話人識別等領(lǐng)域。在深入的研究了TWS VM的基本思想和算法流程的之后,為了進(jìn)一步提高其分類效率,本文首先考慮對其進(jìn)行預(yù)

3、處理的優(yōu)化,提出了一種基于粗糙集的孿生支持向量機(jī)(Twin Support Vector Machines based on Rough Sets, RS-TWSVM),該算法利用基于屬性重要度的屬性約簡方法對TWSVM做預(yù)處理優(yōu)化。最后,通過在MATLAB平臺下的實驗,驗證了該算法的可行性。
　　在對TWSVM和RS-TWSVM進(jìn)行研究和實驗的過程中,發(fā)現(xiàn)TWSVM存在著參數(shù)難指定的缺點,因此本文繼續(xù)探索如何對TWS VM做參數(shù)

4、選擇的優(yōu)化,提出了一種基于粒子群優(yōu)化算法的孿生支持向量機(jī)(Twin Support Vector Machines based on Particle Swarm Optimization, PSO-TWSVM),該算法使用粒子群算法迭代尋找TWS VM的最優(yōu)參數(shù),目的是為了避免TWS VM參數(shù)選擇的盲目性。最后通過MATLAB平臺下的實驗,證明該算法確實有效。
　　為了探討不同的群智能優(yōu)化算法對TWSVM進(jìn)行參數(shù)選擇優(yōu)化的利弊,