多核學(xué)習(xí)方法在分類問題中的應(yīng)用研究.pdf

1、核學(xué)習(xí)方法在模式識別領(lǐng)域中被廣泛應(yīng)用?，F(xiàn)有的單核學(xué)習(xí)方法在推廣能力、迭代時間和魯棒性等方面不夠理想,多核SVM(Support vector machine,支持向量機)作為單核SVM的延伸與發(fā)展,具有更好的推廣能力和更好的魯棒性。
　　在分析了多核SVM理論的基礎(chǔ)上,研究了多核SVM的SILP(Semi-Infinite Linear Pr-ogram,半無限線性規(guī)劃)算法,包括基于CG(Column Generation,列生

2、成)的SILP改進算法和基于CA(Chunking Algorithm,塊算法)的SILP改進算法,將其應(yīng)用于二分類問題和多分類問題的基準(zhǔn)數(shù)據(jù)集中,進一步將其應(yīng)用于實際分類問題中,包括手寫體數(shù)字識別問題的USPS(United States Postal Service,美國郵政署)數(shù)據(jù)集和MNIST(Modified National Institute of Standards and Technology,國家標(biāo)準(zhǔn)與技術(shù)研究院重建

3、)數(shù)據(jù)集以及生物醫(yī)電問題的ECG(Electrocardiogram,心電圖)和EEG(Electroencephalogram,腦電圖),以驗證兩種基于SILP改進算法的有效性。本文主要研究內(nèi)容包括如下幾個方面:
　　(1)在分析了單核SVM理論的基礎(chǔ)上,進一步研究了多核SVM以及其基于CG的SILP改進算法和基于CA的SILP改進算法。結(jié)合交叉驗證法,以兩種多核函數(shù)為例,將基于多核函數(shù)的兩種 SILP改進算法分別應(yīng)用于二分類基

4、準(zhǔn)數(shù)據(jù)集和多分類基準(zhǔn)數(shù)據(jù)集的分類問題中,并且將實驗結(jié)果與其他經(jīng)典 SVM和 LS-SVM(Least Squares Support Vector Machines,最小二乘支持向量機)的分類結(jié)果進行比較分析。最后以分類精度、ROC(Receiver Operating Characteristic,受試者工作特征)曲線、AUC(Area Under roc Cur-ve,ROC曲線面積值)和運行時間四個分類指標(biāo)進行各種分類器分類性能的

5、對比分析。實驗結(jié)果表明,基于CA的SILP改進算法可以得到更高的分類精度和更快的訓(xùn)練速度。
　　(2)以手寫體數(shù)字識別中的實際分類問題為應(yīng)用背景,結(jié)合兩種SILP改進算法分別對手寫體數(shù)字識別經(jīng)典數(shù)據(jù)集USPS以及MNIST進行分類研究。結(jié)果表明,基于多核函數(shù)的兩種 SILP改進算法具有良好的分類性能和泛化性能,能夠有效的處理實際分類問題中的大尺度多分類問題。
　　(3)針對生物醫(yī)電領(lǐng)域中的實際分類問題,結(jié)合兩種SILP改進算