相關(guān)向量機多分類算法的研究與應(yīng)用.pdf

1、相關(guān)向量機(RelevanceVectorMachine,RVM)是貝葉斯統(tǒng)計學習理論(StatisticalLearingTheory,SLT)發(fā)展的產(chǎn)物,是一種有監(jiān)督機器學習的模式識別新方法。該方法由支持向量機(SupportVectorMachine,SVM)理論演變而來,相比后者,具有解更稀疏、核函數(shù)選擇更自由、泛化能力更強、魯棒性更好等優(yōu)點,在小樣本的統(tǒng)計學習問題中的表現(xiàn)尤其突出,近幾年已經(jīng)在應(yīng)用領(lǐng)域得到了快速發(fā)展,在模式分類

2、、故障診斷、智能預測、語音及圖像信息處理等方面均有很好的表現(xiàn)。但是,相關(guān)向量機在解決多類模式識別問題時,由于計算過程比較復雜,仍存在分類精度與訓練識別時間無法兼顧的矛盾。
　　本課題針對RVM算法存在的不足,對算法的結(jié)構(gòu)和關(guān)鍵步驟,如核函數(shù)的選擇、分類器的設(shè)計以及控制參數(shù)的調(diào)整等進行了深入研究和大量實驗仿真工作,并對多分類問題中應(yīng)用最廣泛且分類精度最高的“一對一”分類器進行了改進。改進后的多分類方法,在基本保持原有的分類精度的基礎(chǔ)

3、上,大幅度提升了算法在類別數(shù)較多的模式識別問題上的分類時間,使RVM算法應(yīng)用的實時性有了明顯的提高。此外,從應(yīng)用角度出發(fā),將改進后的RVM算法應(yīng)用于人臉識別及汽車發(fā)動機失火故障檢測等問題的模式識別中,均取得了良好的效果。
　　首先,詳細論述相關(guān)向量機的研究現(xiàn)況和基本理論,并且提出相關(guān)向量機中仍需解決的關(guān)鍵問題。為了提高相關(guān)向量機學習算法在多模式識別中的分類速度,對相關(guān)向量機多分類方法進行了分析和研究,發(fā)現(xiàn)比較次數(shù)過多是該方法計算量

4、大的主要原因。提出了一種在每輪比較中,排除最差類別的新方法。該方法使比較次數(shù)逐級減少,并且當類別數(shù)較多時,總計算量減少尤其明顯。通過仿真實驗說明了該方法的有效性,對數(shù)據(jù)分類的實驗結(jié)果表明,新方法與傳統(tǒng)分類器相比,在基本不影響分類正確率的前提下,機器訓練與識別次數(shù)顯著減少,算法運行速度明顯提高。
　　其次,為了解決人臉識別問題中對準確性、實時性、穩(wěn)定性的要求,對傳統(tǒng)的人臉識別方法進行了研究,提出一種基于改進相關(guān)向量機的人臉識別方法。

5、文章利用小波變換對人臉圖像進行預處理;根據(jù)PCA方法對處理后的人臉圖像進行特征提取;利用相關(guān)向量機多分類模型進行人臉識別。與基于SVM的人臉識別方法進行比較,結(jié)果表明RVM具有高于SVM的魯棒性,人臉識別的正確率更高、實時性好、可靠性更強。
　　再次,當人臉圖像含有較多噪聲時,識別正確率會有很明顯的下降。目前的人臉識別技術(shù)對此問題尚無較好的解決辦法。本文提出一種采用相關(guān)向量機的人臉識別方法,利用機器學習對小波分解和PCA變換后的人

6、臉數(shù)據(jù)庫樣本進行訓練,得到的相關(guān)向量構(gòu)成“超平面”作為差異樣本的分類面,并利用改進的“一對一”方法實現(xiàn)多類別模式識別。對加噪聲的識別對象進行了大量的仿真實驗結(jié)果表明,與傳統(tǒng)方法相比,新方法對圖像噪聲不敏感,具有更高的識別率和很強的魯棒性。另外,對拍照光線、角度變化、物體遮擋、分辨率不足等條件下的人臉圖像識別,也采用新方法進行了實驗分析和討論。
　　最后,應(yīng)用RVM算法研究汽車發(fā)動機故障診斷問題。研究發(fā)現(xiàn)算法中的懲罰因子和徑向基核函

7、數(shù)參數(shù)對分類準確率有著很大的影響,本文結(jié)合粒子群(PSO)算法對參數(shù)進行優(yōu)化,并把該優(yōu)化算法用于汽車發(fā)動機故障診斷中。針對樣本的特征參數(shù)會隨發(fā)動機轉(zhuǎn)速變化的問題,提出了一種超參數(shù)自適應(yīng)擬合的增量學習方法。在發(fā)動機失火故障診斷中,建立汽車尾氣中各氣體的體積分數(shù)與失火故障原因的映射關(guān)系,并對不同檔位歸一化處理的數(shù)據(jù)進行增量機器訓練,對得到的超參數(shù)進行非線性擬合,并將訓練好的RVM模型應(yīng)用于故障分類診斷。仿真實驗表明新方法不僅診斷結(jié)果準確可靠