直推式支持向量機的研究學(xué)習(xí).pdf

1、直推式支持向量機的研究學(xué)習(xí)重慶大學(xué)碩士學(xué)位論文（學(xué)術(shù)學(xué)位）學(xué)生姓名：王利文指導(dǎo)教師：劉瓊蓀教授專業(yè)：概率論與數(shù)理統(tǒng)計學(xué)科門類：理學(xué)重慶大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院二O一四年四月重慶大學(xué)碩士學(xué)位論文中文摘要I摘要支持向量機（SupptVectMachineSVM）是一種建立在統(tǒng)計學(xué)習(xí)理論基礎(chǔ)上的機器學(xué)習(xí)方法，最初是由Vapnik等人研究小樣本問題時提出的。隨著統(tǒng)計學(xué)習(xí)理論的發(fā)展，SVM在理論和應(yīng)用方面都得到了迅速地發(fā)展。特別是將核函數(shù)引入到SVM的

2、學(xué)習(xí)過程中，提高了算法對高維數(shù)據(jù)的處理能力，在文本分類、醫(yī)療診斷、圖像檢測及數(shù)字驗證等領(lǐng)域得到很好的推廣。標(biāo)準(zhǔn)SVM是基于監(jiān)督學(xué)習(xí)的分類方法，需要手工對大量樣本標(biāo)記以獲取足夠的訓(xùn)練樣本。但在實際工程應(yīng)用中，這一過程不僅效率不高，并且代價較為昂貴。因此，半監(jiān)督學(xué)習(xí)思想被引入到SVM的訓(xùn)練學(xué)習(xí)過程中，典型的包括：Bent等人將SVM規(guī)范化的表現(xiàn)形式中引入聚類假設(shè)的思想，提出的S3VM學(xué)習(xí)機；Joachims基于直推式學(xué)習(xí)提出的TSVM算法等

3、。本文對TSVM算法做了詳細(xì)的研究，對于TSVM算法中pN較難估計的問題，提出基于無標(biāo)簽樣本的成對標(biāo)注法和標(biāo)簽動態(tài)調(diào)整PTSVM算法。針對訓(xùn)練樣本集中的有標(biāo)簽樣本數(shù)不平衡的問題，采取對不同的無標(biāo)簽樣本設(shè)置不同的懲罰參數(shù)的策略，提出了TSVM的模糊漸進(jìn)式算法和SemiTSVM算法等。雖然以上幾種改進(jìn)算法提高了TSVM分類的準(zhǔn)確度，但是也增加了算法的訓(xùn)練時間。針對這一情形，本文采用SLSTSVM模型避免了每次迭代求解QP問題，提高了訓(xùn)練的速

4、度，同時在每次迭代中采用區(qū)域標(biāo)注法來實現(xiàn)無標(biāo)簽樣本的標(biāo)注，也加快了對無標(biāo)簽樣本的標(biāo)注效率。通過仿真實驗可以發(fā)現(xiàn)，SLSTSVM算法在保持PTSVM算法精度的同時，也有效提高了訓(xùn)練的效率。直推式學(xué)習(xí)SVM的研究是支持向量機發(fā)展的一個方向，雖然目前TSVM算法的研究已獲得一些進(jìn)展，但其理論研究仍不夠完善。本文根據(jù)直推式支持向量機的學(xué)習(xí)算法做了一些理論研究，如何更好挖掘的無標(biāo)簽樣本信息提高分類器的性能是TSVM算法下一步研究的關(guān)鍵。關(guān)鍵詞關(guān)鍵