支持向量機(jī)文本分類算法的研究及其應(yīng)用.pdf

1、隨著信息技術(shù)和信息網(wǎng)絡(luò)的飛速發(fā)展，從大量數(shù)據(jù)中挖掘出有用知識(shí)的數(shù)據(jù)挖掘已成為具有重要意義的研究領(lǐng)域。支持向量機(jī)(support vector machine)是近年來在統(tǒng)計(jì)學(xué)習(xí)理論的基礎(chǔ)上發(fā)展起來的一種新的模式識(shí)別方法，在解決小樣本、非線性及高維模式識(shí)別問題中表現(xiàn)出許多特有的優(yōu)勢。
　　 雖然統(tǒng)計(jì)學(xué)習(xí)理論(SLT)有比較堅(jiān)實(shí)的理論基礎(chǔ)和嚴(yán)格的理論分析，但是其從理論到應(yīng)用還有很多尚未得到充分研究和解決的問題。例如，目前該領(lǐng)域的相關(guān)

2、研究大多是試圖設(shè)計(jì)某種分類器，使其對(duì)未來所有可能樣本的預(yù)期性能最優(yōu)，而在很多實(shí)際問題中，沒有可能也沒有必要用這樣一個(gè)分類器對(duì)所有可能的樣本進(jìn)行識(shí)別，而往往只需要對(duì)一些特定的樣本進(jìn)行識(shí)別。于是可以考慮設(shè)計(jì)這樣一種更為經(jīng)濟(jì)的分類器，用它來建立一種直接從有標(biāo)簽樣本出發(fā)對(duì)特定的無標(biāo)簽樣本進(jìn)行識(shí)別和分類的方法和原則。相對(duì)于傳統(tǒng)的歸納推理方式，這種推理方式被稱為直推式學(xué)習(xí)(transductive inference)。直推式學(xué)習(xí)試圖根據(jù)已知樣本對(duì)

3、特定的未知樣本建立一套進(jìn)行識(shí)別的方法和準(zhǔn)則。漸進(jìn)直推式支持向量機(jī)學(xué)習(xí)算法(progressive transductive support vector machine，PTSVM)可以較好地適應(yīng)各種不同的訓(xùn)練樣本分布，實(shí)現(xiàn)了較一般意義上的直推式學(xué)習(xí)。本文針對(duì)PTSVM中的區(qū)域成對(duì)兒標(biāo)注法學(xué)習(xí)過程不自然且易出錯(cuò)和標(biāo)簽重置法糾錯(cuò)能力不強(qiáng)的缺陷，提出了一種改進(jìn)的基于Cache的漸進(jìn)直推式支持向量機(jī)學(xué)習(xí)算法。該算法用值域成對(duì)兒標(biāo)注法和Cach

4、e糾錯(cuò)法分別取代了PTSVM中的區(qū)域成對(duì)兒標(biāo)注法和標(biāo)簽重置法，不僅大大減少了錯(cuò)誤標(biāo)記的次數(shù)，提高了算法的速度和準(zhǔn)確度，而且消除了PTSVM算法的死循環(huán)現(xiàn)象。通過UCI的Wisconsin Breast cancer和CWH03a的Svmguide3兩個(gè)數(shù)據(jù)集的實(shí)驗(yàn)，表明該算法是有效的。
　　 將本文改進(jìn)的基于Cache的漸進(jìn)直推式支持向量機(jī)學(xué)習(xí)算法應(yīng)用于大連市公安局警務(wù)綜合應(yīng)用平臺(tái)的全文檢索系統(tǒng)，顯著提高了信息檢索的準(zhǔn)確性，提高