基于統(tǒng)計(jì)學(xué)習(xí)的多類別分類器研究.pdf

1、多類別分類問題一直以來就是機(jī)器學(xué)習(xí)領(lǐng)域中的重點(diǎn)研究對象，隨著互聯(lián)網(wǎng)絡(luò)以及數(shù)據(jù)挖掘技術(shù)的不斷發(fā)展，如何準(zhǔn)確快速地處理類別數(shù)較多的多類別分類問題已經(jīng)成為了研究和應(yīng)用的熱點(diǎn)。 輸出編碼是解決多類別分類問題的一般性框架。大多數(shù)研究使用預(yù)先定義的輸出編碼來達(dá)到分類的目的。One-against-all，One-against-one是最常用的多類別處理方法，將多類別問題納入一個(gè)優(yōu)化問題處理也得到了大量的研究。最近連續(xù)編碼的概念已經(jīng)被提出，

2、并以此進(jìn)行了編碼的自動(dòng)設(shè)計(jì)。這些研究將編碼設(shè)計(jì)的問題歸結(jié)為一個(gè)有約束的優(yōu)化問題，但是這些方法需要解大量的優(yōu)化問題，導(dǎo)致了復(fù)雜的計(jì)算從而影響到算法的效率。本文提出了解決多類別分類問題的一般性方法，它利用最小最大概率機(jī)的概率信息和間隔信息啟發(fā)式地解決了編碼設(shè)計(jì)問題。在我們的算法中將一個(gè)減少了迭代次數(shù)的分類器視為弱化了的分類器，同時(shí)保留分類器的間隔屬性和幾何特性。最后我們利用高維映射將分類器輸出映射到特征空間，使用核技巧來提升整體性能。在弱化