分類器組合技術(shù)研究及其在人機(jī)交互系統(tǒng)中的應(yīng)用.pdf

1、隨著模式識別技術(shù)中遇到的實(shí)際問題的復(fù)雜化，單獨(dú)分類器的性能已經(jīng)難以滿足許多實(shí)際應(yīng)用的要求，分類器組合技術(shù)成為提高模式識別系統(tǒng)性能的一種新的重要手段。 分類器組合技術(shù)研究對于人機(jī)交互技術(shù)的發(fā)展具有重大意義?，F(xiàn)代人機(jī)交互技術(shù)已經(jīng)發(fā)展到多模態(tài)人機(jī)交互階段，其中一個重要的課題是多模態(tài)識別。而分類器組合是解決多模態(tài)識別問題的一項(xiàng)關(guān)鍵技術(shù)。本文結(jié)合人機(jī)交互中的多模態(tài)識別問題，對四種分類器組合問題進(jìn)行研究：（1）模式類別數(shù)量較多的分類器組合問

2、題（類別數(shù)大于15）；（2）模式類別數(shù)量較少的分類器組合問題（類別數(shù)在3～15之間）；（3）兩類分類器組合問題；（4）基于局部分類精度的分類器組合問題。 本文針對以上四類問題的特點(diǎn)提出了一些性能較高的分類器組合方法，主要研究成果如下： 1．針對模式類數(shù)量較多的分類器組合問題，提出了一類新的排序?qū)臃诸惼魅诤戏椒ā蛱栕儞Q法。這類方法將對基本分類器輸出的模式類別排序號進(jìn)行的變換與分類器的加權(quán)組合結(jié)合起來，從而在融合過程中能

3、夠增強(qiáng)小序號值對最終分類的影響。大量實(shí)驗(yàn)表明，序號變換法在分類正確率方面超過現(xiàn)有的排序?qū)臃诸惼魅诤戏椒?．1～1．0個百分點(diǎn)。 2．針對模式類數(shù)量較少的分類器組合問題，提出了一種新的度量層分類器融合方法：多決策模板法（MDT，Multiple Decision Templates）。其決策模板產(chǎn)生方法使得每個決策模板能夠抑制一種容易發(fā)生的分類錯誤，從而增加少量決策模板就能夠有效地提高分類正確率。在ELENA數(shù)據(jù)集與UCI數(shù)據(jù)集上

4、的實(shí)驗(yàn)結(jié)果表明：與投票法、樸素貝葉斯法、線性融合規(guī)則及模板匹配法取得的最高分類正確率相比，該方法將分類正確率提高了0．4～0．9個百分點(diǎn)。與k-近鄰規(guī)則相比，當(dāng)訓(xùn)練樣本較多時，二者的分類正確率相當(dāng)，而MDT方法的計(jì)算量較小；當(dāng)訓(xùn)練樣本較少時，MDT方法能夠取得較高的分類正確率。 3．針對兩類分類器組合問題，提出了一種新的度量層分類器融合方法：基于類邊界的分類器融合方法（CBCF， Class Boundary based Cla

5、ssifier Fusion）。該方法利用所研究問題在Meta層特征空間上的特點(diǎn)，直接從訓(xùn)練樣本中提取類邊界，然后基于邊界點(diǎn)定義局部線性融合規(guī)則。在Phoneme數(shù)據(jù)集與Ringnorm數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明：與投票法、樸素貝葉斯法、模板匹配法及線性融合規(guī)則取得的最高分類正確率相比，CBCF方法將分類正確率提高了0．7～1．5個百分點(diǎn)；與k-近鄰規(guī)則相比，二者的分類正確率很接近，而CBCF方法的計(jì)算量為k-近鄰規(guī)則計(jì)算量的1/50～1/

6、20。 4．針對基于局部分類精度的分類器組合問題，提出了一種根據(jù)局部分類精度估計(jì)分類置信度的方法，從而在解決該類問題時可以采用分類器融合方法代替?zhèn)鹘y(tǒng)的動態(tài)分類器選擇方法，提高分類正確率?；诰植糠诸惥鹊玫椒诸愔眯哦纫院?，動態(tài)分類器選擇等價于度量層分類器融合方法中的Max規(guī)則，從而采用性能更好的分類器融合方法能夠提高分類正確率。ELENA數(shù)據(jù)集、UCI數(shù)據(jù)集與Ringnorm數(shù)據(jù)集上的大量實(shí)驗(yàn)結(jié)果表明該方法將分類正確率提高了0．

7、2～13．6個百分點(diǎn)。 5．基于新的分類器組合方法設(shè)計(jì)了多模態(tài)身份識別系統(tǒng)與多模態(tài)身份認(rèn)證系統(tǒng)。身份識別屬于模式類數(shù)量較多的問題，所以在多模態(tài)身份識別系統(tǒng)中采用了序號變換法。身份認(rèn)證可以作為兩類問題處理，所以在多模態(tài)身份認(rèn)證系統(tǒng)中采用了CBCF方法。實(shí)驗(yàn)表明本文方法顯著提高了系統(tǒng)性能，使身份識別系統(tǒng)的正確識別率從94％（基本分類器正確識別率的最大值）提高到99．71％，身份認(rèn)證系統(tǒng)的半錯誤率（HTER，Half Total Er