基于集成學(xué)習(xí)的多標(biāo)記學(xué)習(xí)算法研究.pdf

1、在傳統(tǒng)機(jī)器學(xué)習(xí)算法中，一個(gè)樣本僅對(duì)應(yīng)單個(gè)類(lèi)別標(biāo)記。而現(xiàn)實(shí)世界中，一個(gè)對(duì)象往往同時(shí)具備多個(gè)語(yǔ)義信息。為了對(duì)這些多義性對(duì)象進(jìn)行建模，多標(biāo)記學(xué)習(xí)算法應(yīng)運(yùn)而生。在多標(biāo)記學(xué)習(xí)范式下，每個(gè)對(duì)象以一個(gè)示例來(lái)描述其特征信息，并以一個(gè)與之對(duì)應(yīng)的標(biāo)記集合來(lái)描述其語(yǔ)義信息。集成學(xué)習(xí)作為一類(lèi)重要的機(jī)器學(xué)習(xí)技術(shù)，可以有效提升學(xué)習(xí)算法的泛化性能。本文將集成學(xué)習(xí)技術(shù)用于求解多標(biāo)記學(xué)習(xí)問(wèn)題，主要做了如下兩方面的工作:
　　一方面，現(xiàn)實(shí)世界的很多應(yīng)用都可以輕易地獲

2、取大量數(shù)據(jù)，而獲取這些數(shù)據(jù)的真實(shí)標(biāo)記卻極為費(fèi)時(shí)且昂貴，該問(wèn)題在多標(biāo)記學(xué)習(xí)中顯得尤為突出。因此，通過(guò)對(duì)未標(biāo)記數(shù)據(jù)的利用來(lái)提高學(xué)習(xí)系統(tǒng)的性能具有重要的研究?jī)r(jià)值。本文對(duì)傳統(tǒng)的協(xié)同訓(xùn)練半監(jiān)督學(xué)習(xí)方法進(jìn)行擴(kuò)展，提出了一種新的多標(biāo)記半監(jiān)督學(xué)習(xí)方法COINS(CO-training for INductive Semi-supervised multi-label learning)。相比于已有直推式多標(biāo)記半監(jiān)督學(xué)習(xí)方法，COINS可以實(shí)現(xiàn)歸納式學(xué)習(xí)

3、建模且具有更好的泛化性能。
　　另一方面，多標(biāo)記學(xué)習(xí)中各類(lèi)別標(biāo)記往往具有其獨(dú)特的性質(zhì)，為每個(gè)標(biāo)記構(gòu)造反映其特性的類(lèi)屬屬性是求解多標(biāo)記學(xué)習(xí)問(wèn)題的一類(lèi)重要技術(shù)。LIFT算法通過(guò)聚類(lèi)的方式獲取每個(gè)標(biāo)記的類(lèi)屬屬性以提高系統(tǒng)性能，但忽視了多標(biāo)記學(xué)習(xí)中尤為重要的標(biāo)記相關(guān)性。本文通過(guò)聚類(lèi)集成的方式將標(biāo)記相關(guān)性引入類(lèi)屬屬性的生成過(guò)程，提出了基于聚類(lèi)集成的類(lèi)屬屬性多標(biāo)記學(xué)習(xí)算法LIFTACE(multi-label learning with La

4、bel-specIfic FeaTures viA Clustering Emsemble)。相比于LIFT算法，LIFTACE算法可以有效利用聚類(lèi)集成機(jī)制獲得更好的泛化性能。
　　本文共分為五章。第一章主要介紹多標(biāo)記學(xué)習(xí)的基本概念、研究現(xiàn)狀，以及仍有待研究的問(wèn)題;第二章給出多標(biāo)記學(xué)習(xí)的問(wèn)題定義，并針對(duì)有待研究的問(wèn)題分析討論了5種已有的多標(biāo)記學(xué)習(xí)算法;第三章和第四章分別介紹兩種基于集成學(xué)習(xí)的多標(biāo)記學(xué)習(xí)算法，即基于協(xié)同訓(xùn)練的半監(jiān)督多