基于半監(jiān)督的多流形學(xué)習(xí)算法研究.pdf

1、流形學(xué)習(xí)是一種非線性降維技術(shù)，它能夠較好地發(fā)現(xiàn)隱藏在高維數(shù)據(jù)中的低維流形，其已被廣泛應(yīng)用于數(shù)據(jù)分類問(wèn)題中以解決維數(shù)災(zāi)難問(wèn)題。但是，大部分已有的流形學(xué)習(xí)算法對(duì)單一采樣的數(shù)據(jù)有效，對(duì)采樣于多流形的數(shù)據(jù)卻有一定的局限性。在一般的分類問(wèn)題中，認(rèn)為每個(gè)類別中的數(shù)據(jù)可能張成一個(gè)自己的子流形，多個(gè)類別數(shù)據(jù)則張成多個(gè)子流形。然而，目前對(duì)于多流形問(wèn)題的研究工作還比較少。
　　隨著數(shù)據(jù)獲取技術(shù)的提高，我們?nèi)菀撰@得大量未標(biāo)記樣本點(diǎn)，但因人力和物力的局限

2、，我們難以獲取大量有標(biāo)記的樣本。所以，如何充分發(fā)揮少量有標(biāo)記樣本點(diǎn)的價(jià)值，并結(jié)合大量的未標(biāo)記樣本點(diǎn)來(lái)指導(dǎo)學(xué)習(xí)是流形學(xué)習(xí)面臨的挑戰(zhàn)之一。而半監(jiān)督流形學(xué)習(xí)方法正好為此提供了一個(gè)較好的解決方案。
　　但是，由于應(yīng)用過(guò)程中所獲取的高維數(shù)據(jù)難免受到噪聲的“污染”，使無(wú)監(jiān)督和半監(jiān)督的流形學(xué)習(xí)算法的性能都受到了影響。它們對(duì)噪聲并不魯棒，主要是因?yàn)樵肼暤拇嬖冢谝欢ǔ潭壬掀茐牧嗽瓟?shù)據(jù)點(diǎn)間的局部幾何關(guān)系，使得算法在挖掘數(shù)據(jù)的本質(zhì)特征時(shí)造成了偏差。目

3、前針對(duì)魯棒性能的改善已有一些相應(yīng)的工作，但是其大多基于無(wú)監(jiān)督流形學(xué)習(xí)算法做出的改進(jìn)，對(duì)于半監(jiān)督方面的魯棒性問(wèn)題研究甚少。
　　因此，本文主要圍繞流形學(xué)習(xí)中的多流形問(wèn)題以及魯棒性問(wèn)題展開(kāi)，并結(jié)合半監(jiān)督學(xué)習(xí)技術(shù)對(duì)流形學(xué)習(xí)算法進(jìn)行改進(jìn)。具體來(lái)講，本文的主要工作體現(xiàn)在以下兩方面：
　　1.針對(duì)多流形問(wèn)題，本文給出了一種新穎的方法，即基于多流形的半監(jiān)督學(xué)習(xí)算法（Semi-supervised Learning On Multi-Man

4、ifold，簡(jiǎn)稱SSL-MM）。該算法通過(guò)求解一個(gè)稀疏優(yōu)化模型來(lái)為每個(gè)樣本點(diǎn)構(gòu)造局部幾何結(jié)構(gòu)，使得所構(gòu)造的局部幾何關(guān)系能夠有效減少分布于不同流形的近鄰點(diǎn)所帶來(lái)的影響。然后在已知部分樣本點(diǎn)的標(biāo)簽信息情況下，通過(guò)在低維空間中保持已學(xué)習(xí)到的局部幾何關(guān)系來(lái)對(duì)未標(biāo)記樣本進(jìn)行標(biāo)簽預(yù)測(cè)。同時(shí)，本文在多個(gè)數(shù)據(jù)集上進(jìn)行了大量的對(duì)比實(shí)驗(yàn)，用以說(shuō)明所提算法SSL-MM的有效性。
　　2.針對(duì)噪聲敏感性問(wèn)題，提出了一個(gè)魯棒半監(jiān)督流形學(xué)習(xí)的算法框架（Rob