基于流形學習的局部降維算法研究.pdf

1、數(shù)據(jù)降維算法在圖像、聲音和視頻分析領(lǐng)域有著廣闊的應(yīng)用前景。近年來數(shù)據(jù)降維算法受到越來越多研究人員的關(guān)注。流形學習降維算法主要分為線性降維算法和非線性降維算法。主分量分析算法是線性降維算法的代表，其特點是通過對現(xiàn)有數(shù)據(jù)樣本的分析，學習到一個映射矩陣，然后通過對數(shù)據(jù)樣本的線性映射將高維空間的數(shù)據(jù)映射至低維空間，線性降維算法的優(yōu)點是計算復雜度低，但對本質(zhì)非線性分布的數(shù)據(jù)降維效果并不好，即在降維過程中會損失數(shù)據(jù)分布的一些重要特征。等距映射算法、

2、局部線性嵌入算法及拉普拉斯映射算法是非線性降維算法的代表，其特點是通過非線性映射的方式將數(shù)據(jù)從高維空間映射至低維空間，具體又分為全局降維算法及局部降維算法。等距映射算法就是典型的全局降維算法，其特點是在降維過程中盡量保持數(shù)據(jù)分布的全局結(jié)構(gòu)，算法優(yōu)點是保證全局結(jié)構(gòu)不變，缺點是計算復雜度高不適合實時應(yīng)用。局部線性嵌入算法及拉普拉斯映射算法則是典型的局部降維算法，其優(yōu)點是在降維過程中只保證數(shù)據(jù)分布的局部結(jié)構(gòu)，這樣降維后數(shù)據(jù)的整體分布會有所變形

3、，但計算復雜度低，適合實時應(yīng)用。論文首先介紹了一些經(jīng)典的流形學習算法，并對現(xiàn)有流形學習算法進行分析，指出當前流形學習算法普遍存在的問題及主要研究熱點，并據(jù)此展開如下研究：
　　 首先，針對傳統(tǒng)流形學習降維算法中相似性度量問題，提出兩種基于馬氏距離度量的流形學習降維算法，兩種算法分別將馬氏距離度量應(yīng)用于局部線性嵌入算法及拉普拉斯映射算法的近鄰確定過程及新樣本的識別過程。算法通過對現(xiàn)有數(shù)據(jù)樣本的分析得出馬氏度量的系數(shù)矩陣，再根據(jù)得到

4、的馬氏度量計算每個數(shù)據(jù)樣本的近鄰，繼而進行數(shù)據(jù)從高維空間向低維空間的非線性映射。同樣在新樣本的降維及識別過程中也要用馬氏度量確定其近鄰及最終所屬分類。
　　 其次，針對高維數(shù)據(jù)本質(zhì)結(jié)構(gòu)問題，提出自適應(yīng)局部線性嵌入算法，傳統(tǒng)流形學習降維算法通常依靠K近鄰算法確定每個數(shù)據(jù)樣本的近鄰數(shù)，但K值如何獲取卻少有方法，通常使用的試湊法需要耗費較多時間，因此提出自適應(yīng)局部線性嵌入算法，根據(jù)數(shù)據(jù)樣本分布情況，自動為每個數(shù)據(jù)樣本指定一個合適的閾值

5、，當其他樣本與該樣本的距離小于此閾值時，則確定其為該樣本的近鄰，否則不是該樣本的近鄰。算法不但解決了流形學習降維算法中的K值選取的問題，而且根據(jù)數(shù)據(jù)樣本分布情況為每個數(shù)據(jù)樣本指定不同的K值，相對于傳統(tǒng)流形學習降維算法中為每個樣本指定相同K值的方式，自適應(yīng)局部線性嵌入算法更合理。
　　 再次，針對圖像降維算法需要將圖像數(shù)據(jù)轉(zhuǎn)變?yōu)閳D像向量的問題，提出一種線性的二維降維算法--改進的基于模塊的主分量分析算法，該算法是對基于模塊的主分量

6、分析算法的一個改進，改變了原算法中圖像均值計算方法及新樣本識別方法，還通過理論分析證明了二維主分量分析算法是改進算法的一個特例。
　　 最后，針對圖像降維算法需要將圖像數(shù)據(jù)轉(zhuǎn)變?yōu)閳D像向量的問題，提出一種非線性的二維降維算法--二維局部線性嵌入算法，算法通過理論分析指出二維主分量分析算法實質(zhì)是基于行的主分量分析算法，而局部線性嵌入算法又可以看作主分量分析算法的一個非線性擴展，基于以上原因提出基于行(或列)的局部線性嵌入算法--二維