流形學(xué)習算法及若干應(yīng)用研究.pdf

1、信息化技術(shù)的快速發(fā)展及其廣泛應(yīng)用，使具有高維數(shù)的非結(jié)構(gòu)化數(shù)據(jù)信息大量出現(xiàn)。高維使得這些數(shù)據(jù)的內(nèi)在規(guī)律不僅超出人們的直接感知能力，而且很難被現(xiàn)有機器學(xué)習和數(shù)據(jù)挖掘算法有效地處理。如何對高維數(shù)據(jù)進行有效維數(shù)約簡，并由此發(fā)現(xiàn)其內(nèi)在結(jié)構(gòu)和規(guī)律己成為高維信息處理研究的關(guān)鍵問題之一。流形學(xué)習的主要目標是發(fā)現(xiàn)蘊含在高維數(shù)據(jù)集中的內(nèi)在幾何結(jié)構(gòu)與規(guī)律性，是近年來機器學(xué)習和模式識別等領(lǐng)域一個新的研究熱點。
　　 本文對流形學(xué)習算法及其應(yīng)用問題進行了

2、研究，主要工作及研究成果總結(jié)如下：
　　 ①在對PCA和MVU算法分析的基礎(chǔ)上，提出了有區(qū)別方差嵌入(DVE)算法。通過構(gòu)造數(shù)據(jù)集的近鄰圖和非近鄰圖，DVE算法對樣本方差采取了不同的處理方式，使低維表示全局方差最大的同時保持局部方差不變。DVE可以看作是PCA算法的非線性擴展，同時也可以看作是對MVU算法嚴格局部等距約束的松弛改進。DVE是一種全局維數(shù)約簡算法，可以有效揭示蘊含在高維數(shù)據(jù)集中的全局幾何結(jié)構(gòu)和內(nèi)在規(guī)律。與MVU和I

3、SOMAP相比，DVE算法具有小的運算強度和存儲需求。另外，DVE算法對具有等角映射特性的數(shù)據(jù)集有很好的降維效果，而ISOMAP和MVU的距離保持特性使得它們無法處理此類數(shù)據(jù)集。
　　 ②DVE算法需要對稠密矩陣進行特征分解，盡管與ISOMAP和MVU相比，算法的計算復(fù)雜度有了很大的降低，但仍無法滿足對現(xiàn)實世界中海量高維數(shù)據(jù)的實時處理要求。針對這一問題，提出了基于基準點的DVE快速算法(LDVE)。在保持近鄰點間距離和不變的條件

4、下，LDVE算法通過使隨機選取的基準點間的距離和最大在低維空間中展開高維數(shù)據(jù)流形，算法的求解也同時轉(zhuǎn)化為稀疏矩陣的特征分解問題，從而有效降低了計算強度和存儲需求。
　　 ③DVE算法得不到一個顯式映射函數(shù)，無法對新增數(shù)據(jù)點進行有效處理，針對這一問題，通過對DVE算法進行線性逼近，提出了有區(qū)別方差投影(DVP)算法。和DVE算法一樣，DVP算法在揭示數(shù)據(jù)集全局結(jié)構(gòu)的同時有效保存它的局部結(jié)構(gòu)，可以作為經(jīng)典PCA和LPP的有效補充。<

5、br>　　 ④DVP是一種非監(jiān)督維數(shù)約簡算法，它并不能保證不同類別的數(shù)據(jù)點在低維投影空間中可以被有效分開。針對這一問題，提出了監(jiān)督有區(qū)別方差投影(SDVP)算法。通過構(gòu)造數(shù)據(jù)集的類內(nèi)近鄰圖和類間圖，SDVP算法使得高維數(shù)據(jù)集在低維空間中投影的類內(nèi)局部散度最小，同時類間全局散度最大。SDVP可以看作是線性判別分析(LDA)的局部化形式，而邊際Fisher分析(MFA)又可以看作是SDVP的局部化形式。SDVP算法對具有多模態(tài)或嵌入流形結(jié)