基于稀疏表征的降維算法研究.pdf

1、信息科學(xué)技術(shù)的迅速發(fā)展和廣泛應(yīng)用，使非結(jié)構(gòu)化的超高維數(shù)據(jù)大量涌現(xiàn)。這些高維數(shù)據(jù)往往成為模式識別和機(jī)器學(xué)習(xí)領(lǐng)域處理的難題。究其緣由在于:(1)所謂的“維數(shù)災(zāi)難”帶來的技術(shù)難度;(2)維數(shù)太高所要求的存儲量大和計(jì)算代價高。因此，有關(guān)數(shù)據(jù)降維方面的課題研究長期以來都是相關(guān)領(lǐng)域研究的重點(diǎn)課題。
　　在過去的幾十年里，有大量的降維(Dimensionality Reduction，DR)算法包括線性降維算法和非線性降維算法被不斷地提出并被深

2、入研究，其中常用的包括傳統(tǒng)的線性降維算法如主成分分析(Principal Component Analysis，PCA)和線性判別分析(LinearDiscriminant Analysis，LDA);幾種經(jīng)典的流形學(xué)習(xí)算法如局部線性嵌入(Locally LinearEmbedding，LLE)、等距映射（Isometric Mapping，ISOMAP）、拉普拉斯特征映射（Laplacian Eigenmaps，LE）及局部切空間排列

3、算法(Local Tangent Space Alignment，LTSA)。然而，現(xiàn)存的很多算法存在很多缺陷，如PCA不具有判別力，LDA受困于小樣本問題，LLE等流形學(xué)習(xí)算法卻無法應(yīng)用于識別問題，等等。因此，本文的工作主要針對基于稀疏表征理論的降維算法問題進(jìn)行研究，旨在得到有效可行的降維算法并將所得算法應(yīng)用于人臉識別以提高人臉識別的性能。本文的主要研究工作如下:
　　(1)對目前降維問題的研究背景及意義、降維技術(shù)的國內(nèi)外研究現(xiàn)

4、狀及其目前所面臨的挑戰(zhàn)等作了綜合分析;
　　(2)通過引入類間權(quán)重矩陣和類內(nèi)權(quán)重矩陣，本文提出了一種新的有監(jiān)督線性降維算法——線性判別投影(Linear Discriminant Projection，LDP)方法。其一方面最大化各子流形間的分離性和最小化局部子流形的緊致性，另一方面還保持?jǐn)?shù)據(jù)的局部近鄰信息。同時，LDP克服了小樣本問題。除此之外，LDP對outlier數(shù)據(jù)具有魯棒性。
　　(3)通過在近鄰保持嵌入(Neig

5、hborhood Preserving Embedding，NPE)方法中引入類間散度和類內(nèi)散度，本文提出了一種判別近鄰保持嵌入(DiscriminatingNeighborhood Preserving Embedding，DNPE)方法。DNPE通過施加判別約束，增強(qiáng)算法的判別力，有效地提高人臉識別性能，增強(qiáng)了算法的實(shí)用性能;
　　(4)受稀疏表征(Sparse Representation，SR)理論的啟發(fā)，提出了一種新的基

6、于稀疏表征的算法——稀疏判別近鄰保持嵌入（Sparse Discriminating NeighborhoodPreserving Embedding，SDNPE）。SDNPE算法在無需構(gòu)造鄰接圖和計(jì)算權(quán)值矩陣的情況下，直接通過稀疏重構(gòu)來計(jì)算權(quán)值矩陣，從而避免了因參數(shù)太多帶來的局限性，改善了算法的識別性能。
　　本文在ORL、Yale、AR和Extended Yale B四個人臉數(shù)據(jù)集上進(jìn)行了仿真實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果證明了本文所提出的三