數(shù)據(jù)降維技術(shù)的建模研究與應(yīng)用——特征降維及其應(yīng)用.pdf

1、特征降維是模式識(shí)別領(lǐng)域?qū)Ω呔S數(shù)據(jù)分析的重要預(yù)處理步驟之一。在信息時(shí)代的科學(xué)研究中，不可避免的會(huì)遇到大量的高維數(shù)據(jù)，如人臉檢測(cè)與識(shí)別、文本分類和微陣列數(shù)據(jù)基因選擇等。在實(shí)際應(yīng)用中，為了避免所謂的維數(shù)災(zāi)難問(wèn)題，根據(jù)某些性質(zhì)，將高維數(shù)據(jù)表示的觀測(cè)點(diǎn)模擬成低維空間中的數(shù)據(jù)點(diǎn)，這一過(guò)程即為特征降維過(guò)程。總的來(lái)說(shuō)，降維的目的是在保留數(shù)據(jù)的大部分內(nèi)在信息的同時(shí)將高維空間的數(shù)據(jù)樣本嵌入到一個(gè)相對(duì)低維的空間，而降維技術(shù)義可以分為“特征提取”和“特征選擇”

2、。經(jīng)過(guò)適當(dāng)?shù)慕稻S后，諸如可視化、分類等工作可以在低維空間中方便的實(shí)現(xiàn)。 本文研究目的是為了探索新的有監(jiān)督特征降維方法，并提出了一種基于支持向量機(jī)(SVM)的特征選擇方法和一組基于有監(jiān)督局部保留準(zhǔn)則的特征降維算法。文中簡(jiǎn)要介紹了特征降維的準(zhǔn)則，回顧了當(dāng)前的主要特征降維技術(shù)，如主成分分析(PCA)、Fisher線性判別分析(FLDA)和最近的基于流形的特征提取方法以及相關(guān)的特征選擇算法。本論文重點(diǎn)是：(一)建立了一種改進(jìn)的基于支持向

3、量機(jī)(SVM)的特征選擇算法，闡述了應(yīng)用該算法進(jìn)行特征選擇的原理和方法；(二)建立了有監(jiān)督的局部保留準(zhǔn)則，闡述了應(yīng)用該準(zhǔn)則進(jìn)行特征提取與特征選擇的原理和方法。針對(duì)基于支持向量機(jī)(SVM)的特征選擇問(wèn)題，文中充分利用SVM的最大間隔特性，利用支持向量和核函數(shù)來(lái)對(duì)特征進(jìn)行排序和選擇。而對(duì)于基于有監(jiān)督的局部保留準(zhǔn)則的特征降維，文中在詳細(xì)分析無(wú)監(jiān)督的局部保留準(zhǔn)則利弊的基礎(chǔ)上，提出了保留類內(nèi)局部結(jié)構(gòu)的同時(shí)最大化類內(nèi)分離度的降維準(zhǔn)則，并分別應(yīng)用于特