模式分類中特征降維方法的研究.pdf

1、模式識別的主要任務就是利用樣本的特征，將樣本劃分為相應的模式類別。但在實際的處理過程中經常會碰到高維數據樣本。一方面，數據的特征維數越大，則數據提供的有關客觀現象的信息就越多。但另一方面，高維數據卻給計算機的處理帶來了巨大的困難，而且其中可能存在著較大的相關性和冗余，影響分類精度，這就是維數災難問題。因此，特征降維是進行模式識別的重要任務之一。
　　 特征提取和選擇是特征降維的主要手段。特征排序是特征選擇的一個分支，其計算復雜度

2、低，易于應用，能夠一次將所有的特征進行排序，因此得到廣泛的應用。本文提出了一種新的特征排序的方法用于處理降維過程中的特征選擇問題。文中先回顧了特征降維的相關信息，介紹了概率密度函數估計，并重點論述了非參數估計法和Parzen窗口概率密度估計原理。然后設計一種應用Gaussian窗函數的Parzen窗口概率密度估計進行特征排序的方法，并討論該方法的無監(jiān)督和有監(jiān)督的情況。在無監(jiān)督的情況下，先對原始數據樣本進行概率密度估計，然后對所有數據的某

3、一維特征進行加權變換，再對變換后的數據樣本進行概率密度估計，計算由該特征加權變換前后所引起的數據樣本的概率密度距離，即前后兩次概率密度的差值，把這個值作為該特征的評價得分，根據這個得分來對特征進行排序，通過選擇合適的維數來達到降維的目的。在監(jiān)督的情況下，充分利用數據的類別信息。先對所有數據的某一維特征進行加權變換，然后計算變換后的類別間的概率密度距離，類別間的距離越大，說明該特征對于區(qū)分各類別數據的作用越大，即該特征越重要。因此，把總體