基于KPLS特征提取下的FWLS-SVM回歸方法.pdf

1、在建立數(shù)學(xué)模型時(shí)，特征選擇或特征提取是非常重要的。傳統(tǒng)的PLS方法通過(guò)線性變換將原始觀測(cè)值化為個(gè)數(shù)相同的一組新特征，也即每一個(gè)新特征都是原始特征的線性組合，然而特征的可理解性很差。此外，過(guò)高的特征空間維數(shù)會(huì)導(dǎo)致準(zhǔn)確率下降。通過(guò)引入核函數(shù)，非線性PLS發(fā)展成為KPLS，它先把初始輸入映射到高維特征空間.然后在高維特征空間中計(jì)算成分。利用KPLS對(duì)數(shù)據(jù)進(jìn)行特征提取，可以在提取包含樣本信息的成分時(shí)，清除數(shù)據(jù)的相關(guān)性和噪聲，并且可以使樣本空間的

2、維數(shù)降低。
　　 經(jīng)過(guò)特征提取后，建立在大數(shù)定理基礎(chǔ)之上的經(jīng)典統(tǒng)計(jì)理論是先假設(shè)樣本服從某一具體的分布函數(shù)。但在實(shí)際應(yīng)用中，一方面樣本數(shù)目是有限的；另一方面樣本的分布往往是未知的。與經(jīng)典統(tǒng)計(jì)理論相比，現(xiàn)代統(tǒng)計(jì)學(xué)習(xí)理論為解決有限樣本學(xué)習(xí)問(wèn)題提供了一個(gè)統(tǒng)一的框架。在此理論基礎(chǔ)上發(fā)展了新的學(xué)習(xí)方法——SVM方法具有擬合精度高、選擇參數(shù)少、推廣能力強(qiáng)和全局最優(yōu)等特點(diǎn)。
　　 然而，傳統(tǒng)的SVM方法是轉(zhuǎn)化為求解帶約束條件的凸二次規(guī)劃

3、問(wèn)題，這是十分復(fù)雜的。此外，它還要求核函數(shù)正定。針對(duì)此，Suykens等人提出了LS-SVM方法。該方法是把SVM的學(xué)習(xí)問(wèn)題轉(zhuǎn)化為線性方程組的求解問(wèn)題，從而使計(jì)算復(fù)雜度大大降低。
　　 傳統(tǒng)的SVM方法和LS-SVM方法都要求觀測(cè)或?qū)嶒?yàn)數(shù)據(jù)必須是經(jīng)典數(shù)據(jù)。但現(xiàn)實(shí)對(duì)象的描述大多具有模糊性。因此，本文對(duì)模糊數(shù)據(jù)進(jìn)行處理，使LS-SVM發(fā)展成為基于模糊數(shù)的LS-SVM方法。從而使SVM方法在現(xiàn)實(shí)中得到廣泛應(yīng)用。
　　 考慮到采