多元線性模型系數(shù)的核主成分估計及其篩選.pdf

1、核主成分分析方法作為一種良好的非線性問題處理工具，已被廣泛地運用于各個領域。它將核函數(shù)和主成分分析有機地結(jié)合起來，在解決信息冗余的同時，最大程度地保證了原始信息的完整性，從而拓寬了主成分分析方法的應用范圍，是主成分分析方法的一種推廣。
　　在線性模型回歸系數(shù)的無偏估計中，LS估計得到最廣泛應用，但在自變量較多及存在著非線性關系的情況下，建立的多元線性回歸模型不穩(wěn)定。經(jīng)常使用的線性模型系數(shù)的有偏估計方法如嶺估計（Ridge Esti

2、mation）、主成分估計（Principal Component Estimation）和偏最小二乘估計（Partial Least Squares Estimation）的擬合效果也不理想，用核主成分估計線性模型回歸系數(shù)也是一種有偏估計，它與嶺估計、Stein估計相似，是建立在主成分分析基礎之上的。在總結(jié)多元線性模型回歸系數(shù)的主成分估計的基礎上，結(jié)合核主成分分析的相關理論，從非線性的角度來考慮，提出了運用核主成分分析的方法對多元線性

3、模型的系數(shù)進行估計，給出了多元線性模型系數(shù)核主成分估計的具體實施步驟，并且在核主成分的篩選準則方面進行了探討、分析，推出了一些重要結(jié)論。
　　實證分析表明，由于核主成分分析法借鑒主成分分析的思想，各主成分之間相互正交很好地避免了多重共線性問題。同時，由于核主成分分析方法引入了核函數(shù)，將原始數(shù)據(jù)映射到高維空間進行運算、處理，有效地解決了變量間存在非線性或者更復雜的關系時，建立的回歸模型不穩(wěn)定的問題。并且核主成分篩選準則的運用，使得核