1402.線性模型中的參數(shù)估計及穩(wěn)健變量選擇方法研究

1、線性模型中的參數(shù)估計及穩(wěn)健變量選擇方法研究重慶大學(xué)碩士學(xué)位論文（學(xué)術(shù)學(xué)位）學(xué)生姓名：付恩珊指導(dǎo)教師：黎雅蓮副教授專業(yè)：統(tǒng)計學(xué)學(xué)科門類：理學(xué)重慶大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院二O一七年四月重慶大學(xué)碩士學(xué)位論文中文摘要I摘要參數(shù)估計是建立線性模型最為關(guān)鍵的部分之一，其直接影響統(tǒng)計模型的正確性，因此很多研究者對如何提高參數(shù)估計的準(zhǔn)確度做了大量研究工作。在數(shù)據(jù)正常情況下，目前已有很多切實可行的參數(shù)估計方法，而本文主要研究當(dāng)數(shù)據(jù)中同時存在復(fù)共線性數(shù)據(jù)和異常值

2、或數(shù)據(jù)來自于重尾分布時，如何進(jìn)行參數(shù)估計。本文主要研究以下兩種情況下線性模型中如何進(jìn)行參數(shù)估計。第一種情況，當(dāng)所有解釋變量都是重要變量，數(shù)據(jù)中同時存在復(fù)共線性和異常值時，本文結(jié)合前人提出的估計，提出了一種新的估計形式帶約束的雙參數(shù)穩(wěn)健嶺估計(RTRME)。該新估計具有嶺估計、雙參數(shù)估計、穩(wěn)健估計的優(yōu)良性質(zhì)，能同時克服數(shù)據(jù)中復(fù)共線性和異常值的影響。本文在均方誤差矩陣準(zhǔn)則下從理論上將新估計RTRME與RTRE和TRME做比較。數(shù)值模擬實驗表

3、明，不同的參數(shù)條件下，新估計RTRME幾乎總是優(yōu)于RTRE和TRME，隨后給出的數(shù)據(jù)實例同樣證明RTRME優(yōu)于另兩種估計，說明本文提出的新估計具有實際操作可行性。第二種情況是，當(dāng)解釋變量中存在冗余變量，數(shù)據(jù)中存在復(fù)共線性和異常值時，我們采用穩(wěn)健變量選擇法進(jìn)行參數(shù)估計。本文首先介紹了傳統(tǒng)穩(wěn)健變量選擇法LADlasso和穩(wěn)健估計PWLS，結(jié)合二者的優(yōu)點，本文提出了新的穩(wěn)健變量選擇方法PWLSLAD。本文介紹了該新方法的實現(xiàn)思想和算法，并討論

4、了如何進(jìn)行截斷參數(shù)的選取。本文通過數(shù)值模擬實驗，在正常數(shù)據(jù)、包含異常值的數(shù)據(jù)、重尾分布數(shù)據(jù)三種情況下，將新方法PWLSLAD與傳統(tǒng)變量選擇法LASSO、SCAD、LADlasso進(jìn)行了比較。主要比較了各方法選擇非0系數(shù)變量的準(zhǔn)確率、模型預(yù)測誤差、參數(shù)估計的MSE值。實驗結(jié)果表明，在數(shù)據(jù)正常時，新方法與傳統(tǒng)方法效果沒有明顯差距，當(dāng)數(shù)據(jù)中存在異常值或數(shù)據(jù)服從重尾分布時，傳統(tǒng)變量選擇法不及穩(wěn)健方法變現(xiàn)好，同時穩(wěn)健方法中，新方法PWLSLAD又