基于自助法填補技術的變量選擇方法研究及其應用.pdf

1、在建模過程中經(jīng)常會碰到許多變量，因此如何從眾多變量中選出對因變量較為重要的若干變量，是統(tǒng)計學家們在回歸分析中所要考慮的問題。經(jīng)典的變量選擇方法包括基于AIC準則、向前（后）法以及逐步回歸等已被廣泛應用。Tibshirani(1996)提出了Lasso方法，此后眾多學者通過對Lasso方法的改進提出了適應性Lasso、Elastic Net等一系列的正則化方法。上述的這些變量選擇方法均已被廣泛研究于完全觀測數(shù)據(jù)。
　　然而，在實際應

2、用中數(shù)據(jù)缺失的情況會經(jīng)常發(fā)生，與完全觀測數(shù)據(jù)相比，缺失數(shù)據(jù)存在下的變量選擇是一個新的挑戰(zhàn)。特別是存在不同的缺失數(shù)據(jù)機制，并且對于每一個機制有不同的統(tǒng)計方法來處理缺失數(shù)據(jù)。因此，用于變量選擇的方法需要適合缺失數(shù)據(jù)機制，并用統(tǒng)計方法處理缺失數(shù)據(jù)。目前基于缺失數(shù)據(jù)的線性模型的變量選擇方面的研究文獻較少。
　　本文的筆者首先對穩(wěn)定性選擇和Bootstrap Lasso方法做研究，將其應用于完全觀測數(shù)據(jù)，并與其他正則化方法做比較。穩(wěn)定性選擇

3、是一個適用于完全觀測數(shù)據(jù)的普通子采樣或重采樣的變量選擇方法。它具有兩個顯著的優(yōu)勢:第一，用穩(wěn)定性選擇得到的變量選擇結果對正則化數(shù)量和門限值π并不十分敏感;第二，隨機Lasso的穩(wěn)定性選擇與在設定條件下的變量選擇是一致的。在此基礎上，筆者研究了可以與填補結合的變量選擇方法，即基于自助法填補的穩(wěn)定性變量選擇方法(BISS)和基于自助法填補的Bootstrap Lasso變量選擇方法(BIBL)。與現(xiàn)有的方法相比，這兩個方法適用于一般缺失數(shù)據(jù)