篩選逐步回歸方法的改進研究.pdf

1、回歸分析是利用最小平方法確定自變數(shù)與依變數(shù)之間數(shù)量化關系的統(tǒng)計分析方法，并對目標變數(shù)作出數(shù)值分析和預測。相比其它統(tǒng)計分析方法而言，有更悠久的歷史，由于其應用的假定條件大多能夠得到滿足，統(tǒng)計推斷的基礎牢固，故結論也較為可信。線性回歸分析的應用非常廣泛，求算過程簡單，容易為大多數(shù)使用者掌握，現(xiàn)有統(tǒng)計軟件包使各種回歸方法計算十分方便。然而，在科學研究的許多領域，例如農(nóng)學、生物學、化工學等，自變量與依變量之間的關系并非僅是線性，還可能存在冪響應

2、和互作效應等；自變量之間還可能存在多重共線性，較大程度影響回歸分析的結果。這是多元線性回歸分析中普遍存在的現(xiàn)象，出現(xiàn)以上問題時，利用最小平方法無法或不能準確估計回歸參數(shù)。在做具體科研試驗特別是醫(yī)學實驗和工業(yè)試驗時，由于經(jīng)費、試驗條件等方面的限制，還有可能出現(xiàn)考察自變量個數(shù)大于甚至遠遠大于試驗次數(shù)的情況，即超飽和模型的問題。針對實際運用中回歸分析可能存在的各種復雜情形，至今已提出不少解決各類問題的方法，有處理多重共線性提出的方法和處理超飽

3、和模型的方法。
　　 本文對處理多重共線性和處理超飽和模型的一些較常用的方法進行總結介紹，分析各種方法的特點。多重共線性的概念提出較早，處理方法也較多，較常用的方法有嶺回歸，主成分回歸，逐步回歸和偏最小二乘回歸等。處理超飽和模型的方法可歸為兩類，即變量篩選和縮減估計。變量篩選是一種降維的重要方法，有最優(yōu)子集法和逐步回歸法兩類。篩選標準是變量篩選的關鍵問題之一?？s減估計是將所有選入變量的回歸估計值向零縮減，而不是將不顯著的變量從模

4、型中剔除。顧世梁多年前提出的一種新的回歸分析方法--篩選逐步回歸，屬于變量篩選。該方法不僅具有傳統(tǒng)逐步回歸分析的功效，而且適用于處理多重共線性和超飽和模型的分析。該方法對于回歸參數(shù)的估計相當準確，而且該方法直觀易懂，容易被使用者掌握。但是該方法也存在一些不足，在變量篩選的顯著性標準等問題上還需進一步優(yōu)化，提高算法程序的敏感度和特異度，同時也應縮短運算時間，提高運算效率。
　　 為了解決多元線性回歸分析中存在的各種問題，得到更優(yōu)化

5、的參數(shù)估計，促進多元線性回歸分析方法的廣泛應用，本文對篩選逐步回歸方法進行重點研究。新方法采用在基本自變數(shù)回歸基礎上逐一篩選其余自變數(shù)，并對已剔除的自變數(shù)進行多輪篩選過程，改變顯著自變數(shù)項選入和剔除的標準，獲得包含主要效應分量的優(yōu)化回歸方程。本文對于新算法基于MATLAB平臺編制算法軟件，以各種模擬和實例驗證其統(tǒng)計功效。
　　 本研究采用了不同類型的數(shù)據(jù)，模擬了不同復雜程度的效應，用改良后的篩選逐步回歸法進行回歸分析，并與E-b