第十一章 多元線形回歸分析

1、第十一章第十一章多元相關(guān)與回歸分析多元相關(guān)與回歸分析第一節(jié)第一節(jié)多元線性回歸模型多元線性回歸模型多元線性回歸即多個(gè)自變量對(duì)一個(gè)因變量的線性回歸。一、多元線性回歸模型概念一、多元線性回歸模型概念以兩個(gè)自變量的二元回歸為例，如X1、X2和Y的關(guān)系存在關(guān)系式：E(Y)=αβ1X1β2X2，則Y與X1和X2之間存在多元線性相關(guān)關(guān)系，這一方程即多元線性回歸模型。多元線性回歸是多維空間中的超平面，如二元回歸是三維空間中的一個(gè)平面。對(duì)于任意的(X1X

2、2)，Y的期望值就是該平面上正對(duì)(X1X2)的那個(gè)點(diǎn)的Y軸值，其與實(shí)際觀測(cè)點(diǎn)之間存在隨機(jī)誤差，實(shí)際觀測(cè)點(diǎn)Yi=αβ1X1β2X2εi。二、模型的建立模型的建立總體未知情況下，以樣本構(gòu)造出一個(gè)平面來(lái)估計(jì)總體真實(shí)平面，即以平面?=ab1x1b2x2去擬合原始觀測(cè)數(shù)據(jù)。擬合的準(zhǔn)則是最小二乘法原理，使各觀測(cè)值距離擬合值的偏差平方和最小，即∑(yi?)2最小。由此計(jì)算出的ab1b2是對(duì)αβ1β2的最佳估計(jì)。例如對(duì)施肥量X1、降雨量X2和產(chǎn)量Y的數(shù)

3、據(jù)，SPSS輸出結(jié)果（表1）：VariableBSE.BBetaTX13.810.5830.596.532X23.330.6170.495.4Constant266.732.0778.313即得到?=266.73.81x13.33x2三、回歸系數(shù)的意義三、回歸系數(shù)的意義對(duì)于模型?=ab1x1b2x2，b1可以解釋為：當(dāng)X2不變的情況下，X1每變化一個(gè)單位，Y將平均發(fā)生b1個(gè)單位的變化。如果所有自變量都同時(shí)變化，那么ΔY=b1ΔX1b2Δ

4、X2….biΔXi。例題例題：如果對(duì)產(chǎn)量、施肥量、降雨量做出了簡(jiǎn)單回歸和多元回歸模型：A模型：產(chǎn)量=2875.9施肥量；B模型：產(chǎn)量=4006.0降雨量；C模型：產(chǎn)量=2673.81施肥量3.33降雨量；請(qǐng)計(jì)算：（1）如果在每畝土地上多施10斤肥料，可以期望產(chǎn)量增加多少？（2）如果在每畝土地上多灌溉5厘米的水，可以期望產(chǎn)量增加多少？（3）如果同時(shí)在每畝土地上多施10斤肥料，并且多灌溉5厘米的水，可以期望產(chǎn)量增加多少？（4）由原始數(shù)據(jù)發(fā)現(xiàn)

5、較高的施肥量和較高的降雨量是有聯(lián)系的，如果照這樣的趨勢(shì)下去，那么在每畝土地上多灌溉5厘米的水，可以期望產(chǎn)量增加多少？β1=3.812.776(0.583)=3.811.618；β2=3.332.776(0.617)=3.331.713對(duì)回歸系數(shù)進(jìn)行檢驗(yàn)即檢驗(yàn)H0：βi=0；H1：βi≠0，即檢驗(yàn)自變量和因變量之間是否存在線形相關(guān)關(guān)系。檢驗(yàn)方法：計(jì)算檢驗(yàn)統(tǒng)計(jì)量為t=bi0SEi，計(jì)算出相應(yīng)概值。SPSS可以輸出t值和概值P。二、回歸模型的

6、檢驗(yàn)二、回歸模型的檢驗(yàn)即檢驗(yàn)H0：β1=β2=……=βi=0。對(duì)多元回歸做方差分析及顯著性檢驗(yàn)：將總偏差平方和分解為2()yiy???i)2（不能由回歸解釋的偏差）和?ii)2（可以由對(duì)X1X2…Xk的回(yi??(?y歸解釋的偏差）。計(jì)算F值=可以由回歸解釋的方差不能解釋的方差，然后對(duì)F值與臨界值進(jìn)行比較，也可計(jì)算F值的概值。表2：對(duì)改革時(shí)間Y與公司規(guī)模X1和公司類型X2的二元回歸作出方差分析表，包括求出概值和進(jìn)行95%置信水平下的檢

7、驗(yàn)。SSSSdfdfMSMSF概值概值回歸誤差1504.412752.2072.47＜0.001殘差176.391710.38總誤差1680.8019在95%的置信水平下可以拒絕原假設(shè)，說(shuō)明回歸效果是顯著的，即回歸模型有意義。第三節(jié)第三節(jié)相關(guān)系數(shù)和決定系數(shù)相關(guān)系數(shù)和決定系數(shù)一、復(fù)相關(guān)系數(shù)和決定系數(shù)一、復(fù)相關(guān)系數(shù)和決定系數(shù)決定系數(shù)R22=可以由回歸解釋的偏差總偏差=Σ(?ii)2Σ；R2的y2()yiy?平方根R為復(fù)相關(guān)系數(shù)，取值范圍01

8、。R2=1時(shí)，說(shuō)明Y的全部偏差都可以用回歸方程解釋，以二元回歸為例，表明全部觀測(cè)點(diǎn)正好落在擬合的回歸平面上。R2越大，能用回歸來(lái)解釋的部分就越大，表示Y和X1X2…Xi的線形關(guān)系越強(qiáng)，回歸效果越好，R2也具有消減誤差比例的意義。例如根據(jù)表2計(jì)算出：R2=1504.411680.80=0.8950559；R=0.9460739解釋：應(yīng)用二元回歸可以解釋總偏差中的89.5%，以改革時(shí)間對(duì)公司規(guī)模和公司類型作二元回歸，效果是很好的。二、偏相關(guān)