線性模型參數(shù)的多種估計(jì)方法的隨機(jī)模擬

1、線性模型參數(shù)的多種估計(jì)方法的隨機(jī)模擬問(wèn)題的陳述：人們常常使用線性模型對(duì)數(shù)據(jù)進(jìn)行回歸與預(yù)測(cè)，在假定了數(shù)據(jù)的自變量X與響應(yīng)變量Y具有線性關(guān)系Y=之后，我們可以對(duì)參數(shù)值進(jìn)行估計(jì)，從而達(dá)到對(duì)模型進(jìn)行估計(jì)的效果。這是本次模擬要處理的主要問(wèn)題，即各種估計(jì)方式的優(yōu)劣判別。目的的陳述：對(duì)于給定的數(shù)據(jù)X，Y（兩列數(shù)據(jù)），我們將對(duì)4種距離：d1(ab)=|(y–a–bx)|；d2(ab)=|(y–a–bx)|；d3(ab)=|(y–a–bx)b|；d4(a

2、b)=|21|與3種計(jì)算方式、、(y–a–bx)21()=(())2()=?(())（每個(gè)元素平方）進(jìn)行優(yōu)劣比較。3()=(()^2)試驗(yàn)的設(shè)計(jì)：對(duì)一組給定的數(shù)據(jù)X，Y，我們將通過(guò)極小化目標(biāo)函數(shù)f1、f2、f3的方式來(lái)求得a與b。第零部分，比較通過(guò)隨機(jī)數(shù)產(chǎn)生的樣本點(diǎn)與固定樣本點(diǎn)對(duì)參數(shù)估計(jì)帶來(lái)的影響。第一部分，比較距離函數(shù)d1、d2、d3、d4對(duì)參數(shù)估計(jì)帶來(lái)的影響。方法如下：對(duì)每一個(gè)計(jì)算方式f1、f2、f3，與每一組數(shù)據(jù)，我們分別計(jì)算使用

3、4種不同距離函數(shù)得到的參數(shù)值并且將其對(duì)比。第二部分，比較計(jì)算方式f1、f2、f3的優(yōu)劣。方法如下：對(duì)4種距離中的每一種，我們都用3種計(jì)算方式來(lái)得到估計(jì)的參數(shù)值，并將其對(duì)比。關(guān)于參數(shù)估計(jì)的其他興趣：參數(shù)估計(jì)值的漸近性質(zhì)。對(duì)上文的任意一個(gè)單項(xiàng)的檢驗(yàn)，我們都遵從如下步驟：Step1：產(chǎn)生n個(gè)樣本點(diǎn)（固定樣本點(diǎn)等距離取定即可，隨機(jī)樣本點(diǎn)Xi~iidU(01)或Xi~iidN(21)），產(chǎn)生對(duì)應(yīng)于n個(gè)樣本點(diǎn)的隨機(jī)誤差，可以取1與0.1，或者~(0

4、2)2Cauchy(01)。對(duì)應(yīng)的Yi=。從而，我們得到了“數(shù)據(jù)”，(X1Y1)(X2~Y2)…(XnYn)。Step2：利用上文產(chǎn)生的“數(shù)據(jù)”，我們分別通過(guò)最小化對(duì)應(yīng)的f函數(shù)的方式來(lái)得到參數(shù)與的估計(jì)，a與b。Step3：重復(fù)Step1&Step2n_repeat次，得到若干組估計(jì)值a、bStep4：對(duì)得到的估計(jì)數(shù)據(jù)進(jìn)行分析。1、通過(guò)方差、偏倚直接描述估計(jì)值，2、通過(guò)假設(shè)檢驗(yàn)的方式比較不同的計(jì)算方式得來(lái)的結(jié)果。第零部分：探究X取固定樣本

5、點(diǎn)與隨機(jī)樣本點(diǎn)的關(guān)系（代碼統(tǒng)一見(jiàn)1.txt，在代碼里，可供1）均值是否相同？由于這里兩種估計(jì)方式的樣本數(shù)量都高達(dá)10000，遠(yuǎn)大于30，我們可以認(rèn)為這是大樣本的檢驗(yàn)，我們計(jì)算兩次估計(jì)得到的樣本的z值對(duì)a的估計(jì)值：z==0.01539，這個(gè)值的絕對(duì)值遠(yuǎn)遠(yuǎn)小于1.96（95%significance），(1)?(2)(1)10000(2)10000于是我們便沒(méi)有充分的理由拒絕兩者均值相同的假設(shè)。對(duì)b的估計(jì)值：同上計(jì)算得到z=0.06282，

6、同樣，我們也沒(méi)有充分的理由拒絕兩者有相同的期望2）方差是否相同？計(jì)算Fratio，F(xiàn)=max，，對(duì)自由度為（99999999）的F分布，(1)(2)(2)(1)，0.05=1.0334470.01=1.047632對(duì)a的估計(jì)值：F=1.002618F=1.041891，同樣我們有95%可信度來(lái)拒絕關(guān)于b的估計(jì)兩者具有0.010.05相同的方差，不過(guò)，沒(méi)有99%的可信度。Part3：綜上所述，在d2，f3這一計(jì)算方式下，樣本點(diǎn)取值是[01