計(jì)算方法課程設(shè)計(jì)報(bào)告--最小二乘基函數(shù)的擬合方法

1、<p>　　《計(jì)算方法》課程設(shè)計(jì)報(bào)告</p><p>　　指導(dǎo)教師： 職稱： </p><p>　　2013年12月30日</p><p>　學(xué)生姓名:學(xué) 號(hào)：</p><p>　學(xué) 院:</p><p>　班 級(jí):</p><p>　題 目:勒讓德

2、多項(xiàng)式做</p><p>　最小二乘基函數(shù)的擬合方法</p><p><b>　　目 錄</b></p><p><b>　　目 錄I</b></p><p><b>　　一、選題背景1</b></p><p>　　1.1 最小二乘法的

3、歷史背景1</p><p>　　1.2 最小二乘法的數(shù)學(xué)意義1</p><p>　　1.3 最小二乘法的實(shí)際運(yùn)用1</p><p><b>　　二、算法設(shè)計(jì)2</b></p><p>　　2.1 勒讓德多項(xiàng)式及其遞推公式2</p><p>　　2.2 最小二乘基函數(shù)擬合方法及其計(jì)

4、算2</p><p>　　2.3 數(shù)據(jù)歸一化預(yù)處理3</p><p>　　三、程序及功能說明4</p><p>　　3.1 程序計(jì)算步驟4</p><p>　　3.2 程序功能及用法4</p><p><b>　　四、結(jié)果分析5</b></p><p>　

5、　4.1 范例及計(jì)算結(jié)果5</p><p>　　4.2 誤差分析11</p><p>　　五、總結(jié)及心得體會(huì)12</p><p><b>　　參考文獻(xiàn)13</b></p><p><b>　　源程序14</b></p><p><b>　　一、選題背景

6、</b></p><p>　　1.1 最小二乘法的歷史背景</p><p>　　關(guān)于最小二乘法的發(fā)明權(quán)，在數(shù)學(xué)史的研究中尚未定論。有材料表明高斯和勒讓德分別獨(dú)立地提出這種方法。勒讓德是在1805年第一次公開發(fā)表關(guān)于最小二乘法的論文，這時(shí)高斯指出，他早在1795年之前就使用了這種方法。但數(shù)學(xué)史研究者只找到了高斯約在1803年之前使用了這種方法的證據(jù)。</p>&l

7、t;p>　　1.2 最小二乘法的數(shù)學(xué)意義</p><p>　　最小二乘法（又稱最小平方法）是一種數(shù)學(xué)優(yōu)化技術(shù)，它通過最小化誤差的平方和尋找數(shù)據(jù)的最佳函數(shù)匹配，利用最小二乘法可以簡便地求得未知的數(shù)據(jù)，并使得這些求得的數(shù)據(jù)與實(shí)際數(shù)據(jù)之間誤差的平方和為最小。最小二乘法還可用于曲線擬合，其他一些優(yōu)化問題也可通過最小化能量或最大化熵用最小二乘法來表達(dá)。</p><p>　　在運(yùn)籌學(xué)、統(tǒng)計(jì)學(xué)、

8、逼近論和控制論中，最小二乘法都是很重要的求解方法。例如，它是統(tǒng)計(jì)學(xué)中估計(jì)回歸參數(shù)的最基本方法。</p><p>　　1.3 最小二乘法的實(shí)際運(yùn)用</p><p>　　在實(shí)際問題中，怎樣由測量的數(shù)據(jù)設(shè)計(jì)和確定“最貼近”的擬合曲線？關(guān)鍵在選擇適當(dāng)?shù)臄M合曲線類型，有時(shí)根據(jù)專業(yè)知識(shí)和工作經(jīng)驗(yàn)即可確定擬合曲線類型；在對(duì)擬合曲線一無所知的情況下，不妨先繪制數(shù)據(jù)的粗略圖形，或許從中觀測出擬合曲線的類型

9、；更一般地，對(duì)數(shù)據(jù)進(jìn)行多種曲線類型的擬合，并計(jì)算均方誤差，用數(shù)學(xué)實(shí)驗(yàn)的方法找出在最小二乘法意義下的誤差最小的擬合函數(shù)。</p><p><b>　　二、算法設(shè)計(jì)</b></p><p>　　2.1 勒讓德多項(xiàng)式及其遞推公式</p><p>　　勒讓德多項(xiàng)式是由勒讓德方程的通解推導(dǎo)出來的，所以我們首先引入勒讓德方程，以及勒讓德方程的冪級(jí)數(shù)解，勒

10、讓德方程的表達(dá)式如下：</p><p>　　，其中為非負(fù)實(shí)數(shù) （2.1）</p><p><b>　　它的冪級(jí)數(shù)解如下：</b></p><p><b>　?。?.2）</b></p><p><b>　　其中：</b></p><p><

11、b>　?。?.3）</b></p><p><b>　?。?.4）</b></p><p>　　當(dāng)為非負(fù)整數(shù)時(shí)，和中有一個(gè)是階勒讓德多項(xiàng)式，而另一個(gè)是無窮級(jí)數(shù)，記作，稱為第二類勒讓德函數(shù)，此時(shí)方程（2.1）通解為：</p><p><b>　?。?.5）</b></p><p>&

12、lt;b>　　特別當(dāng)時(shí)，得：</b></p><p>　　推導(dǎo)可得出勒讓德多項(xiàng)式的遞推公式</p><p><b>　?。?.6）</b></p><p>　　由，可以推出，由，可以推出，依次類推，理論上可迭代得到任意。</p><p>　　2.2 最小二乘基函數(shù)擬合方法及其計(jì)算</p>

13、<p>　　用最小二乘法求擬合曲線時(shí)，首先確定擬合曲線函數(shù)的一般表達(dá)式，的一般表達(dá)式為</p><p><b>　?。?.7）</b></p><p>　　若是k次多項(xiàng)式，就是n次多項(xiàng)式，為了使問題的提法更有一般性，通常在最小二乘法中考慮加權(quán)平方和</p><p>　　這里是上的權(quán)函數(shù)，它表示不同點(diǎn)處的數(shù)據(jù)比重不同。</p&g

14、t;<p>　　用勒讓德多項(xiàng)式的線性組合作最小二乘曲線擬合，只要根據(jù)公式（2.6）逐步求的同時(shí)，相應(yīng)計(jì)算出系數(shù)</p><p>　　并逐步把累加到中去，最后就可得到所求的擬合曲線</p><p>　　這里n可事先給定或在計(jì)算過程中根據(jù)誤差確定。</p><p>　　用這種方法編程序不用解方程組，只用遞推公式，并且當(dāng)逼近次數(shù)增加一次時(shí)，只要把程序中循環(huán)數(shù)

15、加1，其余不用改變。</p><p>　　2.3 數(shù)據(jù)歸一化預(yù)處理</p><p>　　為了減小誤差，我們對(duì)數(shù)據(jù)進(jìn)行歸一化預(yù)處理，數(shù)據(jù)歸一化方法主要有</p><p>　　線性函數(shù)轉(zhuǎn)換，表達(dá)式如下：</p><p>　　其中和分別為轉(zhuǎn)換前后的值，MaxValue、MinValue分別為樣本的最大值和最小值。</p><p

16、>　　對(duì)數(shù)函數(shù)轉(zhuǎn)換，表達(dá)式如下：</p><p>　　即以10為底的對(duì)數(shù)函數(shù)轉(zhuǎn)換。</p><p>　　反余切函數(shù)轉(zhuǎn)換，表達(dá)式如下：</p><p>　　經(jīng)過測試，我們決定采用線性函數(shù)轉(zhuǎn)換法。</p><p><b>　　三、程序及功能說明</b></p><p>　　3.1 程序計(jì)算步驟

17、</p><p><b>　　開始</b></p><p><b>　　數(shù)據(jù)歸一化</b></p><p>　　迭代求出所需的勒讓德多項(xiàng)式</p><p>　　迭代求出所需目標(biāo)函數(shù)的系數(shù)</p><p>　　連接勒讓德多項(xiàng)式各項(xiàng)及對(duì)應(yīng)系數(shù)</p><p&g

18、t;　　得到目標(biāo)函數(shù)式，計(jì)算各類誤差</p><p><b>　　結(jié)束</b></p><p>　　3.2 程序功能及用法</p><p>　　給出的通用程序能夠按照不同次數(shù)要求分別構(gòu)造擬合函數(shù)，并返回誤差數(shù)據(jù)，具體用法為</p><p>　　>> [a,F,YY,ER,M,N]=Legendre(xx,y

19、y,w,n)</p><p>　　表1 程序參數(shù)說明表</p><p><b>　　四、結(jié)果分析</b></p><p>　　4.1 范例及計(jì)算結(jié)果</p><p><b>　　例1</b></p><p><b>　　>> x=1:5;</b&

20、gt;</p><p>　　>> y=[1,3.5,5,4,6];</p><p>　　>> w=ones(1,5);</p><p>　　>> [a,F,YY,ER,M,N]=Legendre(x,y,w,1)</p><p><b>　　a =</b></p><

21、;p>　　3.9000 2.1000</p><p><b>　　F =</b></p><p>　　Inline function:</p><p>　　F(x) = x.*(2.1e1./1.0e1)+3.9e1./1.0e1</p><p><b>　　YY =</b></p

22、><p>　　1.8000 2.8500 3.9000 4.9500 6.0000</p><p><b>　　ER =</b></p><p>　　-0.8000 0.6500 1.1000 -0.9500 0</p><p><b>　　M =</b

23、></p><p>　　-0.8000 0.1857 0.2200 -0.2375 0</p><p><b>　　N =</b></p><p><b>　　3.1750</b></p><p>　　表2 例1運(yùn)行結(jié)果統(tǒng)計(jì)表</p><p&

24、gt;<b>　　圖1 例1運(yùn)行結(jié)果</b></p><p><b>　　例2</b></p><p><b>　　a. 求2階導(dǎo)</b></p><p>　　>> f=inline('3*x^2+2*x+10');</p><p>　　>&g

25、t; for i=1:10</p><p>　　y(i)=f(i);</p><p><b>　　end</b></p><p>　　>> x=1:10;</p><p>　　>> w=ones(1,10);</p><p>　　>> [a,F,YY,ER,M,

26、N]=Legendre(x,y,w,2)</p><p><b>　　a =</b></p><p>　　136.5000 157.5000 41.1440</p><p><b>　　F =</b></p><p>　　Inline function:</p><p>

27、;　　F(x) = x.*(3.15e2./2.0)+x.^2.*(9.650848959223365e15./1.40737488355328e14)+7.675163788406463e15./7.0368744177664e13</p><p><b>　　YY =</b></p><p>　　20.1440 28.0533 42.7353 64.1

28、899 92.4172 127.4172 169.1899 217.7353 273.0533 335.1440</p><p><b>　　ER =</b></p><p>　　-5.1440 -2.0533 0.2647 1.8101 2.5828 2.5828 1.8101 0.2647 -2.0533

29、 -5.1440</p><p><b>　　M =</b></p><p>　　-0.3429 -0.0790 0.0062 0.0274 0.0272 0.0199 0.0106 0.0012 -0.0076 -0.0156</p><p><b>　　N =</b>&

30、lt;/p><p><b>　　81.3891</b></p><p>　　表3 例2求2階導(dǎo)運(yùn)行結(jié)果統(tǒng)計(jì)表</p><p>　　圖2 例2求2階導(dǎo)運(yùn)行結(jié)果</p><p><b>　　b. 求3階導(dǎo)</b></p><p>　　>> [a,F,YY,ER,M,N]=

31、Legendre(x,y,w,3)</p><p><b>　　a =</b></p><p>　　136.5000 157.5000 41.1440 37.4182</p><p><b>　　F =</b></p><p>　　Inline function:</p>&

32、lt;p>　　F(x) = x.*(3.643308318807231e16./2.81474976710656e14)+x.*(x.^2.*(5.0./3.0)-2.0./3.0).*(1.843152650233068e16./2.81474976710656e14)+x.^2.*(9.650848959223365e15./1.40737488355328e14)+7.675163788406463e15./7.036874

33、4177664e13</p><p><b>　　YY =</b></p><p>　　-17.2742 32.4846 63.8654 84.0539 100.2362 119.5982 149.3259 196.6052 268.6220 372.5623</p><p><b>　　ER =</b&

34、gt;</p><p>　　32.2742 -6.4846 -20.8654 -18.0539 -5.2362 10.4018 21.6741 21.3948 2.3780 -42.5623</p><p><b>　　M =</b></p><p>　　2.1516 -0.2494 -0.4852

35、-0.2735 -0.0551 0.0800 0.1267 0.0981 0.0088 -0.1290</p><p><b>　　N =</b></p><p>　　4.7253e+003</p><p>　　表4 例2求3階導(dǎo)運(yùn)行結(jié)果統(tǒng)計(jì)表</p><p>　　圖3 例2求3階導(dǎo)運(yùn)行結(jié)

36、果</p><p><b>　　例3</b></p><p>　　>> x=[1:11];</p><p>　　>> y=[30,40,50,35,25,20,44,67,83,95,100];</p><p>　　>> w=ones(1,11);</p><p&g

37、t;　　>> [a,F,YY,ER,M,N]=Legendre(x,y,w,3)</p><p><b>　　a =</b></p><p>　　53.5455 34.1818 20.8741</p><p><b>　　F =</b></p><p>　　Inline func

38、tion:</p><p>　　F(x) = x.*(3.76e2./1.1e1)+x.^2.*(4.975e3./1.43e2)+5.667e3./1.43e2</p><p><b>　　YY =</b></p><p>　　40.2378 34.5497 31.6448 31.5231 34.1846 39.6294

39、 47.8573 58.8685 72.6629 89.2406 108.6014</p><p><b>　　ER =</b></p><p>　　-10.2378 5.4503 18.3552 3.4769 -9.1846 -19.6294 -3.8573 8.1315 10.3371 5.7594 -

40、8.6014</p><p><b>　　M =</b></p><p>　　-0.3413 0.1363 0.3671 0.0993 -0.3674 -0.9815 -0.0877 0.1214 0.1245 0.0606 -0.0860</p><p><b>　　N =<

41、/b></p><p>　　1.2482e+003</p><p>　　表5 例3求3階導(dǎo)運(yùn)行結(jié)果統(tǒng)計(jì)表</p><p>　　圖4 例3求3階導(dǎo)運(yùn)行結(jié)果</p><p><b>　　例4</b></p><p><b>　　求1階導(dǎo)</b></p><

42、;p>　　>> f=inline('5*x+4');</p><p><b>　　>> x=1:5;</b></p><p>　　>> y=f(x);</p><p>　　>> w=ones(1,5);</p><p>　　>> [a,F,

43、YY,ER,M,N]=Legendre(x,y,w,1)</p><p><b>　　a =</b></p><p><b>　　19 10</b></p><p><b>　　F =</b></p><p>　　Inline function:</p>&

44、lt;p>　　F(x) = x.*1.0e1+1.9e1</p><p><b>　　YY =</b></p><p>　　9 14 19 24 29</p><p><b>　　ER =</b></p><p>　　0 0 0 0 0&

45、lt;/p><p><b>　　M =</b></p><p>　　0 0 0 0 0</p><p><b>　　N =</b></p><p><b>　　0</b></p><p>　　表6 例4求1階導(dǎo)運(yùn)行結(jié)果統(tǒng)計(jì)表&

46、lt;/p><p>　　圖5 例4求1階導(dǎo)運(yùn)行結(jié)果</p><p><b>　　求2階導(dǎo)</b></p><p>　　>> [a,F,YY,ER,M,N]=Legendre(x,y,w,2)</p><p><b>　　a =</b></p><p>　　19.000

47、0 10.0000 6.1622</p><p><b>　　F =</b></p><p>　　Inline function:</p><p>　　F(x) = x.*1.0e1+x.^2.*(3.8e2./3.7e1)+5.51e2./3.7e1</p><p><b>　　YY =</b

48、></p><p>　　15.1622 12.4595 14.8919 22.4595 35.1622</p><p><b>　　ER =</b></p><p>　　-6.1622 1.5405 4.1081 1.5405 -6.1622</p><p><b>

49、　　M =</b></p><p>　　-0.6847 0.1100 0.2162 0.0642 -0.2125</p><p><b>　　N =</b></p><p><b>　　97.5676</b></p><p>　　表7 例4求2階導(dǎo)運(yùn)行結(jié)果統(tǒng)計(jì)表&l

50、t;/p><p>　　圖6 例4求2階導(dǎo)運(yùn)行結(jié)果</p><p><b>　　4.2 誤差分析</b></p><p>　　使用勒讓德多項(xiàng)式做最小二乘基函數(shù)的擬合方法，它的基本原理是可以根據(jù)遞推公式，來求得多項(xiàng)式的表達(dá)式，并且勒讓德多項(xiàng)式滿足正交性、奇偶性。由于這些性質(zhì)，也進(jìn)一步的縮短了誤差。從之前的四個(gè)例題當(dāng)中可以明顯看出其相應(yīng)的絕對(duì)誤差、相對(duì)

51、誤差和平方誤差，并且當(dāng)取得點(diǎn)集較多時(shí)出現(xiàn)的誤差較大。</p><p><b>　　五、總結(jié)及心得體會(huì)</b></p><p>　　畢達(dá)哥拉斯曾經(jīng)說過：“萬物都是數(shù)”，可見數(shù)學(xué)在發(fā)展之初是蘊(yùn)含在生活之中的。而通過一學(xué)期的數(shù)值分析學(xué)習(xí)，使我有很多感悟。其中我感悟最深的使數(shù)值分析是一門重視算法和原理的學(xué)科，它的內(nèi)容更接近于實(shí)際，像數(shù)值積分、數(shù)值微分，求解線性方程組的解等等，

52、使數(shù)學(xué)理論更加有實(shí)際意義。例如，以前從高等代數(shù)上學(xué)習(xí)矩陣，認(rèn)為無論多么復(fù)雜的矩陣，只要將它輸入計(jì)算機(jī)就會(huì)輕松搞定。學(xué)了數(shù)值分析才知道，對(duì)于有些矩陣這樣做會(huì)產(chǎn)生嚴(yán)重的誤差。顯然數(shù)值分析介紹的東西更接近生活、切合實(shí)際。但是我們要避免在不完全理解某個(gè)算法的情況下，就直接用這種算法解決問題，這樣就有些急功近利了。如果養(yǎng)成了這種習(xí)慣就會(huì)導(dǎo)致我們?cè)谔幚韺?shí)際問題是只會(huì)簡單的套用算法，處理完問題除了記住算法以外一點(diǎn)收貨都沒有。</p>&

53、lt;p>　　隨著學(xué)習(xí)的深入，自己逐漸發(fā)現(xiàn)數(shù)值分析是博大精深的，想要把數(shù)值分析學(xué)好，就需要有很深的應(yīng)用數(shù)學(xué)的功底。很多定理、算法所蘊(yùn)含的絕不是簡單的推理而已，它是包含著很多數(shù)學(xué)家豐富的思想的，而且不僅僅是邏輯思想。西方很多數(shù)學(xué)家都是偉大的哲學(xué)家就是很好的明證。雖然我們現(xiàn)在無法真正理解這些思想，但我們不能忽略這些思想。我們不能滿足于能夠運(yùn)用定理而已，我們更要結(jié)合實(shí)際深刻的理解定理、算法，不斷地有意識(shí)的無意識(shí)的發(fā)現(xiàn)并接受定理、算法中蘊(yùn)

54、含的思想。不斷有意識(shí)無意識(shí)的將本已工具化的數(shù)學(xué)轉(zhuǎn)化為內(nèi)在的知識(shí)，進(jìn)而真正讓數(shù)學(xué)幫助我們?nèi)轿坏某砷L。</p><p><b>　　參考文獻(xiàn)</b></p><p>　　[1] 李慶揚(yáng)，王能超，易大義．?dāng)?shù)值分析（第5版）．北京：清華大學(xué)出版社，2008.</p><p>　　[2] 李海，鄧櫻．MATLAB程序設(shè)計(jì)教程．北京：高等教育出版社，20

55、02．</p><p><b>　　源程序</b></p><p>　　function [a,F,YY,ER,M,N]=Legendre(xx,yy,w,n)</p><p>　　%xx為擬合的橫坐標(biāo)數(shù)據(jù)</p><p>　　%yy為擬合的縱坐標(biāo)數(shù)據(jù)</p><p>　　%w為權(quán)函數(shù)，可為數(shù)據(jù)出

56、現(xiàn)的次數(shù)</p><p>　　%n為要擬合的最高次數(shù)，最高次數(shù)小于橫坐標(biāo)個(gè)數(shù)</p><p>　　if n>=length(xx)</p><p>　　disp('n過大，超出規(guī)定');</p><p>　　a=0;F=0;ER=0;M=0;N=0;</p><p><b>　　retu

57、rn;</b></p><p><b>　　end</b></p><p><b>　　syms x;</b></p><p>　　xx=(xx*2-(max(xx)+min(xx)))/(max(xx)-min(xx));%歸一化到[-1,1]</p><p>　　p=cell(1,n

58、+1); %存放勒讓德多項(xiàng)式函數(shù)</p><p>　　a=zeros(1,n+1); %系數(shù)a1 a2 a3...</p><p><b>　　%求解勒讓德多項(xiàng)式</b></p><p>　　p(1)={1+0*x};</p><p><b>　　p(2)={x};</b></p>

59、;<p><b>　　for i=2:n</b></p><p>　　p(i+1)={((2*i+1)*x*p{i}-i*p{i-1})/(i+1)};</p><p><b>　　end</b></p><p><b>　　%求解系數(shù)a</b></p><p>

60、　　for k=1:n+1</p><p><b>　　temp1=0;</b></p><p><b>　　temp2=0;</b></p><p>　　for i=1:length(xx)</p><p>　　temp1=temp1+(w(i)*yy(i)*polyval(sym2poly(p{

61、k}),xx(i)));</p><p>　　temp2=temp2+(w(i)*polyval(sym2poly(p{k}),xx(i))^2);</p><p><b>　　end</b></p><p>　　a(k)=temp1/temp2;</p><p><b>　　end</b><

62、/p><p><b>　　%求最終多項(xiàng)式</b></p><p><b>　　F=0;</b></p><p>　　for i=1:n+1</p><p>　　F=F+a(i)*p{i};</p><p><b>　　end</b></p>&

63、lt;p>　　F=inline(F);</p><p>　　plot(xx,yy,'-*');hold on;</p><p>　　YY=F(xx); %多項(xiàng)式在各數(shù)據(jù)的擬合值</p><p>　　plot(xx,YY,'-..');hold on;</p><p>　　xlabel('x&#

64、39;)</p><p>　　ylabel('y')</p><p>　　ER=yy-YY; %絕對(duì)誤差</p><p>　　M=ER./yy; %相對(duì)誤差</p><p>　　N=sum((yy-YY).^2); %平方誤差</p><p>　　%YY=YY';ER=ER';M=M&#