最小二乘法的原理和應(yīng)用【畢業(yè)論文】

1、1（20_20__屆）屆）本科畢業(yè)設(shè)計本科畢業(yè)設(shè)計數(shù)學(xué)與應(yīng)用數(shù)學(xué)最小二乘法的原理和應(yīng)用3摘要：最小二乘法在建立回歸模型中得到了廣泛的應(yīng)用。最小二乘法求解擬合直線方程，計算的測量誤差，均未超出測試數(shù)據(jù)的極限偏差。用最小二乘法線性擬合是處理回歸問題的一種常用方法。關(guān)鍵詞：最小二乘法；擬合直線；廣義的最小二乘法；偏最小二乘法；在自然科學(xué)、社會科學(xué)等領(lǐng)域內(nèi)，為確定客觀存在著的變量之間的函數(shù)關(guān)系，需根據(jù)大量的實(shí)驗(yàn)、觀測或者社會調(diào)查所得數(shù)據(jù)建立函數(shù)

2、關(guān)系式。這些數(shù)據(jù)中往往帶有隨機(jī)的誤差。1.1.最小二乘法的引入最小二乘法的引入天文學(xué)自古代至18世紀(jì)是應(yīng)用數(shù)學(xué)中最發(fā)達(dá)的領(lǐng)域。觀測和數(shù)學(xué)天文學(xué)給出了建立數(shù)學(xué)模型及數(shù)據(jù)擬合的最初例子，在此種意義下，天文學(xué)家就是最初的數(shù)理統(tǒng)計學(xué)家。天文學(xué)的問題逐漸引導(dǎo)到算術(shù)平均，以及參數(shù)模型中的種種估計方法，以最小二乘法為頂峰。1801年，意大利天文學(xué)家朱賽普皮亞齊發(fā)現(xiàn)了第一顆小行星谷神星。經(jīng)過40天的跟蹤觀測后，由于谷神星運(yùn)行至太陽背后，使得皮亞齊失去了

3、谷神星的位置。隨后全世界的科學(xué)家利用皮亞齊的觀測數(shù)據(jù)開始尋找谷神星，但是根據(jù)大多數(shù)人計算的結(jié)果來尋找谷神星都沒有結(jié)果。時年24歲的高斯也計算了谷神星的軌道。奧地利天文學(xué)家海因里希奧爾伯斯根據(jù)高斯計算出來的軌道重新發(fā)現(xiàn)了谷神星。高斯使用的最小二乘法的方法發(fā)表于1809年他的著作《天體運(yùn)動論》中。勒讓德是法國軍事學(xué)校的教授，曾任多界政府委員，后來成了多科工藝學(xué)校的總監(jiān)，直至1833年逝世。有記載最小二乘法最早出現(xiàn)在勒讓德1805年發(fā)表的論著

4、《計算彗星軌道的新方法》附錄中。他在該書中描述了最小二乘法的思想、具體做法及其優(yōu)點(diǎn)。勒讓德的成功在于它從一個新的角度來看待這個問題，不像其前輩那樣致力于找出幾個方程（個數(shù)等于未知數(shù)的個數(shù)）再去求解，而是考慮誤差在整體上的平衡。從某種意義講，最小二乘法是一個處理觀測值的純粹代數(shù)方法。要將其應(yīng)用于統(tǒng)計推斷問題就需要考慮觀測值的誤差，確定誤差分布的函數(shù)形式。勒讓德曾與高斯為誰最早創(chuàng)立最小二乘法原理發(fā)生爭執(zhí)。1829年，高斯提供了最小二乘法的優(yōu)