最小二乘法的原理和應用【畢業(yè)論文】

1、1（20_20__屆）屆）本科畢業(yè)設計本科畢業(yè)設計數(shù)學與應用數(shù)學最小二乘法的原理和應用3摘要：最小二乘法在建立回歸模型中得到了廣泛的應用。最小二乘法求解擬合直線方程，計算的測量誤差，均未超出測試數(shù)據(jù)的極限偏差。用最小二乘法線性擬合是處理回歸問題的一種常用方法。關鍵詞：最小二乘法；擬合直線；廣義的最小二乘法；偏最小二乘法；在自然科學、社會科學等領域內(nèi)，為確定客觀存在著的變量之間的函數(shù)關系，需根據(jù)大量的實驗、觀測或者社會調(diào)查所得數(shù)據(jù)建立函數(shù)

2、關系式。這些數(shù)據(jù)中往往帶有隨機的誤差。1.1.最小二乘法的引入最小二乘法的引入天文學自古代至18世紀是應用數(shù)學中最發(fā)達的領域。觀測和數(shù)學天文學給出了建立數(shù)學模型及數(shù)據(jù)擬合的最初例子，在此種意義下，天文學家就是最初的數(shù)理統(tǒng)計學家。天文學的問題逐漸引導到算術平均，以及參數(shù)模型中的種種估計方法，以最小二乘法為頂峰。1801年，意大利天文學家朱賽普皮亞齊發(fā)現(xiàn)了第一顆小行星谷神星。經(jīng)過40天的跟蹤觀測后，由于谷神星運行至太陽背后，使得皮亞齊失去了

3、谷神星的位置。隨后全世界的科學家利用皮亞齊的觀測數(shù)據(jù)開始尋找谷神星，但是根據(jù)大多數(shù)人計算的結(jié)果來尋找谷神星都沒有結(jié)果。時年24歲的高斯也計算了谷神星的軌道。奧地利天文學家海因里希奧爾伯斯根據(jù)高斯計算出來的軌道重新發(fā)現(xiàn)了谷神星。高斯使用的最小二乘法的方法發(fā)表于1809年他的著作《天體運動論》中。勒讓德是法國軍事學校的教授，曾任多界政府委員，后來成了多科工藝學校的總監(jiān)，直至1833年逝世。有記載最小二乘法最早出現(xiàn)在勒讓德1805年發(fā)表的論著

4、《計算彗星軌道的新方法》附錄中。他在該書中描述了最小二乘法的思想、具體做法及其優(yōu)點。勒讓德的成功在于它從一個新的角度來看待這個問題，不像其前輩那樣致力于找出幾個方程（個數(shù)等于未知數(shù)的個數(shù)）再去求解，而是考慮誤差在整體上的平衡。從某種意義講，最小二乘法是一個處理觀測值的純粹代數(shù)方法。要將其應用于統(tǒng)計推斷問題就需要考慮觀測值的誤差，確定誤差分布的函數(shù)形式。勒讓德曾與高斯為誰最早創(chuàng)立最小二乘法原理發(fā)生爭執(zhí)。1829年，高斯提供了最小二乘法的優(yōu)