朱賽普·皮亞齊 - 簡(jiǎn)介
高斯1801年,意大利天文學(xué)家朱賽普·皮亞齊發(fā)現(xiàn)了第一顆小行星谷神星。經(jīng)過(guò)40天的跟蹤觀測(cè)后,由于谷神星運(yùn)行至太陽(yáng)背后,使得皮亞齊失去了谷神星的位置。隨后全世界的科學(xué)家利用皮亞齊的觀測(cè)數(shù)據(jù)開(kāi)始尋找谷神星,但是根據(jù)大多數(shù)人計(jì)算的結(jié)果來(lái)尋找谷神星都沒(méi)有結(jié)果。時(shí)年24歲的高斯也計(jì)算了谷神星的軌道。奧地利天文學(xué)家海因里希·奧爾伯斯根據(jù)高斯計(jì)算出來(lái)的軌道重新發(fā)現(xiàn)了谷神星。高斯使用的最小二乘法的方法發(fā)表于1809年他的著作《天體運(yùn)動(dòng)論》中,而法國(guó)科學(xué)家勒讓德于1806年獨(dú)立發(fā)現(xiàn)“最小二乘法”,但因不為時(shí)人所知而默默無(wú)聞。兩人曾為誰(shuí)最早創(chuàng)立最小二乘法原理發(fā)生爭(zhēng)執(zhí)。
1829年,高斯提供了最小二乘法的優(yōu)化效果強(qiáng)于其他方法的證明,見(jiàn)高斯-馬爾可夫定理。
朱賽普·皮亞齊 - 方法
人們對(duì)由某一變量t或多個(gè)變量f1……fn構(gòu)成的相關(guān)變量y感興趣。如彈簧的形變與所用的力相關(guān),一個(gè)企業(yè)的盈利與其營(yíng)業(yè)額,投資收益和原始資本有關(guān)。為了得到這些變量同y之間的關(guān)系,便用不相關(guān)變量去構(gòu)建y。試用如下函數(shù)模型q個(gè)相關(guān)變量或p個(gè)附加的相關(guān)變量去擬和。通常人們將一個(gè)可能的、對(duì)不相關(guān)變量t的構(gòu)成都無(wú)困難的函數(shù)類型充作函數(shù)模型(如拋物線函數(shù)或指數(shù)函數(shù))。參數(shù)x是為了使所選擇的函數(shù)模型同觀測(cè)值y相匹配。(如在測(cè)量彈簧形變時(shí),必須將所用的力與彈簧的膨脹系數(shù)聯(lián)系起來(lái))。其目標(biāo)是合適地選擇參數(shù),使函數(shù)模型最好的擬合觀測(cè)值。一般情況下,觀測(cè)值遠(yuǎn)多於所選擇的參數(shù)。
其次的問(wèn)題是怎樣判斷不同擬合的質(zhì)量。高斯和勒讓德的方法是,假設(shè)測(cè)量誤差的平均值為0。令每一個(gè)測(cè)量誤差對(duì)應(yīng)一個(gè)變量并與其它測(cè)量誤差不相關(guān)(隨機(jī)無(wú)關(guān))。人們假設(shè),在測(cè)量誤差中絕對(duì)不含系統(tǒng)誤差,它們應(yīng)該是純偶然誤差,圍繞真值波動(dòng)。除此之外,測(cè)量誤差符合正態(tài)分布,這保證了偏差值在最后的結(jié)果y上忽略不計(jì)。
確定擬合的標(biāo)準(zhǔn)應(yīng)該被重視,并小心選擇,較大誤差的測(cè)量值應(yīng)被賦予較小的權(quán)。并建立如下規(guī)則:被選擇的參數(shù),應(yīng)該使算出的函數(shù)曲線與觀測(cè)值之差的平方和最小。用函數(shù)表示為