Methode der kleinsten Quadrate

Methode der kleinsten Quadrate , in der Statistik auch als Approximation der kleinsten Quadrate bezeichnet , eine Methode zur Schätzung des wahren Werts einer bestimmten Größe auf der Grundlage der Berücksichtigung von Fehlern bei Beobachtungen oder Messungen. Insbesondere die Linie (die Funktion y i = a + b x i , wobei x i die Werte sind, bei denen y i gemessen wird und i eine individuelle Beobachtung bezeichnet), die die Summe der quadratischen Abstände (Abweichungen) von der Linie minimiert zu jeder Beobachtung wird verwendet, um eine Beziehung zu approximieren, die als linear angenommen wird. Das heißt, die Summe über alles i von ( yi - a - b x i ) 2 wird minimiert, indem die partiellen Ableitungen der Summe in Bezug auf a und b gleich 0 gesetzt werden. Das Verfahren kann auch zur Verwendung mit nichtlinearen Beziehungen verallgemeinert werden.

Abbildung 1: Ein Balkendiagramm zeigt den Familienstand von 100 Personen. Lesen Sie mehr zu diesem Thema Statistik: Methode der kleinsten Quadrate Zunächst wird entweder ein einfaches oder ein mehrfaches Regressionsmodell als Hypothese bezüglich der Beziehung zwischen abhängigen und unabhängigen ...

Eine der ersten Anwendungen der Methode der kleinsten Quadrate bestand darin, eine Kontroverse über die Erdform beizulegen. Der englische Mathematiker Isaac Newton behauptete in der Principia (1687), dass die Erde aufgrund ihres Spin eine abgeflachte Form (Grapefruit) habe, was dazu führte, dass der äquatoriale Durchmesser 230 den polaren Durchmesser um etwa 1 Teil überschritt. 1718 der Direktor des Pariser Observatoriums Jacques Cassini behauptete auf der Grundlage seiner eigenen Messungen, dass die Erde eine prolate (Zitronen) Form hat.

Um den Streit beizulegen, sandte die französische Akademie der Wissenschaften 1736 Vermessungsexpeditionen nach Ecuador und Lappland. Entfernungen können jedoch nicht perfekt gemessen werden, und die Messfehler waren zu diesem Zeitpunkt groß genug, um eine erhebliche Unsicherheit zu erzeugen. Es wurden verschiedene Methoden vorgeschlagen, um eine Linie durch diese Daten anzupassen - das heißt, um die Funktion (Linie) zu erhalten, die am besten zu den Daten passt, die die gemessene Bogenlänge mit dem Breitengrad in Beziehung setzen. Es wurde allgemein vereinbart, dass die Methode Abweichungen im y minimieren sollte-Richtung (die Bogenlänge), aber es standen viele Optionen zur Verfügung, einschließlich der Minimierung der größten Abweichung dieser Art und der Minimierung der Summe ihrer absoluten Größen (wie in der Abbildung dargestellt). Die Messungen schienen Newtons Theorie zu stützen, aber die relativ großen Fehlerschätzungen für die Messungen ließen zu viel Unsicherheit für eine endgültige Schlussfolgerung zu - obwohl dies nicht sofort erkannt wurde. Während Newton im Wesentlichen Recht hatte, zeigten spätere Beobachtungen, dass seine Vorhersage für einen übermäßigen äquatorialen Durchmesser etwa 30 Prozent zu groß war.

Messung der Erdform mit der Näherung der kleinsten Quadrate Die Grafik basiert auf Messungen, die der Mathematiker Ruggero Boscovich um 1750 in der Nähe von Rom durchgeführt hat. Die x-Achse deckt einen Breitengrad ab, während die y-Achse der Länge des Bogens entlang des Meridians entspricht, gemessen in Einheiten von Paris toise (= 1,949 Meter). Die gerade Linie stellt die Annäherung der kleinsten Quadrate oder die durchschnittliche Steigung für die gemessenen Daten dar, sodass der Mathematiker Bogenlängen in anderen Breiten vorhersagen und dadurch die Form der Erde berechnen kann.

1805 veröffentlichte der französische Mathematiker Adrien-Marie Legendre die erste bekannte Empfehlung, die Linie zu verwenden, die die Summe der Quadrate dieser Abweichungen minimiert, dh die moderne Methode der kleinsten Quadrate. Der deutsche Mathematiker Carl Friedrich Gauss, der möglicherweise zuvor dieselbe Methode angewendet hat, trug wichtige rechnerische und theoretische Fortschritte bei. Die Methode der kleinsten Quadrate wird heute häufig zum Anpassen von Linien und Kurven an Streudiagramme (diskrete Datensätze) verwendet.