Die Methode der kleinsten Quadrate wurde von Carl Friedrich Gauß entwickelt und bildet die Basis für die lineare Regression.
In dieser Methode werden die Abstandsquadrate, welche sich zwischen den Datenpunkten, bzw. den Messpunkten befinden, und die Abstandsquadrate der Regressionsgeraden minimiert, um die Ausgleichs- bzw. Regressionsgerade zu finden, welche am besten zu den Datenpunkten passt.
Grund für die Verwendung des Quadrates der Abstände ist, dass positive und negative Abweichungen so gleich behandelt werden können. Sonst könnte es passieren, dass sich diese gegenseitig aufheben.
Gleichzeitig werden große Fehler so stärker gewichtet.
Andere mögliche Bezeichnungen
Die Methode der kleinsten Quadrate ist auch unter den Begriffen Kleinste-Quadrate-Methode, KQ-Methode oder auch die Methode der kleinsten Fehlerquadrate bekannt.
Ein Beispiel
Um die Methode der kleinsten Quadrate anwenden und berechnen zu können und die Abstände zu zeigen, müssen die Beispieldaten der linearen Regression der Schuhgröße abgeändert werden, um einige Differenzen verzeichnen zu können, was nicht der Fall ist, wenn die Daten, wie bei der Schuhgröße, perfekt auf einer Linie liegen und die Methode der kleinsten Quadrate somit nicht greift und nicht anwendbar ist.
Die Datentabelle, welche angelegt werden muss sieht folgendermaßen aus:
Person Körpergröße in cm (xi) Schuhgröße (yi)
Anton 170 42
Bernd 180 44
Claus 190 43
Für das Streudiagramm inkl. der Regressionsgeraden, mit den abgeänderten Daten basiert auf der Funktion yi = α + β × xi = 34 + 0,05 × xi
Die Anwendung der Methode der kleinsten Quadrate
Durch die lineare Regressionsfunktion wird für Anton, welcher die Schuhgröße 42 hat der theoretische Wert von 34 + 0,05 × 170 = 42,5 berechnet. Das bedeutet, dass die Gerade durch den Y Wert, welcher für die Schuhgröße steht, 42,5 geht, wenn die Körpergröße bei 170 cm liegt.
Die tatsächlichen Werte und die Werte, welche sich auf der Regressionsgeraden befinden, sind die „vertikalen Differenzen“ oder auch die sogenannten Residuen.
Für Anton sind diese 42 – 42,5 = -0,5, für Bernd 44 – 43 = 1,0 und für Claus 43 – 43,5 = – 0,5.
Die Methode der kleinsten Quadrate besagt nun, dass die passende Ausgleichsgerade die ist, welche die Summe der Abstände, welche quadriert werden, minimiert.
Ob die Gerade passend ist, wird durch das sogenannte Bestimmtheitsmaß gemessen und bestimmt.

Hat Wirtschaftswissenschaften an der Universität Kassel studiert.
Einzelunternehmer seit Mai 2006 & Chefredakteur von mehreren Webseiten
Geschäftsführer & Gesellschafter der Immocado UG (haftungsbeschränkt)