Das Problem mit der linearen Regression

Bevor wir die Polynomregression definieren, betrachten wir zunächst den Fall, den die zuvor behandelte lineare Regression nicht gut abdeckt.

Hier sieht man, dass unser einfaches lineares Regressionsmodell sehr schlecht abschneidet. Das liegt daran, dass es versucht, eine Gerade an die Datenpunkte anzupassen. Wir erkennen jedoch, dass das Anpassen einer Parabel für unsere Punkte eine viel bessere Wahl wäre.

Quadratische Regressionsgleichung

Um ein Geradenmodell zu erstellen, haben wir eine Geradengleichung (y=ax+b) verwendet. Für ein parabolisches Modell benötigen wir daher die Gleichung einer Parabel. Das ist die quadratische Gleichung: y=ax²+bx+c. Wenn wir a, b und c durch β ersetzen, erhalten wir die quadratische Regressionsgleichung:

Das durch diese Gleichung beschriebene Modell wird als Quadratische Regression bezeichnet. Wie zuvor müssen wir lediglich die optimalen Parameter für unsere Datenpunkte bestimmen.

Normalengleichung und X̃

Wie immer übernimmt die Normalengleichung das Finden der optimalen Parameter. Allerdings müssen wir die X̃ korrekt definieren.

Wir wissen bereits, wie die X̃-Matrix für die Multiple Lineare Regression aufgebaut wird. Es stellt sich heraus, dass die X̃-Matrix für die Polynomiale Regression ähnlich konstruiert wird. Wir können x² als ein zweites Merkmal betrachten. Daher müssen wir eine entsprechende neue Spalte zur X̃ hinzufügen. Diese enthält die gleichen Werte wie die vorherige Spalte, jedoch quadriert.

Das folgende Video zeigt, wie die X̃ aufgebaut wird.