Das Problem mit der linearen Regression

Bevor wir die Polynomregression definieren, betrachten wir einen Fall, den die zuvor behandelte lineare Regression nicht gut abbilden kann.

Hier ist zu erkennen, dass unser einfaches lineares Regressionsmodell sehr schlecht abschneidet. Das liegt daran, dass es versucht, eine Gerade an die Datenpunkte anzupassen. Es ist jedoch ersichtlich, dass das Anpassen einer Parabel für unsere Punkte eine deutlich bessere Wahl wäre.

Quadratische Regressionsgleichung

Für das Erstellen eines Geradenmodells verwendeten wir die Gleichung einer Geraden (y=ax+b). Um ein parabolisches Modell zu erstellen, benötigen wir die Gleichung einer Parabel. Das ist die quadratische Gleichung: y=ax²+bx+c. Wenn wir a, b und c durch β ersetzen, erhalten wir die quadratische Regressionsgleichung:

Das durch diese Gleichung beschriebene Modell wird als Quadratische Regression bezeichnet. Wie zuvor müssen lediglich die optimalen Parameter für die gegebenen Datenpunkte bestimmt werden.

Normalengleichung und X̃

Wie immer übernimmt die Normalengleichung die Bestimmung der optimalen Parameter. Allerdings muss die X̃ korrekt definiert werden.

Die Konstruktion der X̃-Matrix für die Multiple Lineare Regression ist bereits bekannt. Es zeigt sich, dass die X̃-Matrix für die Polynomiale Regression auf ähnliche Weise aufgebaut wird. x² kann als zweites Merkmal betrachtet werden. Daher muss eine entsprechende neue Spalte zur X̃ hinzugefügt werden. Diese enthält die gleichen Werte wie die vorherige Spalte, jedoch quadriert.

Das folgende Video zeigt, wie die X̃ aufgebaut wird.