Het probleem met lineaire regressie

Voordat we Polynomial Regression definiëren, bekijken we eerst het geval waarin de eerder behandelde Lineaire Regressie niet goed werkt.

Hier zie je dat ons eenvoudige lineaire regressiemodel slecht presteert. Dit komt doordat het probeert een rechte lijn door de datapunten te trekken. We kunnen echter zien dat het passen van een parabool een veel betere keuze zou zijn voor onze punten.

Vergelijking van kwadratische regressie

Voor het opstellen van een model met een rechte lijn gebruikten we de vergelijking van een lijn (y=ax+b). Om een parabolisch model te bouwen, hebben we de vergelijking van een parabool nodig. Dit is de kwadratische vergelijking: y=ax²+bx+c. Door a, b en c te vervangen door β krijgen we de Vergelijking van kwadratische regressie:

Het model dat door deze vergelijking wordt beschreven, wordt kwadratische regressie genoemd. Net als voorheen hoeven we alleen de beste parameters voor onze datapunten te vinden.

Normale Vergelijking en X̃

Zoals altijd zorgt de normale vergelijking voor het vinden van de beste parameters. Maar we moeten de X̃ correct definiëren.

We weten al hoe we de X̃-matrix voor meervoudige lineaire regressie moeten opbouwen. Het blijkt dat de X̃-matrix voor polynomiale regressie op een vergelijkbare manier wordt geconstrueerd. We kunnen x² zien als een tweede kenmerk. Op deze manier moeten we een nieuwe bijbehorende kolom toevoegen aan de X̃. Deze zal dezelfde waarden bevatten als de vorige kolom, maar dan in het kwadraat.

De onderstaande video laat zien hoe je de X̃ opbouwt.