Kwadratische Regressie

Het probleem met lineaire regressie

Voordat we polynomiale regressie definiëren, bekijken we eerst het geval waarin de eerder behandelde lineaire regressie niet goed werkt.

Hier zie je dat ons eenvoudige lineaire regressiemodel slecht presteert. Dit komt doordat het probeert een rechte lijn door de datapunten te trekken. We kunnen echter zien dat het passen van een parabool een veel betere keuze zou zijn voor onze punten.

Kwadratische regressievergelijking

Voor het opstellen van een rechte-lijnmodel gebruikten we een vergelijking van een lijn (y=ax+b). Voor het opstellen van een paraboolmodel hebben we de vergelijking van een parabool nodig. Dat is de kwadratische vergelijking: y=ax²+bx+c. Door a, b en c te vervangen door β krijgen we de kwadratische regressievergelijking:

Het model dat door deze vergelijking wordt beschreven, wordt kwadratische regressie genoemd. Net als eerder hoeven we alleen de beste parameters voor onze gegevenspunten te vinden.

Normale vergelijking en X̃

Zoals altijd zorgt de normale vergelijking voor het vinden van de beste parameters. Maar we moeten de X̃ correct definiëren.

We weten al hoe we de X̃-matrix voor Meervoudige Lineaire Regressie moeten opbouwen. Het blijkt dat de X̃-matrix voor Polynomiale Regressie op een vergelijkbare manier wordt geconstrueerd. We kunnen x² beschouwen als een tweede kenmerk. Op deze manier moeten we een nieuwe overeenkomstige kolom toevoegen aan de X̃. Deze zal dezelfde waarden bevatten als de vorige kolom, maar dan in het kwadraat.

De onderstaande video laat zien hoe je de X̃ opbouwt.