Problemet med lineær regresjon

Før vi definerer polynomregresjon, skal vi se på et tilfelle hvor den lineære regresjonen vi har lært tidligere ikke fungerer godt.

Her kan du se at vår enkle lineære regresjonsmodell presterer dårlig. Dette skyldes at den forsøker å tilpasse en rett linje til datapunktene. Vi kan imidlertid merke oss at det å tilpasse en parabel ville vært et langt bedre valg for våre punkter.

Kvadratisk regresjonslikning

For å bygge en modell med rett linje brukte vi en linjes ligning (y=ax+b). For å bygge en parabolsk modell trenger vi ligningen for en parabel. Det er den kvadratiske ligningen: $y=ax²+bx+c$. Ved å endre $a$, $b$ og $c$ til $β$ får vi kvadratisk regresjonslikning:

Hvor:

• $\beta_0, \beta_1, \beta_2$ – er modellens parametere;
• $y_{\text{pred}}$ – er prediksjonen av målet;
• $x$ – er egenskapsverdien.

Modellen denne ligningen beskriver kalles kvadratisk regresjon. Som tidligere trenger vi kun å finne de beste parameterne for våre datapunkter.

Normal likning og X̃

Som alltid håndterer den normale likningen å finne de beste parameterne. Men vi må definere X̃ korrekt.

Vi vet allerede hvordan vi bygger X̃-matrisen for multippel lineær regresjon. Det viser seg at X̃-matrisen for polynomregresjon konstrueres på lignende måte. Vi kan betrakte x² som en andre egenskap. Dermed må vi legge til en tilsvarende ny kolonne i X̃. Den vil inneholde de samme verdiene som forrige kolonne, men opphøyd i andre.

Videoen under viser hvordan man bygger X̃.