I forrige kapittel utforsket vi kvadratisk regresjon, som har grafen til en parabel. På samme måte kan vi legge til x³ i ligningen for å få kubisk regresjon, som har en mer kompleks graf. Vi kan også legge til x⁴ og så videre.

Grad av polynomregresjon

Generelt kalles det polynomligning og er ligningen for polynomregresjon. Den høyeste potensen av x definerer graden til en polynomregresjon i ligningen. Her er et eksempel

N-grad polynomregresjon

Hvis vi lar n være et heltall større enn to, kan vi skrive ligningen for en polynomregresjon av grad n.

Hvor:

• $\beta_0, \beta_1, \beta_2, \dots, \beta_n$ – modellens parametere;
• $y_{\text{pred}}$ – prediksjon av målvariabelen;
• $x$ – egenskapsverdi;
• $n$ – graden til polynomregresjonen.

Normal likning

Og som alltid, finnes parameterne ved hjelp av den normale likningen:

Hvor:

• $\beta_0, \beta_1, \dots, \beta_n$ – er modellens parametere;

• $X$ – er en matrise med egenskapsverdier fra treningssettet;
• $X^k$ – er elementvis opphøyd i $k$ for $X$-matrisen;
• $y_{\text{true}}$ – er en matrise med målverdier fra treningssettet.

Polynomisk regresjon med flere egenskaper

For å lage enda mer komplekse former, kan du bruke polynomisk regresjon med mer enn én egenskap. Men selv med to egenskaper, har polynomisk regresjon av grad 2 en ganske lang likning.

Som oftest vil du ikke trenge en så kompleks modell. Enklere modeller (som multippel lineær regresjon) beskriver vanligvis dataene godt nok, og de er mye enklere å tolke, visualisere og mindre ressurskrevende.