Il problema della regressione lineare

Prima di definire la Regressione Polinomiale, esaminiamo il caso in cui la Regressione Lineare studiata in precedenza non offre buoni risultati.

Qui si può osservare che il nostro semplice modello di regressione lineare fornisce risultati insoddisfacenti. Questo accade perché tenta di adattare una retta ai punti dati. Tuttavia, si nota che adattare una parabola sarebbe una scelta molto più appropriata per questi punti.

Equazione della regressione quadratica

Per costruire un modello lineare, si utilizza l'equazione di una retta (y=ax+b). Per costruire un modello parabolico, è necessaria l'equazione di una parabola, ovvero l'equazione quadratica: $y=ax²+bx+c$. Sostituendo $a$, $b$ e $c$ con $β$ si ottiene l'Equazione della Regressione Quadratica:

Dove:

• $\beta_0, \beta_1, \beta_2$ – sono i parametri del modello;
• $y_{\text{pred}}$ – rappresenta la previsione del target;
• $x$ – rappresenta il valore della caratteristica.

Il modello descritto da questa equazione è chiamato Regressione Quadratica. Come in precedenza, è necessario determinare i parametri ottimali per i nostri punti dati.

Equazione Normale e X̃

Come sempre, l'Equazione Normale si occupa di trovare i parametri ottimali. Tuttavia, è necessario definire correttamente la X̃.

È già noto come costruire la matrice X̃ per la Regressione Lineare Multipla. Si scopre che la matrice X̃ per la Regressione Polinomiale viene costruita in modo simile. Si può considerare x² come una seconda caratteristica. In questo modo, è necessario aggiungere una nuova colonna corrispondente alla X̃. Questa conterrà gli stessi valori della colonna precedente, ma elevati al quadrato.

Il video seguente mostra come costruire la X̃.