Summary  
This chapter explains how to estimate the optimal parameters of a linear regression model by minimizing the sum of squared residuals using the ordinary least squares method and solving the normal equation.

General domain of usage  
Machine learning predictive modeling

Ora sappiamo che la regressione lineare è semplicemente una retta che si adatta meglio ai dati. Ma come si può determinare qual è quella giusta?

Si può calcolare la differenza tra il valore previsto e il valore reale del target per ogni punto dati nel set di addestramento.   
Queste differenze sono chiamate **residui** (o **errori**). L'obiettivo è rendere i residui il più piccoli possibile.   

## Minimi quadrati ordinari
L'approccio predefinito è il metodo dei **Minimi Quadrati Ordinari** (**OLS**):   
Si prende ogni residuo, lo si **eleva al quadrato** (principalmente per eliminare il segno del residuo) e si **sommano tutti**.  
Questo è chiamato **SSR** (**Somma dei residui al quadrato**). L'obiettivo è trovare i parametri che minimizzano la SSR.

## Equazione normale
Fortunatamente, non è necessario provare tutte le rette e calcolare la SSR per ciascuna. Il compito di minimizzare la SSR ha una soluzione matematica che non è molto costosa dal punto di vista computazionale.  
Questa soluzione è chiamata **Equazione Normale**.

Questa equazione fornisce i parametri di una retta con il minimo SSR.  
Non hai capito come funziona? Nessun problema! Si tratta di matematica piuttosto complessa. Ma non è necessario calcolare i parametri manualmente. Molte librerie hanno già implementato la regressione lineare.


Considera l'immagine sopra. Quale retta di regressione è migliore?

La regressione lineare è un concetto fondamentale nell'analisi predittiva. È ampiamente utilizzata da data scientist, analisti di dati e statistici poiché è facile da costruire e interpretare, ma abbastanza potente per molti compiti.

Iniziamo con il modello di Regressione Lineare più semplice. Verranno illustrate le basi della Regressione Lineare e come effettuare previsioni in Python.

La maggior parte delle attività di previsione nel mondo reale coinvolge più di una caratteristica. Verrà illustrato come gestire la regressione lineare con più caratteristiche.

Una retta non descrive sempre adeguatamente i dati. Impariamo come costruire un modello più complesso per la previsione. Questo è l'obiettivo della Regressione Polinomiale.

Ora che sai come costruire diversi modelli di Regressione Lineare, è necessario un metodo per selezionare il migliore. Questo è possibile utilizzando le metriche. Questa sezione illustra le metriche più utilizzate e le difficoltà che si possono incontrare nel loro impiego.

Trovare i Parametri

Minimi quadrati ordinari

Equazione normale

Quiz

1. Considera l'immagine sopra. Quale retta di regressione è migliore?