Agora sabemos que a Regressão Linear é simplesmente uma linha que melhor se ajusta aos dados. Mas como identificar qual é a correta?

É possível calcular a diferença entre o valor previsto e o valor real do alvo para cada ponto de dados no conjunto de treinamento.
Essas diferenças são chamadas de resíduos (ou erros). O objetivo é tornar os resíduos o menor possível.

Mínimos Quadrados Ordinários

A abordagem padrão é o método dos Mínimos Quadrados Ordinários (OLS):
Para cada resíduo, eleve ao quadrado (principalmente para eliminar o sinal do resíduo) e some todos eles.
Isso é chamado de SSR (Soma dos resíduos ao quadrado). A tarefa é encontrar os parâmetros que minimizam o SSR.

Equação Normal

Felizmente, não é necessário testar todas as retas e calcular o SSR para cada uma delas. A tarefa de minimizar o SSR possui uma solução matemática que não é muito custosa computacionalmente.
Essa solução é chamada de Equação Normal.

Onde:

• $\beta_0, \beta_1, \dots, \beta_n$ – são os parâmetros do modelo;

• $X$ – é um array de valores das variáveis explicativas do conjunto de treinamento;
• $X^k$ – é a potência elemento a elemento de $k$ do array $X$;
• $y_{\text{true}}$ – é um array de valores alvo do conjunto de treinamento.

Esta equação fornece os parâmetros de uma reta com o menor SSR.
Não entendeu como funciona? Sem problemas! É uma matemática bastante complexa. Mas não é necessário calcular os parâmetros manualmente. Muitas bibliotecas já implementam a regressão linear.

Quiz