Notice: This page requires JavaScript to function properly.
Please enable JavaScript in your browser settings or update your browser.Lære Finne Parameterne | Seksjon
Grunnleggende Overvåket Læring

bookFinne Parameterne

Vi vet nå at lineær regresjon er en linje som best mulig tilpasser dataene. Men hvordan kan du avgjøre hvilken som er den riktige?

Du kan beregne forskjellen mellom den predikerte verdien og den faktiske målverdien for hvert datapunkt i treningssettet.
Disse forskjellene kalles residualer (eller feil). Målet er å gjøre residualene så små som mulig.

Ordinær minste kvadraters metode

Standardmetoden er Ordinær minste kvadraters metode (OLS):
Ta hver residual, kvadrer den (hovedsakelig for å eliminere fortegnet til residualen), og summer alle sammen.
Dette kalles SSR (Sum of squared residuals). Oppgaven er å finne parameterne som minimerer SSR.

Normal likning

Heldigvis trenger vi ikke å prøve alle linjene og beregne SSR for dem. Oppgaven med å minimere SSR har en matematisk løsning som ikke er særlig ressurskrevende.
Denne løsningen kalles Normal likning.

β⃗=(β0β1…βn)=(X~TX~)−1X~Tytrue\vec{\beta} = \begin{pmatrix} \beta_0 \\ \beta_1 \\ \dots \\ \beta_n \end{pmatrix} = (\tilde{X}^T \tilde{X})^{-1} \tilde{X}^T y_{\text{true}}

Hvor:

  • β0,β1,…,βn\beta_0, \beta_1, \dots, \beta_n – er modellens parametere;
X~=(∣∣∣…∣1XX2…Xn∣∣∣…∣);\tilde{X} = \begin{pmatrix} | & | & | & \dots & | \\ 1 & X & X^2 & \dots & X^n \\ | & | & | & \dots & | \end{pmatrix};
  • XX – er en matrise med egenskapsverdier fra treningssettet;
  • XkX^k – er elementvis opphøyd i $k$ av $X$-matrisen;
  • ytruey_{\text{true}} – er en matrise med målverdier fra treningssettet.

Denne likningen gir oss parameterne til en linje med lavest mulig SSR.
Forsto du ikke hvordan det fungerer? Ikke bekymre deg! Dette er ganske avansert matematikk. Men du trenger ikke å regne ut parameterne for hånd. Mange biblioteker har allerede implementert lineær regresjon.

Quiz

1. Se på bildet ovenfor. Hvilken regresjonslinje er best?

2. y_true - y_predicted kalles

question mark

Se på bildet ovenfor. Hvilken regresjonslinje er best?

Select the correct answer

question mark

y_true - y_predicted kalles

Select the correct answer

Alt var klart?

Hvordan kan vi forbedre det?

Takk for tilbakemeldingene dine!

Seksjon 1. Kapittel 2

Spør AI

expand

Spør AI

ChatGPT

Spør om hva du vil, eller prøv ett av de foreslåtte spørsmålene for å starte chatten vår

bookFinne Parameterne

Sveip for å vise menyen

Vi vet nå at lineær regresjon er en linje som best mulig tilpasser dataene. Men hvordan kan du avgjøre hvilken som er den riktige?

Du kan beregne forskjellen mellom den predikerte verdien og den faktiske målverdien for hvert datapunkt i treningssettet.
Disse forskjellene kalles residualer (eller feil). Målet er å gjøre residualene så små som mulig.

Ordinær minste kvadraters metode

Standardmetoden er Ordinær minste kvadraters metode (OLS):
Ta hver residual, kvadrer den (hovedsakelig for å eliminere fortegnet til residualen), og summer alle sammen.
Dette kalles SSR (Sum of squared residuals). Oppgaven er å finne parameterne som minimerer SSR.

Normal likning

Heldigvis trenger vi ikke å prøve alle linjene og beregne SSR for dem. Oppgaven med å minimere SSR har en matematisk løsning som ikke er særlig ressurskrevende.
Denne løsningen kalles Normal likning.

β⃗=(β0β1…βn)=(X~TX~)−1X~Tytrue\vec{\beta} = \begin{pmatrix} \beta_0 \\ \beta_1 \\ \dots \\ \beta_n \end{pmatrix} = (\tilde{X}^T \tilde{X})^{-1} \tilde{X}^T y_{\text{true}}

Hvor:

  • β0,β1,…,βn\beta_0, \beta_1, \dots, \beta_n – er modellens parametere;
X~=(∣∣∣…∣1XX2…Xn∣∣∣…∣);\tilde{X} = \begin{pmatrix} | & | & | & \dots & | \\ 1 & X & X^2 & \dots & X^n \\ | & | & | & \dots & | \end{pmatrix};
  • XX – er en matrise med egenskapsverdier fra treningssettet;
  • XkX^k – er elementvis opphøyd i $k$ av $X$-matrisen;
  • ytruey_{\text{true}} – er en matrise med målverdier fra treningssettet.

Denne likningen gir oss parameterne til en linje med lavest mulig SSR.
Forsto du ikke hvordan det fungerer? Ikke bekymre deg! Dette er ganske avansert matematikk. Men du trenger ikke å regne ut parameterne for hånd. Mange biblioteker har allerede implementert lineær regresjon.

Quiz

1. Se på bildet ovenfor. Hvilken regresjonslinje er best?

2. y_true - y_predicted kalles

question mark

Se på bildet ovenfor. Hvilken regresjonslinje er best?

Select the correct answer

question mark

y_true - y_predicted kalles

Select the correct answer

Alt var klart?

Hvordan kan vi forbedre det?

Takk for tilbakemeldingene dine!

Seksjon 1. Kapittel 2
some-alt