Summary  
This chapter explains how to build and train feedforward neural networks by defining layers of neurons with weights, biases, and activation functions, and optimizing them through forward propagation, backpropagation, and gradient descent.  

General domain of usage  
Supervised learning for classification tasks

## Konseptet med et nevralt nettverk

En **nevron** er den grunnleggende enheten for informasjonsbehandling i et nevralt nettverk. Den mottar input, behandler dem og produserer en output.

Hver input til et nevron får en **vekt**, som avgjør hvor viktig den er i beregningen. En **bias** er en tilleggsparameter som hjelper til med å forskyve nevronets output, og gir fleksibilitet i læringsmønstre.

**Trening av et nevralt nettverk** innebærer å justere disse vektene og biasene for å minimere feil og forbedre nøyaktigheten.

**Aktiveringsfunksjonen** omformer summen av de vektede inputene til nevronets output. Vanlige aktiveringsfunksjoner inkluderer:
1. **Sigmoid-funksjon**: gir verdier mellom 0 og 1, nyttig for binær klassifisering;
2. **ReLU (Rectified Linear Unit)**: hjelper dype nettverk å trenes effektivt;
3. **Hyperbolsk tangens (tanh)**: gir verdier mellom -1 og 1, noe som gjør den nyttig for datasett sentrert rundt null.

Under **fremoverpropagering** flyter informasjon fra **input-laget** gjennom **skjulte lag** til **output-laget**, hvor en prediksjon eller slutning gjøres.

For å forbedre prediksjoner brukes **bakpropagering**. Denne prosessen sender feilinformasjons bakover gjennom nettverket og justerer vektene for å redusere feil.



## Bygging av et nevralt nettverk fra bunnen av

En **multilags perseptron (MLP)** består av flere lag:
1. **Input-lag**: mottar inputdata;
2. **Skjulte lag**: behandler dataene og trekker ut mønstre;
3. **Output-lag**: produserer den endelige prediksjonen eller klassifiseringen.

Hvert lag inneholder flere nevroner, og outputen fra ett lag fungerer som input til det neste.

**Bakpropagering** består av fremoverpropagering, feilberegning, gradientberegning og justering av vekter og bias.

**Læringsraten** er en nøkkelparameter i **gradient descent**, og styrer hvor mye vektene oppdateres under trening. En høyere læringsrate **øker treningshastigheten**, men kan føre til at modellen overser viktige mønstre, mens en lavere læringsrate gir **mer presis læring**, men kan gjøre at konvergensen går saktere.

Det finnes flere måter å **evaluere en modells ytelse** på, inkludert:
- **Nøyaktighet**: måler prosentandelen korrekte prediksjoner;
- **Mean Squared Error (MSE)**: vurderer feil for regresjonsoppgaver;
- **Kryssentropi**: ofte brukt for klassifiseringsproblemer.

## Implementering av et nevralt nettverk med Scikit-Learn

Første steg er å opprette en modell:

```python
from sklearn.neural_network import MLPClassifier

model = MLPClassifier(max_iter=200, hidden_layer_sizes=(10, 20, 30), learning_rate_init=0.01)
```
Når modellen er opprettet, skal den trenes på treningssettet:

```python
model.fit(X_train, y_train)
```

Til slutt kan prediksjoner gjøres, for eksempel på et testsett:
```python
y_pred = model.predict(X_test)
```



## Konklusjon  

Ved valg mellom **tradisjonelle modeller** og **nevrale nettverk**, vurder datasettets størrelse, problemets kompleksitet og tolkbarhet.

Vanlige typer nevrale nettverk er følgende:

Feedforward Neural Networks (FNN) / Multi-layer Perceptrons (MLP)

Utformet for sekvensielle data som tekst og tale.

Brukes til datakomprimering og egenskapslæring.

Genererer syntetiske data, ofte brukt til bildesyntese.

Kombinerer flere mindre nettverk for mer komplekse oppgaver.

Populære dyp læringsbiblioteker:

- **TensorFlow**: Googles rammeverk for dyp læring og skalerbar maskinlæring;  
- **PyTorch**: et fleksibelt, dynamisk dyp læringsbibliotek mye brukt i forskning og produksjon.  

Last ned kurssammendrag

Nevrale nettverk er kraftige algoritmer inspirert av strukturen til den menneskelige hjernen, og brukes til å løse komplekse maskinlæringsproblemer. Du vil bygge ditt eget nevrale nettverk fra bunnen av for å forstå hvordan det fungerer. Etter dette kurset vil du kunne lage nevrale nettverk for å løse klassifikasjons- og regresjonsproblemer ved hjelp av scikit-learn-biblioteket.

Først skal vi diskutere hva et nevralt nettverk er og hvordan det fungerer. Vi vil også vurdere anvendelsesområdet.

Deretter skal vi forsøke å bygge vårt eget nevrale nettverk og se hvor effektivt det håndterer læring. Vi vil også vurdere en ferdig løsning fra scikit-learn-biblioteket.

Til slutt vil vi gi deg tilleggsinformasjon om hvordan du kan forstå hvilken modell som bør brukes og hvilke typer nevrale nettverk som finnes. For å fullføre kurset vil du bli testet på den tilegnede kunnskapen din.

Sammendrag

Konseptet med et nevralt nettverk

Bygging av et nevralt nettverk fra bunnen av

Implementering av et nevralt nettverk med Scikit-Learn

Konklusjon