Enkelt nevralt nettverkslag

I et grunnleggende fremovermatet nevralt nettverk beregnes utdataene fra et nevron i et lag ved hjelp av vektet sum av inngangene, som deretter sendes gjennom en aktiveringsfunksjon. Dette kan representeres som:

$y=\sigma(W \cdot x + b)$

Hvor:

$y$ : utdata fra nevronet;
$W$ : en matrise som representerer vektene tilkoblet nevronet;
$x$ : en kolonnematrise (eller vektor) som representerer inngangsverdiene til nevronet;
$b$ : en skalarverdi;
$\sigma$ : en aktiveringsfunksjon, som sigmoid, ReLU eller softmax-funksjonen.

For å oppnå best mulig ytelse utføres alle beregninger ved hjelp av matriser. Vi vil løse denne oppgaven på samme måte.

Oppgave

Swipe to start coding

Gitt vekter, inputverdier og bias for et enkelt nevronlag, beregn utdataene ved hjelp av matrisemultiplikasjon og sigmoid aktiveringsfunksjon. Tenk deg et lag med 3 inputverdier og 2 nevroner, hvor det behandles én batch med kun én prøve.

Bestemme former:
- Formen på inputmatrisen I skal ha sin første dimensjon som representerer antall prøver i batchen. Med én prøve og 3 inputverdier blir størrelsen 1x3;
- Vektmatrisen W skal ha kolonner som representerer inputvekter for hvert nevron. For 2 nevroner med 3 inputverdier forventes formen å være 3x2. Dette er ikke tilfellet, så du må transponere vektmatrisen for å oppnå ønsket form.
Matrisemultiplikasjon:
- Når matrisene har riktig form, utfør matrisemultiplikasjonen;
- Husk at ved matrisemultiplikasjon beregnes utdataene fra prikkproduktet av hver rad i den første matrisen med hver kolonne i den andre matrisen. Sørg for å multiplisere i riktig rekkefølge.
Legge til bias:
- Utfør en elementvis addisjon av resultatet fra matrisemultiplikasjonen med bias.
Bruke aktivering:
- Bruk sigmoid aktiveringsfunksjon på resultatet etter bias-addisjon for å få utdataene fra nevronet;
- TensorFlow tilbyr sigmoid-funksjonen som tf.sigmoid().

Merk

Mot slutten av kurset vil vi implementere et komplett feed-forward-nettverk med TensorFlow. Denne øvelsen legger grunnlaget for det.

Løsning

Alt var klart?

Takk for tilbakemeldingene dine!

Seksjon 3. Kapittel 1

single

Spør AI

Spør om hva du vil, eller prøv ett av de foreslåtte spørsmålene for å starte chatten vår

Suggested prompts:

Can you explain why we need to transpose the weight matrix?

What is the purpose of the bias in this calculation?

How does the sigmoid activation function affect the output?

Awesome!

Completion rate improved to 6.25

Sveip for å vise menyen

Enkelt nevralt nettverkslag

$y=\sigma(W \cdot x + b)$

Hvor:

$y$ : utdata fra nevronet;
$W$ : en matrise som representerer vektene tilkoblet nevronet;
$x$ : en kolonnematrise (eller vektor) som representerer inngangsverdiene til nevronet;
$b$ : en skalarverdi;
$\sigma$ : en aktiveringsfunksjon, som sigmoid, ReLU eller softmax-funksjonen.

For å oppnå best mulig ytelse utføres alle beregninger ved hjelp av matriser. Vi vil løse denne oppgaven på samme måte.

Oppgave

Swipe to start coding

Bestemme former:
- Formen på inputmatrisen I skal ha sin første dimensjon som representerer antall prøver i batchen. Med én prøve og 3 inputverdier blir størrelsen 1x3;
- Vektmatrisen W skal ha kolonner som representerer inputvekter for hvert nevron. For 2 nevroner med 3 inputverdier forventes formen å være 3x2. Dette er ikke tilfellet, så du må transponere vektmatrisen for å oppnå ønsket form.
Matrisemultiplikasjon:
- Når matrisene har riktig form, utfør matrisemultiplikasjonen;
- Husk at ved matrisemultiplikasjon beregnes utdataene fra prikkproduktet av hver rad i den første matrisen med hver kolonne i den andre matrisen. Sørg for å multiplisere i riktig rekkefølge.
Legge til bias:
- Utfør en elementvis addisjon av resultatet fra matrisemultiplikasjonen med bias.
Bruke aktivering:
- Bruk sigmoid aktiveringsfunksjon på resultatet etter bias-addisjon for å få utdataene fra nevronet;
- TensorFlow tilbyr sigmoid-funksjonen som tf.sigmoid().

Merk

Mot slutten av kurset vil vi implementere et komplett feed-forward-nettverk med TensorFlow. Denne øvelsen legger grunnlaget for det.

Løsning

Bytt til skrivebordet for virkelighetspraksisFortsett der du er med et av alternativene nedenfor

Alt var klart?

Takk for tilbakemeldingene dine!

Seksjon 3. Kapittel 1

single

Opprettelse av et Nevralt Nettverkslag

Enkelt nevralt nettverkslag

Løsning

Awesome!

Opprettelse av et Nevralt Nettverkslag

Enkelt nevralt nettverkslag

Løsning