Enkele Neurale Netwerklaag

In een eenvoudig feedforward-neuraal netwerk wordt de output van een neuron in een laag berekend met behulp van de gewogen som van de invoerwaarden, doorgegeven aan een activatiefunctie. Dit kan als volgt worden weergegeven:

$y=\sigma(W \cdot x + b)$

Waarbij:

$y$ : output van het neuron;
$W$ : een matrix die de gewichten voorstelt die verbonden zijn met het neuron;
$x$ : een kolommatrix (of vector) die de invoerwaarden naar het neuron voorstelt;
$b$ : een scalair waarde;
$\sigma$ : een activatiefunctie, zoals de sigmoid-, ReLU- of softmaxfunctie.

Voor optimale prestaties worden alle berekeningen uitgevoerd met matrices. We zullen deze taak op dezelfde manier aanpakken.

Taak

Swipe to start coding

Gegeven gewichten, inputs en bias voor een enkele neuronlaag, bereken de output met behulp van matrixvermenigvuldiging en de sigmoid activatiefunctie. Beschouw een laag met 3 inputs en 2 neuronen, waarbij een enkele batch slechts één sample bevat.

Bepalen van vormen:
- De vorm van de inputmatrix I moet in de eerste dimensie het aantal samples in de batch weergeven. Gezien één sample met 3 inputs, is de grootte 1x3;
- De gewichtenmatrix W moet kolommen hebben die de inputgewichten voor elk neuron vertegenwoordigen. Dus voor 2 neuronen met 3 inputs is de verwachte vorm 3x2. Dit is niet het geval, dus je moet de gewichtenmatrix transponeren om de vereiste vorm te krijgen.
Matrixvermenigvuldiging:
- Met de matrices in de juiste vorm, voer de matrixvermenigvuldiging uit;
- Onthoud dat bij matrixvermenigvuldiging de output wordt verkregen uit het inwendig product van elke rij van de eerste matrix met elke kolom van de tweede matrix. Zorg ervoor dat je in de juiste volgorde vermenigvuldigt.
Bias toevoegen:
- Voer een elementgewijze optelling uit van het resultaat van de matrixvermenigvuldiging met de bias.
Toepassen van activatie:
- Gebruik de sigmoid activatiefunctie op het resultaat van de biasoptelling om de output van het neuron te verkrijgen;
- TensorFlow biedt de sigmoidfunctie aan als tf.sigmoid().

Opmerking

Aan het einde van de cursus gaan we dieper in op het implementeren van een volledig feedforward-netwerk met TensorFlow. Deze oefening vormt de basis daarvoor.

Oplossing

Was alles duidelijk?

Bedankt voor je feedback!

Sectie 1. Hoofdstuk 10

single

Vraag AI

Vraag wat u wilt of probeer een van de voorgestelde vragen om onze chat te starten.

Suggested prompts:

Can you explain why we need to transpose the weight matrix?

What is the purpose of the bias in this calculation?

How does the sigmoid activation function affect the output?

Awesome!

Completion rate improved to 5.56

Veeg om het menu te tonen

Enkele Neurale Netwerklaag

$y=\sigma(W \cdot x + b)$

Waarbij:

$y$ : output van het neuron;
$W$ : een matrix die de gewichten voorstelt die verbonden zijn met het neuron;
$x$ : een kolommatrix (of vector) die de invoerwaarden naar het neuron voorstelt;
$b$ : een scalair waarde;
$\sigma$ : een activatiefunctie, zoals de sigmoid-, ReLU- of softmaxfunctie.

Voor optimale prestaties worden alle berekeningen uitgevoerd met matrices. We zullen deze taak op dezelfde manier aanpakken.

Taak

Swipe to start coding

Bepalen van vormen:
- De vorm van de inputmatrix I moet in de eerste dimensie het aantal samples in de batch weergeven. Gezien één sample met 3 inputs, is de grootte 1x3;
- De gewichtenmatrix W moet kolommen hebben die de inputgewichten voor elk neuron vertegenwoordigen. Dus voor 2 neuronen met 3 inputs is de verwachte vorm 3x2. Dit is niet het geval, dus je moet de gewichtenmatrix transponeren om de vereiste vorm te krijgen.
Matrixvermenigvuldiging:
- Met de matrices in de juiste vorm, voer de matrixvermenigvuldiging uit;
- Onthoud dat bij matrixvermenigvuldiging de output wordt verkregen uit het inwendig product van elke rij van de eerste matrix met elke kolom van de tweede matrix. Zorg ervoor dat je in de juiste volgorde vermenigvuldigt.
Bias toevoegen:
- Voer een elementgewijze optelling uit van het resultaat van de matrixvermenigvuldiging met de bias.
Toepassen van activatie:
- Gebruik de sigmoid activatiefunctie op het resultaat van de biasoptelling om de output van het neuron te verkrijgen;
- TensorFlow biedt de sigmoidfunctie aan als tf.sigmoid().

Opmerking

Aan het einde van de cursus gaan we dieper in op het implementeren van een volledig feedforward-netwerk met TensorFlow. Deze oefening vormt de basis daarvoor.

Oplossing

Schakel over naar desktop voor praktijkervaringGa verder vanaf waar je bent met een van de onderstaande opties

Was alles duidelijk?

Bedankt voor je feedback!

Sectie 1. Hoofdstuk 10

single

Uitdaging: Het Creëren van een Neurale Netwerklaag

Enkele Neurale Netwerklaag

Oplossing

Awesome!

Uitdaging: Het Creëren van een Neurale Netwerklaag

Enkele Neurale Netwerklaag

Oplossing