Herausforderung: Erstellen Einer Neuronalen Netzwerkschicht
Einzelne Schicht eines neuronalen Netzwerks
In einem einfachen Feedforward-Neuronalen Netzwerk wird die Ausgabe eines Neurons in einer Schicht durch die gewichtete Summe seiner Eingaben, die durch eine Aktivierungsfunktion geleitet wird, berechnet. Dies lässt sich wie folgt darstellen:
y=σ(W⋅x+b)
Dabei gilt:
- y: Ausgabe des Neurons;
- W: Matrix, die die mit den Verbindungen zum Neuron verknüpften Gewichte darstellt;
- x: Spaltenmatrix (oder Vektor), die die Eingabewerte für das Neuron repräsentiert;
- b: Skalarwert;
- σ: Aktivierungsfunktion, wie zum Beispiel die Sigmoid-, ReLU- oder Softmax-Funktion.
Um die beste Leistung zu erzielen, werden alle Berechnungen mit Matrizen durchgeführt. Wir werden diese Aufgabe auf die gleiche Weise angehen.
Swipe to start coding
Gegeben sind Gewichte, Eingaben und Bias für eine einzelne Neuronenschicht. Berechnen Sie deren Ausgabe mithilfe von Matrixmultiplikation und der Sigmoid-Aktivierungsfunktion. Betrachten Sie eine Schicht mit 3 Eingaben und 2 Neuronen, wobei ein einzelner Batch nur eine Probe enthält.
-
Bestimmung der Formen:
- Die Form der Eingabematrix
I
sollte in der ersten Dimension die Anzahl der Proben im Batch darstellen. Bei einer Probe mit 3 Eingaben beträgt die Größe1x3
; - Die Gewichtsmatrix
W
sollte Spalten mit Eingabengewichten für jedes Neuron enthalten. Für 2 Neuronen mit 3 Eingaben ergibt sich die erwartete Form3x2
. Dies ist nicht der Fall, daher muss die Gewichtsmatrix transponiert werden, um die erforderliche Form zu erreichen.
- Die Form der Eingabematrix
-
Matrixmultiplikation:
- Mit den Matrizen in der richtigen Form führen Sie die Matrixmultiplikation durch;
- Beachten Sie, dass bei der Matrixmultiplikation das Ergebnis aus dem Skalarprodukt jeder Zeile der ersten Matrix mit jeder Spalte der zweiten Matrix berechnet wird. Achten Sie auf die richtige Reihenfolge der Multiplikation.
-
Bias-Addition:
- Führen Sie eine elementweise Addition des Ergebnisses der Matrixmultiplikation mit dem Bias durch.
-
Anwenden der Aktivierungsfunktion:
- Verwenden Sie die Sigmoid-Aktivierungsfunktion auf das Ergebnis der Bias-Addition, um die Ausgabe des Neurons zu erhalten;
- TensorFlow stellt die Sigmoid-Funktion als
tf.sigmoid()
bereit.
Hinweis
Am Ende des Kurses werden wir die Implementierung eines vollständigen Feedforward-Netzwerks mit TensorFlow behandeln. Diese Übung legt das Fundament dafür.
Lösung
Danke für Ihr Feedback!
single
Fragen Sie AI
Fragen Sie AI
Fragen Sie alles oder probieren Sie eine der vorgeschlagenen Fragen, um unser Gespräch zu beginnen
Can you explain why we need to transpose the weight matrix?
What is the purpose of the bias in this calculation?
How does the sigmoid activation function affect the output?
Awesome!
Completion rate improved to 5.56
Herausforderung: Erstellen Einer Neuronalen Netzwerkschicht
Swipe um das Menü anzuzeigen
Einzelne Schicht eines neuronalen Netzwerks
In einem einfachen Feedforward-Neuronalen Netzwerk wird die Ausgabe eines Neurons in einer Schicht durch die gewichtete Summe seiner Eingaben, die durch eine Aktivierungsfunktion geleitet wird, berechnet. Dies lässt sich wie folgt darstellen:
y=σ(W⋅x+b)
Dabei gilt:
- y: Ausgabe des Neurons;
- W: Matrix, die die mit den Verbindungen zum Neuron verknüpften Gewichte darstellt;
- x: Spaltenmatrix (oder Vektor), die die Eingabewerte für das Neuron repräsentiert;
- b: Skalarwert;
- σ: Aktivierungsfunktion, wie zum Beispiel die Sigmoid-, ReLU- oder Softmax-Funktion.
Um die beste Leistung zu erzielen, werden alle Berechnungen mit Matrizen durchgeführt. Wir werden diese Aufgabe auf die gleiche Weise angehen.
Swipe to start coding
Gegeben sind Gewichte, Eingaben und Bias für eine einzelne Neuronenschicht. Berechnen Sie deren Ausgabe mithilfe von Matrixmultiplikation und der Sigmoid-Aktivierungsfunktion. Betrachten Sie eine Schicht mit 3 Eingaben und 2 Neuronen, wobei ein einzelner Batch nur eine Probe enthält.
-
Bestimmung der Formen:
- Die Form der Eingabematrix
I
sollte in der ersten Dimension die Anzahl der Proben im Batch darstellen. Bei einer Probe mit 3 Eingaben beträgt die Größe1x3
; - Die Gewichtsmatrix
W
sollte Spalten mit Eingabengewichten für jedes Neuron enthalten. Für 2 Neuronen mit 3 Eingaben ergibt sich die erwartete Form3x2
. Dies ist nicht der Fall, daher muss die Gewichtsmatrix transponiert werden, um die erforderliche Form zu erreichen.
- Die Form der Eingabematrix
-
Matrixmultiplikation:
- Mit den Matrizen in der richtigen Form führen Sie die Matrixmultiplikation durch;
- Beachten Sie, dass bei der Matrixmultiplikation das Ergebnis aus dem Skalarprodukt jeder Zeile der ersten Matrix mit jeder Spalte der zweiten Matrix berechnet wird. Achten Sie auf die richtige Reihenfolge der Multiplikation.
-
Bias-Addition:
- Führen Sie eine elementweise Addition des Ergebnisses der Matrixmultiplikation mit dem Bias durch.
-
Anwenden der Aktivierungsfunktion:
- Verwenden Sie die Sigmoid-Aktivierungsfunktion auf das Ergebnis der Bias-Addition, um die Ausgabe des Neurons zu erhalten;
- TensorFlow stellt die Sigmoid-Funktion als
tf.sigmoid()
bereit.
Hinweis
Am Ende des Kurses werden wir die Implementierung eines vollständigen Feedforward-Netzwerks mit TensorFlow behandeln. Diese Übung legt das Fundament dafür.
Lösung
Danke für Ihr Feedback!
single