Notice: This page requires JavaScript to function properly.
Please enable JavaScript in your browser settings or update your browser.
Lernen Herausforderung: Erstellen Einer Neuronalen Netzwerkschicht | Tensors
Einführung in TensorFlow

bookHerausforderung: Erstellen Einer Neuronalen Netzwerkschicht

Einzelne Schicht eines neuronalen Netzwerks

In einem einfachen Feedforward-Neuronalen Netzwerk wird die Ausgabe eines Neurons in einer Schicht durch die gewichtete Summe seiner Eingaben, die durch eine Aktivierungsfunktion geleitet wird, berechnet. Dies lässt sich wie folgt darstellen:

y=σ(Wx+b)y=\sigma(W \cdot x + b)

Dabei gilt:

  • yy: Ausgabe des Neurons;
  • WW: Matrix, die die mit den Verbindungen zum Neuron verknüpften Gewichte darstellt;
  • xx: Spaltenmatrix (oder Vektor), die die Eingabewerte für das Neuron repräsentiert;
  • bb: Skalarwert;
  • σ\sigma: Aktivierungsfunktion, wie zum Beispiel die Sigmoid-, ReLU- oder Softmax-Funktion.

Um die beste Leistung zu erzielen, werden alle Berechnungen mit Matrizen durchgeführt. Wir werden diese Aufgabe auf die gleiche Weise angehen.

Aufgabe

Swipe to start coding

Gegeben sind Gewichte, Eingaben und Bias für eine einzelne Neuronenschicht. Berechnen Sie deren Ausgabe mithilfe von Matrixmultiplikation und der Sigmoid-Aktivierungsfunktion. Betrachten Sie eine Schicht mit 3 Eingaben und 2 Neuronen, wobei ein einzelner Batch nur eine Probe enthält.

  1. Bestimmung der Formen:

    • Die Form der Eingabematrix I sollte in der ersten Dimension die Anzahl der Proben im Batch darstellen. Bei einer Probe mit 3 Eingaben beträgt die Größe 1x3;
    • Die Gewichtsmatrix W sollte Spalten mit Eingabengewichten für jedes Neuron enthalten. Für 2 Neuronen mit 3 Eingaben ergibt sich die erwartete Form 3x2. Dies ist nicht der Fall, daher muss die Gewichtsmatrix transponiert werden, um die erforderliche Form zu erreichen.
  2. Matrixmultiplikation:

    • Mit den Matrizen in der richtigen Form führen Sie die Matrixmultiplikation durch;
    • Beachten Sie, dass bei der Matrixmultiplikation das Ergebnis aus dem Skalarprodukt jeder Zeile der ersten Matrix mit jeder Spalte der zweiten Matrix berechnet wird. Achten Sie auf die richtige Reihenfolge der Multiplikation.
  3. Bias-Addition:

    • Führen Sie eine elementweise Addition des Ergebnisses der Matrixmultiplikation mit dem Bias durch.
  4. Anwenden der Aktivierungsfunktion:

    • Verwenden Sie die Sigmoid-Aktivierungsfunktion auf das Ergebnis der Bias-Addition, um die Ausgabe des Neurons zu erhalten;
    • TensorFlow stellt die Sigmoid-Funktion als tf.sigmoid() bereit.

Hinweis

Am Ende des Kurses werden wir die Implementierung eines vollständigen Feedforward-Netzwerks mit TensorFlow behandeln. Diese Übung legt das Fundament dafür.

Lösung

War alles klar?

Wie können wir es verbessern?

Danke für Ihr Feedback!

Abschnitt 1. Kapitel 10
single

single

Fragen Sie AI

expand

Fragen Sie AI

ChatGPT

Fragen Sie alles oder probieren Sie eine der vorgeschlagenen Fragen, um unser Gespräch zu beginnen

Suggested prompts:

Can you explain why we need to transpose the weight matrix?

What is the purpose of the bias in this calculation?

How does the sigmoid activation function affect the output?

close

Awesome!

Completion rate improved to 5.56

bookHerausforderung: Erstellen Einer Neuronalen Netzwerkschicht

Swipe um das Menü anzuzeigen

Einzelne Schicht eines neuronalen Netzwerks

In einem einfachen Feedforward-Neuronalen Netzwerk wird die Ausgabe eines Neurons in einer Schicht durch die gewichtete Summe seiner Eingaben, die durch eine Aktivierungsfunktion geleitet wird, berechnet. Dies lässt sich wie folgt darstellen:

y=σ(Wx+b)y=\sigma(W \cdot x + b)

Dabei gilt:

  • yy: Ausgabe des Neurons;
  • WW: Matrix, die die mit den Verbindungen zum Neuron verknüpften Gewichte darstellt;
  • xx: Spaltenmatrix (oder Vektor), die die Eingabewerte für das Neuron repräsentiert;
  • bb: Skalarwert;
  • σ\sigma: Aktivierungsfunktion, wie zum Beispiel die Sigmoid-, ReLU- oder Softmax-Funktion.

Um die beste Leistung zu erzielen, werden alle Berechnungen mit Matrizen durchgeführt. Wir werden diese Aufgabe auf die gleiche Weise angehen.

Aufgabe

Swipe to start coding

Gegeben sind Gewichte, Eingaben und Bias für eine einzelne Neuronenschicht. Berechnen Sie deren Ausgabe mithilfe von Matrixmultiplikation und der Sigmoid-Aktivierungsfunktion. Betrachten Sie eine Schicht mit 3 Eingaben und 2 Neuronen, wobei ein einzelner Batch nur eine Probe enthält.

  1. Bestimmung der Formen:

    • Die Form der Eingabematrix I sollte in der ersten Dimension die Anzahl der Proben im Batch darstellen. Bei einer Probe mit 3 Eingaben beträgt die Größe 1x3;
    • Die Gewichtsmatrix W sollte Spalten mit Eingabengewichten für jedes Neuron enthalten. Für 2 Neuronen mit 3 Eingaben ergibt sich die erwartete Form 3x2. Dies ist nicht der Fall, daher muss die Gewichtsmatrix transponiert werden, um die erforderliche Form zu erreichen.
  2. Matrixmultiplikation:

    • Mit den Matrizen in der richtigen Form führen Sie die Matrixmultiplikation durch;
    • Beachten Sie, dass bei der Matrixmultiplikation das Ergebnis aus dem Skalarprodukt jeder Zeile der ersten Matrix mit jeder Spalte der zweiten Matrix berechnet wird. Achten Sie auf die richtige Reihenfolge der Multiplikation.
  3. Bias-Addition:

    • Führen Sie eine elementweise Addition des Ergebnisses der Matrixmultiplikation mit dem Bias durch.
  4. Anwenden der Aktivierungsfunktion:

    • Verwenden Sie die Sigmoid-Aktivierungsfunktion auf das Ergebnis der Bias-Addition, um die Ausgabe des Neurons zu erhalten;
    • TensorFlow stellt die Sigmoid-Funktion als tf.sigmoid() bereit.

Hinweis

Am Ende des Kurses werden wir die Implementierung eines vollständigen Feedforward-Netzwerks mit TensorFlow behandeln. Diese Übung legt das Fundament dafür.

Lösung

Switch to desktopWechseln Sie zum Desktop, um in der realen Welt zu übenFahren Sie dort fort, wo Sie sind, indem Sie eine der folgenden Optionen verwenden
War alles klar?

Wie können wir es verbessern?

Danke für Ihr Feedback!

Abschnitt 1. Kapitel 10
single

single

some-alt