Kursinhalt

Computer Vision Essentials

1. Einführung in die Computer Vision

Was ist Computer Vision?Grundlagen der Bildverarbeitung Lineare Algebra für Bildmanipulation

2. Bildverarbeitung mit OpenCV

Grundlegende Transformationen Fourier-Transformation Tiefpass- und Hochpassfilter Rauschreduzierung und Glättung Histogrammausgleich Super-Resolution-Techniken Kantenerkennung Ecken- und Blob-Erkennung

3. Convolutional Neural Networks

Einführung in Convolutional Neural Networks Faltungsschichten Pooling-Schichten Flattening Aktivierungsfunktionen Überblick Über Beliebte CNN-Modelle Herausforderung: Aufbau eines CNN

4. Objekterkennung

Objektlokalisierung Objekterkennung Vorhersagen von Begrenzungsrahmen Intersection over Union (IoU) und Evaluationsmetriken Non-Maximum Suppression (NMS)Ankerboxen Überblick Über Das YOLO-Modell Herausforderung: Objekterkennung mit benutzerdefiniertem Modell und YOLO

5. Überblick Über Fortgeschrittene Themen

Transfer Learning in Computer Vision Überblick Über Gesichtserkennung Überblick Über Die Bildgenerierung

Aktivierungsfunktionen

Warum Aktivierungsfunktionen in CNNs entscheidend sind

Aktivierungsfunktionen führen Nichtlinearität in CNNs ein und ermöglichen es ihnen, komplexe Muster zu erlernen, die über die Fähigkeiten eines einfachen linearen Modells hinausgehen. Ohne Aktivierungsfunktionen wären CNNs nicht in der Lage, komplexe Zusammenhänge in Daten zu erkennen, was ihre Effektivität bei der Bildklassifikation und -erkennung einschränkt. Die Wahl der passenden Aktivierungsfunktion beeinflusst Trainingsgeschwindigkeit, Stabilität und Gesamtleistung.

Gängige Aktivierungsfunktionen

ReLU (Rectified Linear Unit): Die am häufigsten verwendete Aktivierungsfunktion in CNNs. Sie gibt nur positive Werte weiter und setzt alle negativen Eingaben auf null, was sie recheneffizient macht und das Problem verschwindender Gradienten verhindert. Allerdings können einige Neuronen durch das "Dying ReLU"-Problem inaktiv werden;

f (x) = max (0, x)

Leaky ReLU: eine Variante von ReLU, die kleine negative Werte zulässt, anstatt sie auf Null zu setzen, wodurch inaktive Neuronen vermieden und der Gradientenfluss verbessert wird;

f (x) = {\begin{cases} x & , x > 0 \\ α x & , x \leq 0 \end{cases}

Sigmoid: komprimiert Eingabewerte in einen Bereich zwischen 0 und 1 und ist daher nützlich für binäre Klassifikation. Allerdings tritt bei tiefen Netzwerken das Problem verschwindender Gradienten auf;

f (x) = \frac{1}{1 + e^{- x}}

Tanh: ähnlich wie Sigmoid, gibt jedoch Werte zwischen -1 und 1 aus und zentriert die Aktivierungen um Null;

f (x) = \frac{e^{x} - e^{- x}}{e^{x} + e^{- x}}

Softmax: Wird typischerweise in der letzten Schicht für Mehrklassenklassifikation verwendet. Softmax wandelt die Rohwerte des Netzwerks in Wahrscheinlichkeiten um und stellt sicher, dass deren Summe eins ergibt, was die Interpretierbarkeit verbessert.

f (x_{i}) = \frac{e^{x_{i}}}{\sum_{j}^{} e^{x_{j}}}

Auswahl der geeigneten Aktivierungsfunktion

ReLU ist die Standardwahl für versteckte Schichten aufgrund ihrer Effizienz und starken Leistung, während Leaky ReLU eine bessere Option ist, wenn das Problem inaktiver Neuronen auftritt. Sigmoid und Tanh werden in tiefen CNNs meist vermieden, können aber in bestimmten Anwendungen nützlich sein. Softmax bleibt für Mehrklassenklassifikationsaufgaben unerlässlich und sorgt für klare, wahrscheinlichkeitbasierte Vorhersagen.

Die Auswahl der richtigen Aktivierungsfunktion ist entscheidend für die Optimierung der CNN-Leistung, das Gleichgewicht zwischen Effizienz und der Vermeidung von Problemen wie verschwindenden oder explodierenden Gradienten. Jede Funktion trägt auf einzigartige Weise dazu bei, wie ein Netzwerk visuelle Daten verarbeitet und daraus lernt.

1. Warum wird ReLU in tiefen CNNs gegenüber Sigmoid bevorzugt?

2. Welche Aktivierungsfunktion wird üblicherweise in der letzten Schicht eines Mehrklassenklassifikations-CNNs verwendet?

3. Was ist der Hauptvorteil von Leaky ReLU gegenüber dem Standard-ReLU?

Warum wird ReLU in tiefen CNNs gegenüber Sigmoid bevorzugt?

Select the correct answer

ReLU verhindert Overfitting besser als Sigmoid.

ReLU kann Mehrklassenklassifikation verarbeiten.

ReLU vermeidet verschwindende Gradienten und beschleunigt das Training.

Sigmoid ist rechnerisch effizienter.

Welche Aktivierungsfunktion wird üblicherweise in der letzten Schicht eines Mehrklassenklassifikations-CNNs verwendet?

Select the correct answer

ReLU

Tanh

Leaky ReLU

Softmax

Was ist der Hauptvorteil von Leaky ReLU gegenüber dem Standard-ReLU?

Select the correct answer

Es macht eine Softmax-Schicht überflüssig.

Es verhindert inaktive Neuronen, indem kleine negative Ausgaben zugelassen werden.

Es normalisiert Werte zwischen -1 und 1.

Es stellt sicher, dass alle Neuronen positive Werte ausgeben.

War alles klar?

Wie können wir es verbessern?

Danke für Ihr Feedback!

Abschnitt 3. Kapitel 5

Fragen Sie AI

Fragen Sie alles oder probieren Sie eine der vorgeschlagenen Fragen, um unser Gespräch zu beginnen

Kursinhalt

Computer Vision Essentials

1. Einführung in die Computer Vision

Was ist Computer Vision?Grundlagen der Bildverarbeitung Lineare Algebra für Bildmanipulation

2. Bildverarbeitung mit OpenCV

3. Convolutional Neural Networks

Einführung in Convolutional Neural Networks Faltungsschichten Pooling-Schichten Flattening Aktivierungsfunktionen Überblick Über Beliebte CNN-Modelle Herausforderung: Aufbau eines CNN

4. Objekterkennung

5. Überblick Über Fortgeschrittene Themen

Transfer Learning in Computer Vision Überblick Über Gesichtserkennung Überblick Über Die Bildgenerierung

Aktivierungsfunktionen

Warum Aktivierungsfunktionen in CNNs entscheidend sind

Gängige Aktivierungsfunktionen

ReLU (Rectified Linear Unit): Die am häufigsten verwendete Aktivierungsfunktion in CNNs. Sie gibt nur positive Werte weiter und setzt alle negativen Eingaben auf null, was sie recheneffizient macht und das Problem verschwindender Gradienten verhindert. Allerdings können einige Neuronen durch das "Dying ReLU"-Problem inaktiv werden;

f (x) = max (0, x)

Leaky ReLU: eine Variante von ReLU, die kleine negative Werte zulässt, anstatt sie auf Null zu setzen, wodurch inaktive Neuronen vermieden und der Gradientenfluss verbessert wird;

f (x) = {\begin{cases} x & , x > 0 \\ α x & , x \leq 0 \end{cases}

Sigmoid: komprimiert Eingabewerte in einen Bereich zwischen 0 und 1 und ist daher nützlich für binäre Klassifikation. Allerdings tritt bei tiefen Netzwerken das Problem verschwindender Gradienten auf;

f (x) = \frac{1}{1 + e^{- x}}

Tanh: ähnlich wie Sigmoid, gibt jedoch Werte zwischen -1 und 1 aus und zentriert die Aktivierungen um Null;

f (x) = \frac{e^{x} - e^{- x}}{e^{x} + e^{- x}}

Softmax: Wird typischerweise in der letzten Schicht für Mehrklassenklassifikation verwendet. Softmax wandelt die Rohwerte des Netzwerks in Wahrscheinlichkeiten um und stellt sicher, dass deren Summe eins ergibt, was die Interpretierbarkeit verbessert.

f (x_{i}) = \frac{e^{x_{i}}}{\sum_{j}^{} e^{x_{j}}}

Auswahl der geeigneten Aktivierungsfunktion

1. Warum wird ReLU in tiefen CNNs gegenüber Sigmoid bevorzugt?

2. Welche Aktivierungsfunktion wird üblicherweise in der letzten Schicht eines Mehrklassenklassifikations-CNNs verwendet?

3. Was ist der Hauptvorteil von Leaky ReLU gegenüber dem Standard-ReLU?

Warum wird ReLU in tiefen CNNs gegenüber Sigmoid bevorzugt?

Select the correct answer

ReLU verhindert Overfitting besser als Sigmoid.

ReLU kann Mehrklassenklassifikation verarbeiten.

ReLU vermeidet verschwindende Gradienten und beschleunigt das Training.

Sigmoid ist rechnerisch effizienter.

Welche Aktivierungsfunktion wird üblicherweise in der letzten Schicht eines Mehrklassenklassifikations-CNNs verwendet?

Select the correct answer

ReLU

Tanh

Leaky ReLU

Softmax

Was ist der Hauptvorteil von Leaky ReLU gegenüber dem Standard-ReLU?

Select the correct answer

Es macht eine Softmax-Schicht überflüssig.

Es verhindert inaktive Neuronen, indem kleine negative Ausgaben zugelassen werden.

Es normalisiert Werte zwischen -1 und 1.

Es stellt sicher, dass alle Neuronen positive Werte ausgeben.

War alles klar?

Wie können wir es verbessern?

Danke für Ihr Feedback!

Abschnitt 3. Kapitel 5