Transfer Learning ermöglicht die Wiederverwendung von auf großen Datensätzen trainierten Modellen für neue Aufgaben mit begrenzten Datenmengen. Anstatt ein neuronales Netzwerk von Grund auf neu zu erstellen, werden vortrainierte Modelle genutzt, um Effizienz und Leistung zu steigern. Im Verlauf dieses Kurses wurden ähnliche Ansätze bereits in vorherigen Abschnitten behandelt, die die Grundlage für den effektiven Einsatz von Transfer Learning geschaffen haben.

Was ist Transfer Learning?

Transfer Learning ist eine Technik, bei der ein auf eine Aufgabe trainiertes Modell an eine andere, verwandte Aufgabe angepasst wird. Im Bereich Computer Vision können auf großen Datensätzen wie ImageNet vortrainierte Modelle für spezifische Anwendungen wie medizinische Bildgebung oder autonomes Fahren feinjustiert werden.

Warum ist Transfer Learning wichtig?

• Reduzierte Trainingszeit: Da das Modell bereits allgemeine Merkmale erlernt hat, sind nur geringe Anpassungen erforderlich;

• Weniger Datenbedarf: Besonders nützlich, wenn die Beschaffung von gelabelten Daten aufwendig ist;

• Leistungssteigerung: Vortrainierte Modelle bieten eine robuste Merkmalsextraktion und verbessern die Genauigkeit.

Ablauf des Transferlernens

Der typische Ablauf des Transferlernens umfasst mehrere zentrale Schritte:

1. Auswahl eines vortrainierten Modells:

   • Auswahl eines Modells, das auf einem großen Datensatz trainiert wurde (z. B. ResNet, VGG, YOLO);

   • Diese Modelle haben nützliche Repräsentationen gelernt, die für neue Aufgaben angepasst werden können.

2. Anpassung des vortrainierten Modells:

   • Merkmalextraktion: Frühe Schichten einfrieren und nur die späteren Schichten für die neue Aufgabe neu trainieren;

   • Feinabstimmung: Einige oder alle Schichten freigeben und auf dem neuen Datensatz neu trainieren.

3. Training auf dem neuen Datensatz:

   • Training des angepassten Modells mit einem kleineren, auf die Zielaufgabe zugeschnittenen Datensatz;

   • Optimierung mit Techniken wie Backpropagation und Verlustfunktionen.

4. Evaluation und Iteration:

   • Bewertung der Leistung mit Metriken wie Genauigkeit, Präzision, Recall und mAP;

   • Weitere Feinabstimmung bei Bedarf zur Verbesserung der Ergebnisse.

Beliebte vortrainierte Modelle

Zu den am häufigsten verwendeten vortrainierten Modellen für Computer Vision gehören:

• ResNet: Tiefe Residual-Netzwerke, die das Training sehr tiefer Architekturen ermöglichen;

• VGG: Eine einfache Architektur mit einheitlichen Faltungsschichten;

• EfficientNet: Optimiert für hohe Genauigkeit bei weniger Parametern;

• YOLO: State-of-the-Art (SOTA) für die Echtzeit-Objekterkennung.

Feinabstimmung vs. Merkmalextraktion

Merkmalextraktion nutzt die Schichten eines vortrainierten Modells als feste Merkmalsextraktoren. In diesem Ansatz wird die ursprüngliche finale Klassifikationsschicht des Modells typischerweise entfernt und durch eine neue, auf die Zielaufgabe zugeschnittene Schicht ersetzt. Die vortrainierten Schichten bleiben eingefroren, das heißt, ihre Gewichte werden während des Trainings nicht aktualisiert, was das Training beschleunigt und weniger Daten erfordert.

Feinabstimmung (Fine-tuning) geht einen Schritt weiter, indem einige oder alle vortrainierten Schichten freigegeben und auf dem neuen Datensatz erneut trainiert werden. Dadurch kann das Modell die gelernten Merkmale besser an die spezifischen Eigenschaften der neuen Aufgabe anpassen, was häufig zu einer verbesserten Leistung führt—insbesondere wenn der neue Datensatz ausreichend groß ist oder sich deutlich von den ursprünglichen Trainingsdaten unterscheidet.

Anwendungen des Transferlernens

1. Bildklassifikation

Bildklassifikation umfasst das Zuweisen von Labels zu Bildern basierend auf deren visuellem Inhalt. Vorgefertigte Modelle wie ResNet und EfficientNet können für spezifische Aufgaben wie medizinische Bildgebung oder Wildtierklassifikation angepasst werden.

Beispiel:

• Auswahl eines vortrainierten Modells (z. B. ResNet);

• Anpassung der Klassifikationsschicht an die Zielklassen;

• Feinabstimmung mit einer niedrigeren Lernrate.

2. Objekterkennung

Objekterkennung beinhaltet sowohl das Identifizieren von Objekten als auch deren Lokalisierung innerhalb eines Bildes. Transferlernen ermöglicht es Modellen wie Faster R-CNN, SSD und YOLO, bestimmte Objekte in neuen Datensätzen effizient zu erkennen.

Beispiel:

• Verwendung eines vortrainierten Objekterkennungsmodells (z. B. YOLOv8);

• Feinabstimmung auf einem benutzerdefinierten Datensatz mit neuen Objektklassen;

• Bewertung der Leistung und entsprechende Optimierung.

3. Semantische Segmentierung

Semantische Segmentierung klassifiziert jedes Pixel eines Bildes in vordefinierte Kategorien. Modelle wie U-Net und DeepLab werden häufig in Anwendungen wie autonomes Fahren und medizinische Bildgebung eingesetzt.

Beispiel:

• Verwendung eines vortrainierten Segmentierungsmodells (z. B. U-Net);

• Training auf einem domänenspezifischen Datensatz;

• Anpassung der Hyperparameter für bessere Genauigkeit.

4. Stiltransfer

Stiltransfer überträgt den visuellen Stil eines Bildes auf ein anderes, wobei der ursprüngliche Inhalt erhalten bleibt. Diese Technik wird häufig in der digitalen Kunst und Bildverbesserung eingesetzt und nutzt vortrainierte Modelle wie VGG.

Beispiel:

• Auswahl eines Stiltransfermodells (z. B. VGG);

• Eingabe von Inhalts- und Stilbildern;

• Optimierung für optisch ansprechende Ergebnisse.