Summary  
A Decision Tree is a model that recursively splits data at decision nodes based on feature values, directing each branch until leaf nodes assign a class label.  

General domain of usage  
Classification in machine learning

Für viele Probleme aus dem echten Leben können wir einen **Entscheidungsbaum** erstellen. In einem Entscheidungsbaum wird eine Frage gestellt (**Entscheidungsknoten**), und basierend auf der Antwort treffen wir entweder eine Entscheidung (**Blattknoten**) oder stellen weitere Fragen (Entscheidungsknoten) und so weiter.

Hier ein Beispiel für einen Enten-/Nicht-Enten-Test:

Wendet man die gleiche Logik auf die Trainingsdaten an, lässt sich daraus einer der wichtigsten Algorithmen des maschinellen Lernens ableiten, der für **sowohl Regressions- als auch Klassifikationsaufgaben** eingesetzt werden kann. In diesem Kurs konzentrieren wir uns auf die Klassifikation.

Das folgende Video veranschaulicht, wie dies funktioniert:

Im obigen Video zeigt 'Classes' die **Anzahl der Datenproben jeder Klasse** an einem Knoten. Zum Beispiel enthält der Wurzelknoten alle Datenproben (4 'cookies', 4 'not cookies'). Und der Blattknoten ganz links enthält nur 3 'not cookies'.

Hinweis

Mit jedem Entscheidungs­knoten wird versucht, die Trainingsdaten so zu teilen, dass die Datenpunkte jeder Klasse in **ihre eigenen Blattknoten** getrennt werden.
  
Ein Entscheidungsbaum kann auch **Multiklassen-Klassifikation** problemlos verarbeiten:

Auch **Klassifikation mit mehreren Merkmalen** kann durch den Entscheidungsbaum verarbeitet werden. Jeder Entscheidungsnoten kann die Daten anhand eines beliebigen Merkmals aufteilen.

Im obigen Video wird der Trainingssatz mit `StandardScaler` skaliert. Dies ist für den Decision Tree **nicht** notwendig. Er funktioniert ebenso gut mit den **unskalierten Daten**. Da das Skalieren jedoch die Leistung aller anderen Algorithmen verbessert, ist es sinnvoll, das Skalieren immer in die Vorverarbeitung aufzunehmen.

Beherrschen Sie die grundlegenden Klassifikationsalgorithmen, die moderne Machine-Learning-Anwendungen antreiben. Erforschen Sie, wie Modelle wie k-NN, logistische Regression, Entscheidungsbäume und Random Forests Vorhersagen treffen, deren Genauigkeit bewerten und verstehen, wann welches Modell eingesetzt wird. Entwickeln Sie die Fähigkeiten, Modelle zu vergleichen und das beste für Ihre Daten auszuwählen.

Erfahren Sie, wie der k-nächste-Nachbarn-Algorithmus Vorhersagen auf Basis von Ähnlichkeiten trifft. Umgang mit mehreren Merkmalen, Parametereinstellung und Anwendung von Kreuzvalidierung zur Verbesserung der Genauigkeit.

Verstehen, wie die logistische Regression Wahrscheinlichkeiten modelliert und Ergebnisse klassifiziert. Anwendung der Implementierung, Interpretation von Entscheidungsgrenzen und Einsatz von Regularisierung zur Vermeidung von Overfitting.

Erfahren Sie, wie Entscheidungsbäume Daten anhand von Merkmalswerten in sinnvolle Gruppen unterteilen. Untersuchen Sie, wie Parameter wie Baumtiefe und minimale Stichprobengröße pro Blatt die Modellleistung und Generalisierung beeinflussen.

Erkunden, wie Random Forests mehrere Entscheidungsbäume kombinieren, um Genauigkeit und Robustheit zu verbessern.
Die Rolle des Zufalls verstehen und diese Ensemble-Methode auf reale Daten anwenden.

Bewertung von Modellen anhand von Metriken wie Genauigkeit, Präzision, Recall und F1-Score. Interpretation von Konfusionsmatrizen und Vergleich mehrerer Klassifikatoren zur Identifikation des leistungsstärksten Modells.

Was Ist Ein Entscheidungsbaum