Summary  
A Decision Tree is a model that recursively splits data at decision nodes based on feature values, directing each branch until leaf nodes assign a class label.  

General domain of usage  
Classification in machine learning

Pour de nombreux problèmes réels, il est possible de construire un **arbre de décision**. Dans un arbre de décision, une question est posée (**nœud de décision**) et, selon la réponse, on aboutit soit à une décision (**nœud feuille**), soit à d'autres questions (nœud de décision), et ainsi de suite.

Voici un exemple de test canard/pas canard :

L'application de la même logique aux données d'entraînement permet de dériver l'un des algorithmes d'apprentissage automatique les plus importants, utilisable pour **les tâches de régression et de classification**. Dans ce cours, l'accent sera mis sur la classification.

La vidéo suivante illustre le fonctionnement :

Dans la vidéo ci-dessus, « Classes » indique le **nombre d'échantillons de données de chaque classe** à un nœud. Par exemple, le nœud racine contient tous les échantillons de données (4 « cookies », 4 « not cookies »). Et le nœud feuille à gauche ne contient que 3 « not cookies ».

Remarque

À chaque nœud de décision, l'objectif est de diviser les données d'entraînement afin que les points de données de chaque classe soient séparés dans **leurs propres nœuds feuilles**.
  
Un arbre de décision gère également **la classification multiclasse** avec facilité :

La **classification avec plusieurs caractéristiques** peut également être gérée par l'arbre de décision. Chaque nœud de décision peut alors diviser les données en utilisant n'importe laquelle des caractéristiques.

Dans la vidéo ci-dessus, l'ensemble d'entraînement est mis à l'échelle à l'aide de `StandardScaler`. Ce n'est **pas** nécessaire pour l'Arbre de Décision. Il fonctionnera tout aussi bien sur les **données non mises à l'échelle**. Cependant, la mise à l'échelle améliore les performances de tous les autres algorithmes, il est donc conseillé d'ajouter systématiquement cette étape à votre prétraitement.

Maîtrisez les principaux algorithmes de classification qui alimentent l'apprentissage automatique moderne. Découvrez comment des modèles tels que k-NN, la régression logistique, les arbres de décision et les forêts aléatoires effectuent des prédictions, évaluez leur précision et comprenez quand utiliser chacun d'eux. Développez les compétences nécessaires pour comparer les modèles et choisir le plus adapté à vos données.

Découvrez comment l'algorithme des k plus proches voisins effectue des prédictions basées sur la similarité. Apprenez à gérer plusieurs caractéristiques, à ajuster les paramètres et à appliquer la validation croisée pour améliorer la précision.

Comprendre comment la régression logistique modélise les probabilités et classe les résultats. S'exercer à l'implémenter, à interpréter les frontières de décision et à appliquer la régularisation pour éviter le surapprentissage.

Découvrez comment les arbres de décision divisent les données en groupes significatifs selon les valeurs des caractéristiques. Explorez l'influence de paramètres tels que la profondeur de l'arbre et le nombre minimal d'échantillons par feuille sur la performance et la généralisation du modèle.

Découvrez comment les forêts aléatoires combinent plusieurs arbres de décision pour améliorer la précision et la robustesse. Comprenez le rôle de l'aléatoire et appliquez cette méthode d'ensemble à des données réelles.

Évaluation des modèles à l'aide de métriques telles que l'exactitude, la précision, le rappel et le score F1. Interprétation des matrices de confusion et comparaison de plusieurs classificateurs afin d'identifier le modèle le plus performant.

Qu'est-ce qu'un Arbre de Décision