Le modèle de mélange gaussien (GMM) fonctionne en améliorant de manière itérative le placement des distributions gaussiennes afin d’ajuster au mieux les données :

1. Choix aléatoire du nombre de gaussiennes : il s’agit de commencer par décider du nombre de distributions gaussiennes (clusters) à ajuster aux données. Ce nombre est souvent prédéfini ou déterminé à l’aide de méthodes telles que le score de silhouette, qui mesure la séparation des clusters ;

2. Calcul de la responsabilité : pour chaque point de données, calcul de la probabilité qu’il appartienne à chaque distribution gaussienne. Cette probabilité, appelée responsabilité, dépend de la proximité du point par rapport au centre de chaque gaussienne et de la dispersion (variance) ;

3. Déplacement des gaussiennes : en fonction des responsabilités calculées, les moyennes et variances des gaussiennes sont mises à jour pour mieux correspondre aux points de données. Cette étape permet aux distributions de s’aligner progressivement sur la structure des données ;

4. Répétition des étapes 2 et 3 : le processus de calcul des responsabilités et de déplacement des gaussiennes est répété jusqu’à la convergence du modèle.

Quand le GMM converge-t-il ?

La convergence se produit lorsque les changements dans les paramètres des gaussiennes (moyenne, variance et poids) entre les itérations sont très faibles ou tombent en dessous d’un seuil prédéfini.

Supposons que vous disposiez de deux distributions gaussiennes cherchant à regrouper un ensemble de données de tailles. Initialement, une gaussienne peut être centrée sur une taille moyenne de 5 feet, et l’autre sur 6 feet. Au fil des itérations, les deux gaussiennes ajustent leurs positions et leurs dispersions. Si leurs moyennes et variances se stabilisent—par exemple, l’une se fixe à 5.5 feet et l’autre à 6.2 feet sans ajustements significatifs supplémentaires—le modèle a convergé.

Première itération

Après convergence