Den Gaussiske blandingsmodel (GMM) fungerer ved iterativt at forbedre placeringen af Gaussiske fordelinger for bedst muligt at tilpasse sig dataene:

1. Vælg et tilfældigt antal Gaussiske fordelinger: du starter med at beslutte, hvor mange Gaussiske fordelinger (klynger) der skal tilpasses dataene. Dette er ofte foruddefineret eller bestemt ved hjælp af metoder som silhouette score, der måler, hvor godt klyngerne er adskilt;

2. Beregn ansvarlighed: for hvert datapunkt beregnes sandsynligheden for, at det tilhører hver Gaussisk fordeling. Denne sandsynlighed, kaldet ansvarlighed, afhænger af, hvor tæt punktet er på centrum af hver Gaussisk fordeling og spredningen (variansen);

3. Flyt de Gaussiske fordelinger: baseret på de beregnede ansvarligheder opdateres middelværdier og varianser for de Gaussiske fordelinger for bedre at matche datapunkterne. Dette trin sikrer, at fordelingerne gradvist tilpasses datastrukturen;

4. Gentag trin 2 og 3: processen med at beregne ansvarligheder og flytte de Gaussiske fordelinger gentages, indtil modellen konvergerer.

Hvornår konvergerer GMM?

Konvergens opstår, når ændringerne i de Gaussiske parametre (middelværdi, varians og vægte) mellem iterationerne er meget små eller falder under en foruddefineret tærskel.

Antag, at du har to Gaussiske fordelinger, der forsøger at klynge et datasæt af højder. Indledningsvis kan én Gaussisk fordeling være centreret ved en gennemsnitshøjde på 5 feet, og en anden ved 6 feet. Efterhånden som iterationerne skrider frem, justerer de to Gaussiske fordelinger deres positioner og spredninger. Hvis deres middelværdier og varianser stabiliseres—f.eks. én ender på 5.5 feet og den anden på 6.2 feet uden yderligere væsentlige justeringer—har modellen konvergeret.

Første iteration

Efter konvergens