Gaussian mixture model (GMM) fungerer ved å iterativt forbedre plasseringen av Gaussiske fordelinger for å best tilpasse dataene:

1. Velg et tilfeldig antall Gaussiske fordelinger: du starter med å bestemme antall Gaussiske fordelinger (klynger) som skal tilpasses dataene. Dette er ofte forhåndsdefinert eller bestemt ved hjelp av metoder som silhouette score, som måler hvor godt klyngene er adskilt;

2. Beregn ansvarlighet: for hvert datapunkt beregnes sannsynligheten for at det tilhører hver Gaussisk fordeling. Denne sannsynligheten, kalt ansvarlighet, avhenger av hvor nær punktet er sentrum av hver Gaussisk fordeling og spredningen (variansen);

3. Flytt de Gaussiske fordelingene: basert på de beregnede ansvarlighetene oppdateres gjennomsnitt og varians for de Gaussiske fordelingene for å bedre tilpasse datapunktene. Dette trinnet sikrer at fordelingene gradvis tilpasses datastrukturen;

4. Gjenta trinn 2 og 3: prosessen med å beregne ansvarligheter og flytte de Gaussiske fordelingene gjentas til modellen konvergerer.

Når konvergerer GMM?

Konvergens oppstår når endringene i de Gaussiske parameterne (gjennomsnitt, varians og vekter) mellom iterasjoner er svært små eller faller under en forhåndsdefinert terskel.

Anta at du har to Gaussiske fordelinger som forsøker å klynge et datasett med høyder. Innledningsvis kan én Gaussisk fordeling være sentrert rundt en gjennomsnittshøyde på 5 feet, og en annen på 6 feet. Etter hvert som iterasjonene fortsetter, justerer de to Gaussiske fordelingene sine posisjoner og spredninger. Hvis gjennomsnitt og varians stabiliserer seg—f.eks. én ender på 5.5 feet og den andre på 6.2 feet uten ytterligere betydelige justeringer—har modellen konvergert.

Første iterasjon

Etter konvergens