Den gaussiska blandningsmodellen (GMM) fungerar genom att iterativt förbättra placeringen av gaussiska fördelningar för att bäst anpassa sig till data:

1. Välj ett slumpmässigt antal Gauss-fördelningar: du börjar med att bestämma antalet gaussiska fördelningar (kluster) som ska anpassas till data. Detta är ofta fördefinierat eller bestäms med metoder som silhouette score, som mäter hur väl separerade klustren är;

2. Beräkna ansvarighet: för varje datapunkt beräknas sannolikheten att den tillhör varje gaussisk fördelning. Denna sannolikhet, kallad ansvarighet, beror på hur nära punkten är centrumet för varje Gauss och spridningen (variansen);

3. Flytta Gauss-fördelningarna: baserat på de beräknade ansvarigheterna uppdateras medelvärden och varianser för Gauss-fördelningarna för att bättre matcha datapunkterna. Detta steg säkerställer att fördelningarna gradvis anpassar sig till datastrukturen;

4. Upprepa steg 2 och 3: processen med att beräkna ansvarigheter och flytta Gauss-fördelningarna upprepas tills modellen konvergerar.

När konvergerar GMM?

Konvergens inträffar när förändringarna i Gauss-parametrarna (medelvärde, varians och vikter) mellan iterationerna är mycket små eller understiger en fördefinierad tröskel.

Antag att du har två gaussiska fördelningar som försöker klustra en datamängd av kroppslängder. Inledningsvis kan en Gauss vara centrerad vid en genomsnittlig längd av 5 feet, och en annan vid 6 feet. När iterationerna fortskrider justerar de två Gauss-fördelningarna sina positioner och spridningar. Om deras medelvärden och varianser stabiliseras—t.ex. en stannar vid 5.5 feet och den andra vid 6.2 feet utan ytterligare betydande justeringar—har modellen konvergerat.

Första iterationen

Efter konvergens