Gaussinen seosmalli (GMM) toimii parantamalla iteratiivisesti Gaussin jakaumien sijoittelua, jotta ne sopivat mahdollisimman hyvin aineistoon:

1. Valitse satunnainen määrä Gaussin jakaumia: aloitat päättämällä, kuinka monta Gaussin jakaumaa (klusteria) sovitetaan aineistoon. Tämä määrä on usein ennalta määritelty tai määritetään esimerkiksi silhouette-pisteen avulla, joka mittaa klustereiden erottuvuutta;

2. Laske vastuu: jokaiselle havaintopisteelle lasketaan todennäköisyys, että se kuuluu kuhunkin Gaussin jakaumaan. Tätä todennäköisyyttä kutsutaan vastuuksi, ja se riippuu siitä, kuinka lähellä piste on kunkin Gaussin jakauman keskipistettä ja jakauman hajonnasta (varianssista);

3. Siirrä Gaussin jakaumia: laskettujen vastuiden perusteella Gaussin jakaumien keskiarvoja ja variansseja päivitetään, jotta ne vastaavat paremmin havaintopisteitä. Tämä vaihe varmistaa, että jakaumat mukautuvat vähitellen aineiston rakenteeseen;

4. Toista vaiheet 2 ja 3: vastuiden laskemista ja Gaussin jakaumien siirtämistä toistetaan, kunnes malli konvergoituu.

Milloin GMM konvergoituu?

Konvergenssi tapahtuu, kun Gaussin jakaumien parametrien (keskiarvo, varianssi ja painot) muutokset iterointien välillä ovat hyvin pieniä tai alittavat ennalta määritetyn raja-arvon.

Oletetaan, että käytössä on kaksi Gaussin jakaumaa, jotka yrittävät klusteroida pituusaineiston. Aluksi toinen jakauma voi olla keskitettynä keskimääräiseen pituuteen 5 feet, ja toinen 6 feet. Iteraatioiden edetessä molemmat Gaussin jakaumat säätävät sijaintiaan ja hajontaansa. Jos niiden keskiarvot ja varianssit vakiintuvat—esimerkiksi toinen asettuu arvoon 5.5 feet ja toinen arvoon 6.2 feet ilman merkittäviä lisämuutoksia—malli on konvergoitunut.

Ensimmäinen iteraatio

Konvergenssin jälkeen