Summary  
This chapter explains the agglomerative hierarchical clustering algorithm, where each data point starts as its own cluster and clusters are successively merged based on chosen linkage-based distance measures, with the final cluster hierarchy visualized as a dendrogram.

General domain of usage  
Unsupervised machine learning

**Hierarkkinen klusterointi** on klusterianalyysin menetelmä, jonka tavoitteena on rakentaa klustereiden hierarkia. **Toisin kuin K-means**, se ei vaadi klustereiden määrän määrittämistä etukäteen.

Määritelmä

Algoritmi voi joko aloittaa **jokainen piste omassa klusterissaan** ja yhdistää niitä vähitellen (aggregaattinen klusterointi), tai aloittaa **kaikki pisteet yhdessä klusterissa** ja jakaa niitä toistuvasti pienempiin klustereihin (divisivinen klusterointi).

Koska **aggregaattinen klusterointi** on yleisimmin käytetty lähestymistapa, keskitymme siihen.

Yleisin hierarkkisen klusteroinnin tyyppi on **alhaalta ylöspäin** -lähestymistapa. Algoritmi etenee seuraavasti:

1.  **Alustus:** jokainen havaintopiste käsitellään omana klusterinaan;

2.  **Läheisyysmatriisin laskeminen:** lasketaan etäisyys jokaisen klusteriparin välillä;

3.  **Klusterien yhdistäminen:** kaksi lähintä klusteria yhdistetään yhdeksi klusteriksi;

4.  **Läheisyysmatriisin päivitys:** lasketaan uudelleen etäisyydet uuden klusterin ja kaikkien jäljellä olevien klusterien välillä;

5.  **Toisto:** vaiheet 3 ja 4 toistetaan, kunnes kaikki havaintopisteet on yhdistetty yhdeksi klusteriksi.

## Linkage-tyypit

Kahden klusterin välinen läheisyys määritellään **linkage-tyypin** perusteella. Yleisiä hierarkkisessa klusteroinnissa käytettyjä linkage-menetelmiä ovat:

*   **Single linkage:** kahden klusterin lähimpien pisteiden välinen etäisyys;

*   **Complete linkage:** kahden klusterin kauimpien pisteiden välinen etäisyys;

*   **Average linkage:** kaikkien kahden klusterin pisteparien keskimääräinen etäisyys;

*   **Wardin menetelmä:** minimoi klusterien yhdistämisestä aiheutuvan kokonaisvarianssin kasvun.

Linkage-menetelmän valinta voi vaikuttaa muodostuvien klusterien **muotoon** ja **rakenteeseen**. Kokeilu ja aihealueen tuntemus auttavat usein parhaan menetelmän valinnassa aineistolle.

## Dendrogrammi

Hierarkkisen klusteroinnin tuloksia havainnollistetaan usein **dendrogrammin** avulla.

**Dendrogrammi** on puumainen kaavio, joka esittää klustereiden hierarkkisen suhteen. Dendrogrammin haarojen korkeus kuvaa **klustereiden välistä etäisyyttä**.

Mikä on alhaalta ylöspäin etenevän (agglomeroivan) hierarkkisen klusteroinnin ensisijainen ominaisuus?

Hanki vankka ymmärrys klusterianalyysistä, joka on keskeinen valvomattoman oppimisen menetelmä mallien löytämiseen merkitsemättömästä datasta. Tutustu K-Means-, hierarkkisen klusteroinnin, DBSCAN:n ja GMM-menetelmien perusteisiin sekä saa käytännön kokemusta oikeilla aineistoilla, jotta voit soveltaa klusterointia todellisiin ongelmiin.

Perehdy klusteroinnin perusteisiin ja selvitä, miten se eroaa luokittelusta. Tutustu keskeisiin algoritmeihin, työkaluihin ja kirjastoihin, jotka mahdollistavat tämän valvomattoman oppimisen menetelmän piilevien rakenteiden löytämiseksi datasta.

Perusteellinen ymmärrys keskeisistä esikäsittelymenetelmistä, jotka varmistavat tehokkaan klusteroinnin. Puuttuvien arvojen käsittely, kategoristen ominaisuuksien koodaus, datan normalisointi sekä sopivien etäisyysmittareiden ja linkitysten valinta klusteroinnin tarkkuuden parantamiseksi.

Hallitse taidot, joita tarvitaan K-Means-klusteroinnin tehokkaaseen soveltamiseen. Opi algoritmin toimintaperiaate, optimaalisen klusterimäärän määrittäminen sekä käytännön toteutus K-Means-menetelmällä synteettisiin ja todellisiin aineistoihin.

Tutustu hierarkkisen klusteroinnin perusteisiin ja opi ryhmittelemään dataa merkityksellisiin klustereihin dendrogrammien avulla. Vahvista osaamistasi optimaalisen klusterimäärän tunnistamisessa ja menetelmän soveltamisessa sekä synteettisiin että todellisiin aineistoihin.

Tutustu siihen, miten DBSCAN tunnistaa erimuotoisia klustereita ja käsittelee kohinaa aineistossa. Ymmärrä tämän tiheysperusteisen algoritmin toimintaperiaatteet, pisteiden liittäminen klustereihin sekä sen soveltaminen sekä synteettisiin että todellisiin aineistoihin.

Perusteellinen ymmärrys Gaussin sekoitusmalleista ja niiden todennäköisyyspohjaisesta tavasta mallintaa monimutkaisia klusterimuotoja. Gaussin jakauman periaatteet. GMM-mallien toimintaperiaatteet. Soveltaminen sekä esimerkkiaineistoon että todellisiin aineistoihin.

Kuinka hierarkkinen klusterointi toimii?

Linkage-tyypit

Dendrogrammi