Algoritmen kan enten starte med hver datapunkt i sin egen klynge og gradvist sammenflette dem (agglomerativ klyngedannelse), eller starte med alle datapunkter i én klynge og derefter opdele dem rekursivt i mindre klynger (divisiv klyngedannelse).

Da agglomerativ klyngedannelse er den mest anvendte tilgang, vil vi fokusere på denne.

Den mest almindelige type af hierarkisk klyngedannelse er bottom-up-tilgangen. Algoritmen er som følger:

1. Initialisering: hvert datapunkt behandles som en enkelt klynge;

2. Beregn nærhedsmatrix: beregn afstanden mellem hvert par af klynger;

3. Sammenflet klynger: de to nærmeste klynger sammenflettes til én klynge;

4. Opdater nærhedsmatrix: genberegn afstandene mellem den nye klynge og alle resterende klynger;

5. Gentag: trin 3 og 4 gentages, indtil alle datapunkter er sammenflettet til én klynge.

Sammenkoblingstyper

Nærheden mellem to klynger defineres af sammenkoblingstypen. Almindelige sammenkoblingsmetoder anvendt i hierarkisk klyngedannelse er:

• Single linkage: afstanden mellem de to nærmeste punkter i de to klynger;

• Complete linkage: afstanden mellem de to fjerneste punkter i de to klynger;

• Average linkage: gennemsnitsafstanden mellem alle par af punkter i de to klynger;

• Ward's metode: minimerer stigningen i den samlede varians inden for klyngen ved sammenlægning af to klynger.

Valget af sammenkoblingsmetode kan påvirke formen og strukturen af de resulterende klynger. Eksperimentering og domæneviden er ofte nyttige ved valg af den bedste metode til dine data.

Dendrogram

Resultaterne af hierarkisk klyngedannelse visualiseres ofte ved hjælp af et dendrogram.