Summary  
A Decision Tree is a model that recursively splits data at decision nodes based on feature values, directing each branch until leaf nodes assign a class label.  

General domain of usage  
Classification in machine learning

Moniin tosielämän ongelmiin voidaan rakentaa **päätöspuu**. Päätöspuussa esitetään kysymys (**päätössolmu**), ja vastauksen perusteella joko tehdään päätös (**lehtisolmu**) tai esitetään lisää kysymyksiä (päätössolmu), ja niin edelleen.

Tässä esimerkki ankka/ei ankka -testistä:

Saman logiikan soveltaminen opetusdataan mahdollistaa yhden tärkeimmistä koneoppimisalgoritmeista, jota voidaan käyttää **sekä regressio- että luokittelutehtäviin**. Tässä kurssissa keskitymme luokitteluun.

Seuraava video havainnollistaa, miten se toimii:

Yllä olevassa videossa 'Classes' näyttää **kunkin luokan tietonäytteiden määrän** solmussa. Esimerkiksi juurisolmu sisältää kaikki tietonäytteet (4 'cookies', 4 'not cookies'). Ja vasemmanpuoleisessa lehtisolmussa on vain 3 'not cookies'.

Huomio

Jokaisessa päätössolmussa pyritään jakamaan opetusdata siten, että kunkin luokan tietopisteet erotellaan **omiin lehtisolmuihinsa**.
  
Päätöspuu käsittelee myös **moniluokkaluokittelua** vaivattomasti:

Myös **luokittelu useilla ominaisuuksilla** voidaan toteuttaa päätöspuulla. Tällöin jokainen päätössolmu voi jakaa dataa minkä tahansa ominaisuuden perusteella.

Yllä olevassa videossa harjoitusaineisto skaalataan käyttäen `StandardScaler`-menetelmää. Tämä ei ole **välttämätöntä** päätöspuulle. Se toimii yhtä hyvin myös **skaalaamattomalla datalla**. Skaalaus kuitenkin parantaa kaikkien muiden algoritmien suorituskykyä, joten on hyvä tapa lisätä skaalaus esikäsittelyyn.

Hallitse keskeiset luokittelualgoritmit, jotka ovat modernin koneoppimisen ytimessä. Tutustu siihen, miten mallit kuten k-NN, logistinen regressio, päätöspuut ja satunnaismetsät tekevät ennusteita, arvioi niiden tarkkuutta ja ymmärrä, milloin kutakin kannattaa käyttää. Kehitä taitoja vertailla malleja ja valita paras vaihtoehto aineistosi perusteella.

Opi, miten k-lähimmän naapurin algoritmi tekee ennusteita samankaltaisuuden perusteella. Sisältää useiden piirteiden käsittelyn, parametrien säätämisen ja ristiinvalidoinnin hyödyntämisen tarkkuuden parantamiseksi.

Ymmärrä, miten logistinen regressio mallintaa todennäköisyyksiä ja luokittelee tuloksia. Harjoittele sen toteuttamista, päätösrajojen tulkintaa sekä regularisoinnin soveltamista ylisovittamisen estämiseksi.

Opi, kuinka päätöspuut jakavat dataa merkityksellisiin ryhmiin ominaisuuksien arvojen perusteella. Tutustu siihen, miten parametrit, kuten puun syvyys ja lehden miniminäytteiden määrä, vaikuttavat mallin suorituskykyyn ja yleistettävyyteen.

Tutustu siihen, miten satunnaismetsät yhdistävät useita päätöspuita parantaakseen tarkkuutta ja vankkuutta. Ymmärrä satunnaisuuden rooli ja sovella tätä yhdistelmämallia reaalimaailman dataan.

Mallien arviointi mittareilla, kuten tarkkuus, precision, recall ja F1-pisteet. Sekamatriksien tulkinta ja useiden luokittelijoiden vertailu parhaan mallin tunnistamiseksi.

Mikä on päätöspuu