Neuroverkot ovat mullistaneet koneoppimisen ja tekoälyn alan, tarjoten ratkaisuja ongelmiin, joita aiemmin pidettiin haastavina tai jopa ratkaisemattomina. On olemassa monia neuroverkkorakenteita, joista jokainen on suunniteltu tietynlaisiin tehtäviin.

Syötteestä lähtöön etenevät neuroverkot (FNN) tai monikerroksiset perceptronit (MLP)

Tämä on klassinen neuroverkkorakenne, joka laajentaa yksikerroksisen perceptronin useampaan kerrokseen. Nämä ovat perusrakenteita, joiden pohjalta suurin osa muista neuroverkkotyypeistä rakentuu. Tämä on arkkitehtuuri, jota olemme käsitelleet tässä kurssissa.

Konvoluutioneuroverkot (CNN)

CNN:t ovat erityisen tehokkaita tehtävissä, kuten kuvankäsittelyssä (esimerkiksi kuvien luokittelu, kuvasegmentointi jne.), koska ne on suunniteltu oppimaan automaattisesti ja mukautuvasti spatiaalisten piirteiden hierarkioita.

Ne käyttävät konvoluutiokerroksia suodattaakseen syötteistä olennaista tietoa. Nämä konvoluutiokerrokset pystyvät tunnistamaan kuvan spatiaalisia piirteitä, kuten reunoja, kulmia, tekstuureja jne. Vaikka niiden suurin menestys on ollut kuvien luokittelussa, niillä on myös muita käyttökohteita.

Toistuvat neuroverkot (RNN)

RNN-verkot sisältävät silmukoita, jotka mahdollistavat informaation säilymisen. Toisin kuin syötteestä ulostuloon etenevät neuroverkot, RNN:t voivat hyödyntää sisäistä tilaansa (muistia) syötteiden jonoihin, mikä tekee niistä erittäin hyödyllisiä aikasarjojen tai sekventiaalisen datan käsittelyyn. Niitä käytetään laajasti sekvenssien ennustusongelmissa, kuten luonnollisen kielen käsittelyssä tai puheentunnistuksessa.

RNN:n variantit

1. Long short-term memory (LSTM): ratkaisee RNN:ien katoavan gradientin ongelman, mikä helpottaa pitkäaikaisten riippuvuuksien oppimista;
2. Gated recurrent units (GRU): yksinkertaisempi ja tehokkaampi LSTM:n muunnelma. Kuitenkin se oppii monimutkaisia kuvioita datasta heikommin kuin LSTM.

Syväoppimisen kirjastot

Syvien neuroverkkojen kouluttaminen vaatii enemmän kuin perinteinen koneoppimiskirjasto scikit-learn tarjoaa. Yleisimmin käytetyt kirjastot syvien neuroverkkojen kanssa työskentelyyn ovat TensorFlow ja PyTorch. Tässä tärkeimmät syyt, miksi niitä suositaan tähän tarkoitukseen:

1. Suorituskyky ja skaalautuvuus: TensorFlow ja PyTorch on suunniteltu erityisesti suurten datamäärien mallien kouluttamiseen ja ne toimivat tehokkaasti grafiikkaprosessoreilla (GPU), mikä nopeuttaa koulutusta;

2. Joustavuus: toisin kuin scikit-learn, TensorFlow ja PyTorch mahdollistavat mielivaltaisten neuroverkkorakenteiden, kuten toistuvien, konvoluutio- ja transformer-verkkojen, rakentamisen;

3. Automaattinen differentiointi: yksi näiden kirjastojen keskeisistä ominaisuuksista on kyky laskea gradientit automaattisesti, mikä on olennaista neuroverkkojen painojen optimoinnissa.