Neuroverkot ovat mullistaneet koneoppimisen ja tekoälyn alan, tarjoten ratkaisuja ongelmiin, joita aiemmin pidettiin haastavina tai jopa ratkaisemattomina. On olemassa monia neuroverkkoarkkitehtuureja, joista jokainen on suunniteltu tietynlaisiin tehtäviin.

Syötteestä lähtöön etenevät neuroverkot (FNN) tai monikerroksiset perceptronit (MLP)

Tämä on klassinen neuroverkkoarkkitehtuuri, joka laajentaa yksikerroksisen perceptronin useampaan kerrokseen. Nämä ovat perusarkkitehtuureja, joiden pohjalta suurin osa muista neuroverkkotyypeistä rakentuu. Tämä on arkkitehtuuri, jota olemme käsitelleet tässä kurssissa.

Konvoluutiohermoverkot (CNN)

CNN:t ovat erityisen tehokkaita tehtävissä, kuten kuvankäsittelyssä (esimerkiksi kuvien luokittelu, kuvien segmentointi jne.), koska ne on suunniteltu oppimaan automaattisesti ja mukautuvasti avaruudellisia piirteiden hierarkioita.

Ne käyttävät konvoluutiokerroksia suodattaakseen syötteistä hyödyllistä tietoa. Nämä konvoluutiokerrokset pystyvät tunnistamaan kuvan avaruudellisia piirteitä kuten reunoja, kulmia, tekstuureja jne. Vaikka niiden suurin menestys on ollut kuvien luokittelussa, niillä on myös muita käyttökohteita.

Toistuvat neuroverkot (RNN)

RNN-verkot sisältävät silmukoita, jotka mahdollistavat informaation säilyvyyden. Toisin kuin syötteestä ulostuloon etenevät neuroverkot, RNN:t voivat hyödyntää sisäistä tilaansa (muistia) syötteiden jonoihin, mikä tekee niistä erittäin hyödyllisiä aikasarjojen tai sekventiaalisen datan käsittelyyn. Niitä käytetään laajasti sekvenssien ennustusongelmissa, kuten luonnollisen kielen käsittelyssä tai puheentunnistuksessa.

RNN:n variantit

1. Pitkäkestoisen muistin yksikkö (LSTM): ratkaisee RNN:ien katoavan gradientin ongelman, mikä helpottaa pitkäaikaisten riippuvuuksien oppimista;
2. Portilliset toistoyksiköt (GRU): yksinkertaisempi ja tehokkaampi LSTM:n muunnelma. Kuitenkin se oppii monimutkaisia kuvioita datasta heikommin kuin LSTM.

Syväoppimisen kirjastot

Syvien neuroverkkojen kouluttaminen vaatii enemmän kuin mitä perinteinen koneoppimiskirjasto scikit-learn tarjoaa. Yleisimmin käytetyt kirjastot syvien neuroverkkojen kanssa työskentelyyn ovat TensorFlow ja PyTorch. Tässä tärkeimmät syyt, miksi niitä suositaan tähän tarkoitukseen:

1. Suorituskyky ja skaalautuvuus: TensorFlow ja PyTorch on suunniteltu erityisesti suurten tietomäärien mallien kouluttamiseen ja ne toimivat tehokkaasti grafiikkaprosessoreilla (GPU), mikä nopeuttaa koulutusta;

2. Joustavuus: toisin kuin scikit-learn, TensorFlow ja PyTorch mahdollistavat mielivaltaisten neuroverkkorakenteiden, kuten toistuvien, konvoluutio- ja transformer-rakenteiden, luomisen;

3. Automaattinen differentiointi: yksi näiden kirjastojen keskeisistä ominaisuuksista on kyky laskea gradientit automaattisesti, mikä on olennaista neuroverkkojen painojen optimoinnissa.