Summary  
This chapter explains how the sigmoid and tanh activation functions map inputs into fixed ranges—[0,1] for sigmoid and [–1,1] for tanh—and how these ranges are used as gating mechanisms in recurrent neural networks to control information retention and state updates.  

General domain of usage  
Recurrent neural networks

De **sigmoid**- en **tanh**-activatiefuncties worden besproken, aangezien zij een cruciale rol spelen in de werking van **RNN's**.

De **sigmoid**- en **tanh**-functies transformeren invoerwaarden naar uitvoerwaarden, waardoor het model voorspellingen kan doen.


Definitie

- **Sigmoid-activatie**: de sigmoidfunctie zet invoerwaarden om naar een uitvoerbereik tussen 0 en 1. Deze wordt vaak gebruikt bij binaire classificatietaken, omdat de uitvoer geïnterpreteerd kan worden als een waarschijnlijkheid. Echter, deze functie ondervindt het **vervaagprobleem van de gradiënt** wanneer de invoerwaarden zeer groot of zeer klein zijn;  
- **Tanh-activatie**: de **tanh**-functie lijkt op de sigmoid, maar zet de invoerwaarden om naar een uitvoerbereik tussen -1 en 1. Dit helpt om de data rond nul te centreren, wat het leerproces kan ondersteunen. Ondanks deze voordelen ondervindt ook deze functie in bepaalde situaties het vervaagprobleem van de gradiënt;  
- **Werking van sigmoid en tanh**: beide functies werken door de invoerwaarden samen te persen tot een begrensd bereik. Het belangrijkste verschil zit in hun uitvoerbereik: **sigmoid** (0 tot 1) versus **tanh** (-1 tot 1), wat invloed heeft op hoe het netwerk informatie verwerkt en bijwerkt.

In het volgende hoofdstuk bekijken we hoe deze activatiefuncties een rol spelen in **LSTM**-netwerken en hoe ze helpen enkele beperkingen van standaard RNN's te overwinnen.


Wat is het uitvoerbereik van de sigmoid-activatiefunctie?

Richt zich uitsluitend op Recurrent Neural Networks (RNN's) en hun toepassing bij sequentiegeneratie. Deze geavanceerde module behandelt de kernprincipes van RNN's en praktische benaderingen voor het modelleren van sequentiële data, ter voorbereiding op het werken met LSTM- en GRU-netwerken in Python.

Sigmoid- en Tanh-Activaties voor RNN's