Summary  
This chapter explains the internal mechanics of Long Short-Term Memory networks, detailing how forget, input, and output gates regulate information flow to capture long-term dependencies and prevent vanishing gradients.  

General domain of usage  
Time-series forecasting (e.g., predicting financial or production trends)

**Long short-term memory** (**LSTM**) netwerken worden geïntroduceerd als een type RNN-architectuur die is ontworpen om de problemen van **vervagende gradiënten** en **langetermijnafhankelijkheden** aan te pakken. LSTM's zijn in staat om informatie gedurende langere perioden te onthouden, waardoor ze bijzonder nuttig zijn voor taken met sequenties.

Definitie

- **LSTM-structuur**: LSTM's bestaan uit drie hoofdcomponenten—**forget gate** (vergeetpoort), **input gate** (invoergate) en **output gate** (uitvoergate). Deze poorten regelen de informatiestroom in het netwerk, waardoor het kan bepalen wat onthouden en wat vergeten moet worden;  
- **Forget gate**: de vergeetpoort bepaalt welke informatie uit de vorige tijdstap moet worden weggegooid. Het geeft een waarde tussen 0 en 1, waarbij 0 "vergeten" betekent en 1 "behouden" van de informatie;  
- **Input gate**: de invoergate regelt welke nieuwe informatie aan de celstatus wordt toegevoegd. Ook deze geeft een waarde tussen 0 en 1, waarmee wordt bepaald hoeveel van de nieuwe data wordt opgenomen;  
- **Output gate**: de uitvoergate bepaalt welk deel van de celstatus wordt uitgevoerd. De celstatus wordt bij elke tijdstap bijgewerkt op basis van de interacties tussen deze poorten;  
- **Voordelen van LSTM's**: LSTM's zijn beter in het omgaan met langetermijnafhankelijkheden dan traditionele RNN's. De poorten in een LSTM helpen het **vervagende gradiëntenprobleem** te voorkomen, waardoor het netwerk in staat is om informatie over veel tijdstappen te leren en te onthouden.



Samengevat zijn LSTM's een krachtige uitbreiding van RNN's die belangrijke beperkingen van traditionele RNN's aanpakken, met name bij het werken met lange reeksen of taken waarbij het noodzakelijk is om informatie over tijd te onthouden.

Welke van de volgende is GEEN onderdeel van de LSTM-architectuur?

Richt zich uitsluitend op Recurrent Neural Networks (RNN's) en hun toepassing bij sequentiegeneratie. Deze geavanceerde module behandelt de kernprincipes van RNN's en praktische benaderingen voor het modelleren van sequentiële data, ter voorbereiding op het werken met LSTM- en GRU-netwerken in Python.

Long Short-Term Memory (LSTM)-netwerken