Summary  
This chapter explains how the sigmoid and tanh activation functions map inputs into fixed ranges—[0,1] for sigmoid and [–1,1] for tanh—and how these ranges are used as gating mechanisms in recurrent neural networks to control information retention and state updates.  

General domain of usage  
Recurrent neural networks

**Sigmoid**- och **tanh**-aktiveringsfunktionerna undersöks, eftersom de spelar en avgörande roll i funktionen hos **RNN:er**.

**Sigmoid**- och **tanh**-funktionerna omvandlar indata till utdata, vilket möjliggör för modellen att göra prediktioner.


Definition

- **Sigmoidaktivering**: sigmoidfunktionen avbildar indata till ett utdataområde mellan 0 och 1. Den används ofta vid binära klassificeringsuppgifter, eftersom dess utdata kan tolkas som en sannolikhet. Dock lider den av **försvinnande gradientproblem** när indata är mycket stora eller mycket små;  
- **Tanh-aktivering**: **tanh**-funktionen liknar sigmoid men avbildar indata till ett utdataområde mellan -1 och 1. Den hjälper till att centrera data kring noll, vilket kan underlätta inlärning. Trots sina fördelar lider även denna av försvinnande gradientproblem i vissa situationer;  
- **Funktion av sigmoid och tanh**: båda funktionerna komprimerar indata till ett begränsat intervall. Den huvudsakliga skillnaden ligger i deras utdataområde: **sigmoid** (0 till 1) kontra **tanh** (-1 till 1), vilket påverkar hur nätverket bearbetar och uppdaterar information.

I nästa kapitel kommer vi att titta på hur dessa aktiveringsfunktioner spelar en roll i **LSTM**-nätverk och hur de hjälper till att övervinna vissa begränsningar hos standard-RNN:er.


Vad är utdataområdet för sigmoidaktiveringsfunktionen?

Fokuserar uteslutande på rekurrenta neurala nätverk (RNN) och deras tillämpning för sekvensgenerering. Denna avancerade modul täcker den grundläggande teorin om RNN samt praktiska metoder för modellering av sekventiell data, och förbereder dig för praktiskt arbete med LSTM- och GRU-nätverk i Python.

Sigmoid- och Tanh-aktiveringsfunktioner för RNN:er