Redes neurais revolucionaram o campo de aprendizado de máquina e IA, oferecendo soluções para problemas anteriormente considerados desafiadores ou até mesmo insolúveis. Existem diversas arquiteturas de redes neurais, cada uma adaptada para tipos específicos de tarefas.

Redes Neurais Feedforward (FNN) ou Perceptrons Multicamadas (MLP)

Esta é uma arquitetura clássica de rede neural, uma extensão direta do perceptron de camada única para múltiplas camadas. Estas são as arquiteturas fundamentais sobre as quais a maioria dos outros tipos de redes neurais são construídas. É a arquitetura que foi considerada neste curso.

Redes Neurais Convolucionais (CNN)

As CNNs são especialmente poderosas para tarefas como processamento de imagens (problemas como classificação de imagens, segmentação de imagens, etc.), pois são projetadas para aprender automaticamente e de forma adaptativa hierarquias espaciais de características.

Elas utilizam camadas convolucionais para filtrar entradas em busca de informações relevantes. Essas camadas convolucionais podem capturar as características espaciais de uma imagem, como bordas, cantos, texturas, etc. Embora seu principal sucesso tenha ocorrido no campo da classificação de imagens, elas possuem outras aplicações também.

Redes Neurais Recorrentes (RNN)

RNNs possuem laços que permitem a persistência de informações. Diferentemente das redes neurais feedforward, as RNNs podem utilizar seu estado interno (memória) para processar sequências de entradas, tornando-as extremamente úteis para séries temporais ou dados sequenciais. São amplamente utilizadas em problemas de previsão de sequências, como processamento de linguagem natural ou reconhecimento de fala.

Variantes das RNNs

1. Long short-term memory (LSTM): supera o problema do gradiente desaparecendo das RNNs, facilitando o aprendizado de dependências de longo prazo;
2. Gated recurrent units (GRU): uma variante mais simples e eficiente do LSTM. No entanto, aprende padrões complexos nos dados de forma inferior ao LSTM.

Bibliotecas para Deep Learning

O treinamento de redes neurais profundas exige mais do que a biblioteca clássica de machine learning scikit-learn oferece. As bibliotecas mais utilizadas para trabalhar com redes neurais profundas são TensorFlow e PyTorch. Aqui estão os principais motivos pelos quais elas são preferidas para essa tarefa:

1. Desempenho e escalabilidade: TensorFlow e PyTorch são projetadas especificamente para treinar modelos com grandes volumes de dados e podem rodar de forma eficiente em unidades de processamento gráfico (GPUs), acelerando o treinamento;

2. Flexibilidade: ao contrário do scikit-learn, TensorFlow e PyTorch permitem criar arquiteturas de redes neurais arbitrárias, incluindo estruturas recorrentes, convolucionais e transformers;

3. Diferenciação automática: uma das principais características dessas bibliotecas é a capacidade de calcular gradientes automaticamente, o que é essencial para otimizar os pesos em redes neurais.