Las redes neuronales han revolucionado el campo del aprendizaje automático y la inteligencia artificial, proporcionando soluciones a problemas previamente considerados desafiantes o incluso irresolubles. Existen muchas arquitecturas de redes neuronales, cada una adaptada para tipos de tareas específicas.

Redes Neuronales Feedforward (FNN) o Perceptrones Multicapa (MLP)

Esta es una arquitectura clásica de red neuronal, una extensión directa del perceptrón de una sola capa a múltiples capas. Estas son las arquitecturas fundamentales sobre las cuales se construyen la mayoría de los otros tipos de redes neuronales. Es la arquitectura que se ha considerado en este curso.

Redes Neuronales Convolucionales (CNN)

Las CNN son especialmente potentes para tareas como el procesamiento de imágenes (problemas como la clasificación de imágenes, segmentación de imágenes, etc.) porque están diseñadas para aprender de manera automática y adaptativa jerarquías espaciales de características.

Utilizan capas convolucionales para filtrar las entradas en busca de información útil. Estas capas convolucionales pueden captar las características espaciales de una imagen como bordes, esquinas, texturas, etc. Aunque su principal éxito ha sido en el campo de la clasificación de imágenes, también tienen otras aplicaciones.

Redes Neuronales Recurrentes (RNN)

Las RNN tienen bucles que permiten la persistencia de la información. A diferencia de las redes neuronales feedforward, las RNN pueden utilizar su estado interno (memoria) para procesar secuencias de entradas, lo que las hace extremadamente útiles para series temporales o datos secuenciales. Se utilizan ampliamente para problemas de predicción de secuencias, como el procesamiento de lenguaje natural o el reconocimiento de voz.

Variantes de las RNN

1. Long short-term memory (LSTM): supera el problema del gradiente desvanecido de las RNN, facilitando el aprendizaje de dependencias a largo plazo;
2. Gated recurrent units (GRU): una variante más simple y eficiente de LSTM. Sin embargo, aprende patrones complejos en los datos peor que LSTM.

Bibliotecas para Deep Learning

El entrenamiento de redes neuronales profundas requiere más de lo que ofrece la biblioteca clásica de aprendizaje automático scikit-learn. Las bibliotecas más utilizadas para trabajar con redes neuronales profundas son TensorFlow y PyTorch. Estas son las principales razones por las que se prefieren para esta tarea:

1. Rendimiento y escalabilidad: TensorFlow y PyTorch están diseñadas específicamente para entrenar modelos con grandes cantidades de datos y pueden ejecutarse eficientemente en unidades de procesamiento gráfico (GPU), lo que acelera el entrenamiento;

2. Flexibilidad: a diferencia de scikit-learn, TensorFlow y PyTorch permiten crear arquitecturas de redes neuronales arbitrarias, incluidas estructuras recurrentes, convolucionales y de transformadores;

3. Diferenciación automática: una de las características clave de estas bibliotecas es la capacidad de calcular automáticamente los gradientes, lo cual es esencial para optimizar los pesos en redes neuronales.