Las Redes Neuronales Artificiales (ANN, por sus siglas en inglés) constituyen la base de la IA Generativa moderna. Están diseñadas para reconocer patrones, aprender representaciones y generar datos que imitan distribuciones del mundo real. Aquí se presenta una visión concisa y completa de las ANN, destacando su importancia en la IA Generativa.

Estructura de las Redes Neuronales

Neuronas y Capas

Una red neuronal está compuesta por unidades interconectadas llamadas neuronas, que se organizan en capas:

• Capa de entrada: recibe datos sin procesar (por ejemplo, imágenes, texto, entradas numéricas);
• Capas ocultas: procesan y transforman los datos mediante conexiones ponderadas;
• Capa de salida: produce predicciones o clasificaciones.

Cada neurona aplica una suma ponderada a sus entradas y pasa el resultado a través de una función de activación:

donde:

• $x_i$ son los valores de entrada;
• $\omega_i$ son los pesos;
• $b$ es el término de sesgo;
• $z$ es la suma ponderada que se pasa a la función de activación.

Funciones de activación

Las funciones de activación introducen no linealidad, permitiendo que las redes aprendan patrones complejos. Las funciones de activación más comunes incluyen:

• Sigmoide, utilizada para probabilidades: $\sigma(z)=\dfrac{1}{1+e^{-z}}$

• ReLU (Unidad Lineal Rectificada), utilizada comúnmente en redes profundas: $f(z)=\max(0,z)$

• Tanh, útil para salidas centradas en cero: $\tanh(z)=\dfrac{e^z-e^{-z}}{e^z+e^{-z}}$

Propagación hacia adelante y hacia atrás

Propagación hacia adelante

La propagación hacia adelante se refiere al paso de las entradas a través de la red para calcular la salida. Cada neurona calcula:

donde $f(z)$ es la función de activación.

Retropropagación y descenso de gradiente

Para mejorar las predicciones, las RNA ajustan los pesos utilizando la retropropagación, que minimiza el error mediante descenso de gradiente. La regla de actualización de pesos en el descenso de gradiente es:

donde:

• $\eta$ es la tasa de aprendizaje;
• $L$ es la función de pérdida;
• $\frac{\partial L}{\partial \omega_i}$ es el gradiente de la pérdida con respecto a $\omega_i$.

Funciones de pérdida y el proceso de entrenamiento

Funciones de pérdida

Las funciones de pérdida miden la diferencia entre los valores predichos y los valores reales. Las funciones de pérdida comunes incluyen:

• Error cuadrático medio (MSE) (para regresión):

• Pérdida de entropía cruzada (para clasificación):

donde:

• $y_i$ es la etiqueta verdadera;
• $\hat{y}_i$ es la probabilidad predicha.

Proceso de entrenamiento

1. Inicialización aleatoria de los pesos;
2. Propagación hacia adelante para calcular las predicciones;
3. Cálculo de la pérdida utilizando la función de pérdida seleccionada;
4. Uso de retropropagación para calcular las actualizaciones de los pesos;
5. Actualización de los pesos mediante descenso de gradiente;
6. Repetición durante múltiples épocas hasta la convergencia de la red.

El Teorema de Aproximación Universal y el Aprendizaje Profundo

Teorema de Aproximación Universal

El Teorema de Aproximación Universal establece que una red neuronal con al menos una capa oculta puede aproximar cualquier función continua, siempre que cuente con suficientes neuronas y pesos adecuados. Esto justifica por qué las RNA pueden modelar relaciones altamente complejas.

Aprendizaje Profundo y su Importancia

El Aprendizaje Profundo amplía las RNA añadiendo muchas capas ocultas, lo que les permite:

• Extraer características jerárquicas (útil en procesamiento de imágenes y PLN);
• Modelar distribuciones de probabilidad complejas (crítico para la IA Generativa);
• Aprender sin ingeniería manual de características (como se observa en el aprendizaje auto-supervisado).

Conclusión

Este capítulo presentó los principios fundamentales de las RNA, enfatizando su estructura, proceso de aprendizaje e importancia en el aprendizaje profundo. Estos conceptos constituyen la base para técnicas avanzadas de IA Generativa como GAN y VAE, que dependen de redes neuronales para generar datos realistas.