Visión General de las Redes Neuronales Artificiales

Las Redes Neuronales Artificiales (ANNs) constituyen la base de la IA Generativa moderna. Están diseñadas para reconocer patrones, aprender representaciones y generar datos que imitan distribuciones del mundo real. Se presenta una visión concisa y completa de las ANNs, destacando su importancia en la IA Generativa.

Estructura de las Redes Neuronales

Neuronas y Capas

Una red neuronal consiste en unidades interconectadas llamadas neuronas, que se organizan en capas:

• Capa de entrada: recibe datos sin procesar (por ejemplo, imágenes, texto, entradas numéricas);
• Capas ocultas: procesan y transforman los datos utilizando conexiones ponderadas;
• Capa de salida: genera predicciones o clasificaciones.

Cada neurona aplica una suma ponderada a sus entradas y pasa el resultado a través de una función de activación:

donde:

• $x_i$ son los valores de entrada;
• $\omega_i$ son los pesos;
• $b$ es el término de sesgo;
• $z$ es la suma ponderada que se pasa a la función de activación.

Funciones de activación

Las funciones de activación introducen no linealidad, permitiendo que las redes aprendan patrones complejos. Las funciones de activación más comunes incluyen:

• Sigmoide, utilizada para probabilidades: $\sigma(z)=\dfrac{1}{1+e^{-z}}$

• ReLU (Unidad Lineal Rectificada), utilizada comúnmente en redes profundas: $f(z)=\max(0,z)$

• Tanh, útil para salidas centradas en cero: $\tanh(z)=\dfrac{e^z-e^{-z}}{e^z+e^{-z}}$

Propagación hacia adelante y hacia atrás

Propagación hacia adelante

La propagación hacia adelante se refiere al paso de las entradas a través de la red para calcular la salida. Cada neurona calcula:

donde $f(z)$ es la función de activación.

Retropropagación y descenso de gradiente

Para mejorar las predicciones, las RNA ajustan los pesos utilizando retropropagación, que minimiza el error mediante descenso de gradiente. La regla de actualización de pesos en el descenso de gradiente es:

donde:

• $\eta$ es la tasa de aprendizaje;
• $L$ es la función de pérdida;
• $\frac{\partial L}{\partial \omega_i}$ es el gradiente de la pérdida respecto a $\omega_i$.

Funciones de pérdida y el proceso de entrenamiento

Funciones de pérdida

Las funciones de pérdida miden la diferencia entre los valores predichos y los valores reales. Las funciones de pérdida comunes incluyen:

• Error cuadrático medio (MSE) (para regresión):

• Pérdida de entropía cruzada (para clasificación):

donde:

• $y_i$ es la etiqueta verdadera;
• $\hat{y}_i$ es la probabilidad predicha.

Proceso de entrenamiento

1. Inicialización de pesos aleatoriamente;
2. Realización de propagación hacia adelante para calcular las predicciones;
3. Cálculo de la pérdida utilizando la función de pérdida seleccionada;
4. Uso de retropropagación para calcular las actualizaciones de los pesos;
5. Actualización de los pesos mediante descenso por gradiente;
6. Repetición durante múltiples épocas hasta que la red converja.

Teorema de aproximación universal y aprendizaje profundo

Teorema de aproximación universal

El Teorema de aproximación universal establece que una red neuronal con al menos una capa oculta puede aproximar cualquier función continua, dado un número suficiente de neuronas y pesos adecuados. Esto justifica por qué las RNA pueden modelar relaciones altamente complejas.

Aprendizaje profundo y su importancia

El aprendizaje profundo amplía las RNA añadiendo muchas capas ocultas, lo que les permite:

• Extraer características jerárquicas (útil en procesamiento de imágenes y PLN);
• Modelar distribuciones de probabilidad complejas (crítico para la IA generativa);
• Aprender sin ingeniería manual de características (como se observa en el aprendizaje auto-supervisado).

Conclusión

Este capítulo presentó los principios fundamentales de las redes neuronales artificiales (ANN), destacando su estructura, proceso de aprendizaje y relevancia en el aprendizaje profundo. Estos conceptos constituyen la base para técnicas avanzadas de IA generativa como GANs y VAEs, que dependen de redes neuronales para generar datos realistas.