El aprendizaje por refuerzo (RL) es una rama poderosa del aprendizaje automático enfocada en entrenar agentes inteligentes mediante la interacción con su entorno. En este curso, aprenderá cómo los agentes descubren gradualmente comportamientos efectivos a través del ensayo y error. Comenzando con conceptos fundamentales como los procesos de decisión de Markov y los bandidos de varios brazos, avanzará por programación dinámica, métodos de Monte Carlo y aprendizaje por diferencia temporal.

Esta sección presenta los principios fundamentales del aprendizaje por refuerzo, abarcando sus características definitorias, fundamentos matemáticos y el modo en que los agentes aprenden a partir de la interacción y la retroalimentación. También se trabajará con herramientas esenciales para prepararse en la construcción y entrenamiento de los primeros agentes de RL.

Esta sección explora el problema del bandido de varios brazos, un excelente escenario para comprender el dilema entre exploración y explotación. Aprenderá e implementará algoritmos que ayudan a los agentes a tomar decisiones bajo incertidumbre, equilibrando la maximización de recompensas con la necesidad de explorar.

Esta sección presenta la programación dinámica como un método potente para resolver problemas de aprendizaje por refuerzo cuando se dispone de un modelo completo del entorno. Aprenderá a evaluar y mejorar políticas utilizando las ecuaciones de Bellman y explorará técnicas fundamentales como la iteración de políticas, la iteración de valores y la iteración generalizada de políticas, construyendo la base teórica para futuros métodos sin modelo.

Esta sección introduce los métodos de Monte Carlo para aprender funciones de valor y políticas a partir de episodios completos de experiencia. Se explorarán enfoques tanto en política como fuera de política, se analizará cómo la exploración afecta el aprendizaje y se implementarán técnicas incrementales para estimar retornos de manera eficiente, todo ello sin necesidad de un modelo del entorno.

Esta sección presenta el aprendizaje por diferencia temporal (TD), un método fundamental en el aprendizaje por refuerzo que combina ideas de Monte Carlo y programación dinámica. Aprenderá a estimar funciones de valor a partir de episodios incompletos, explorará enfoques tanto en política (SARSA) como fuera de política (Q-learning), y descubrirá cómo se pueden combinar los métodos de Monte Carlo y el aprendizaje TD.

Desafío: Métodos de Monte Carlo

Desafío

Awesome!

Desafío: Métodos de Monte Carlo

Desafío