Summary  
This chapter explains the policy iteration algorithm, which alternates between fully evaluating a given policy’s value function and greedily improving the policy based on that value until convergence.

General domain of usage  
Reinforcement learning

La idea detrás de la **iteración de políticas** es simple:
1. Tomar una $$\pi$$ y $$v$$ iniciales;
2. Utilizar la evaluación de políticas para actualizar $$v$$ hasta que sea consistente con $$\pi$$;
3. Utilizar la mejora de políticas para actualizar $$\pi$$ hasta que sea codiciosa con respecto a $$v$$;
4. Repetir los pasos 2-3 hasta la convergencia.

En este método, **no hay actualizaciones parciales**:
- Durante la **evaluación de políticas**, los valores se actualizan para cada estado, hasta que sean consistentes con la política actual;
- Durante la **mejora de políticas**, la política se vuelve codiciosa con respecto a la función de valor.

Según el pseudocódigo, ¿qué condición hace que el ciclo externo de la iteración de políticas se detenga?

El aprendizaje por refuerzo (RL) es una rama poderosa del aprendizaje automático enfocada en entrenar agentes inteligentes mediante la interacción con su entorno. En este curso, aprenderá cómo los agentes descubren gradualmente comportamientos efectivos a través del ensayo y error. Comenzando con conceptos fundamentales como los procesos de decisión de Markov y los bandidos de varios brazos, avanzará por programación dinámica, métodos de Monte Carlo y aprendizaje por diferencia temporal.

Esta sección presenta los principios fundamentales del aprendizaje por refuerzo, abarcando sus características definitorias, fundamentos matemáticos y el modo en que los agentes aprenden a partir de la interacción y la retroalimentación. También se trabajará con herramientas esenciales para prepararse en la construcción y entrenamiento de los primeros agentes de RL.

Esta sección explora el problema del bandido de varios brazos, un excelente escenario para comprender el dilema entre exploración y explotación. Aprenderá e implementará algoritmos que ayudan a los agentes a tomar decisiones bajo incertidumbre, equilibrando la maximización de recompensas con la necesidad de explorar.

Esta sección presenta la programación dinámica como un método potente para resolver problemas de aprendizaje por refuerzo cuando se dispone de un modelo completo del entorno. Aprenderá a evaluar y mejorar políticas utilizando las ecuaciones de Bellman y explorará técnicas fundamentales como la iteración de políticas, la iteración de valores y la iteración generalizada de políticas, construyendo la base teórica para futuros métodos sin modelo.

Esta sección introduce los métodos de Monte Carlo para aprender funciones de valor y políticas a partir de episodios completos de experiencia. Se explorarán enfoques tanto en política como fuera de política, se analizará cómo la exploración afecta el aprendizaje y se implementarán técnicas incrementales para estimar retornos de manera eficiente, todo ello sin necesidad de un modelo del entorno.

Esta sección presenta el aprendizaje por diferencia temporal (TD), un método fundamental en el aprendizaje por refuerzo que combina ideas de Monte Carlo y programación dinámica. Aprenderá a estimar funciones de valor a partir de episodios incompletos, explorará enfoques tanto en política (SARSA) como fuera de política (Q-learning), y descubrirá cómo se pueden combinar los métodos de Monte Carlo y el aprendizaje TD.

Iteración de Políticas

Pseudocódigo

Awesome!

Iteración de Políticas

Pseudocódigo