Q-learning
# Q-learning

Q-learning es una técnica de aprendizaje por refuerzo utilizada en aprendizaje automático. El objetivo del Q-learning es aprender una serie de normas que le diga a un agente qué acción tomar bajo qué circunstancias. No requiere un modelo del entorno y puede manejar problemas con transiciones estocásticas y recompensas sin requerir adaptaciones.

Para cualquier proceso de decisión de Markov finito (PDMF) (finite Markov decision process en inglés), Q-learning encuentra una política óptima en el sentido de que maximiza el valor esperado de la recompensa total sobre todos los pasos sucesivos, empezando desde el estado actual. Q-learning puede identificar una norma de acción-selección óptima para cualquier PDMF, dado un tiempo de exploración infinito y una norma parcialmente aleatoria "Q" nombra la función que devuelve la recompensa que proporciona el refuerzo y representa la "calidad" de una acción tomada en un estado dado.

## Aprendizaje por refuerzo

El aprendizaje por refuerzo involucra a un agente, un conjunto de estados $\displaystyle S$, y un conjunto $\displaystyle {A}$ de acciones por estado. Llevando a cabo una acción $\displaystyle a\in A$, el agente pasa de un estado a otro.$a\in A$ La ejecución de una acción en un estado concreto le proporciona una recompensa al agente (una puntuación numérica).

El objetivo del agente es maximizar su recompensa total. Lo hace sumando la máxima recompensa alcanzable, en estados futuros, a la recompensa por alcanzar su estado actual, influyendo eficazmente en la acción actual por la futura recompensa potencial. Esta recompensa potencial es una suma ponderada de la esperanza matemática de las recompensas de los futuros pasos empezando desde el estado actual.

Como ejemplo, considérese el proceso de subir a un tren, en el que la recompensa se mide por el tiempo total de embarque en negativo (en otras palabras, el coste de subir al tren es igual a la rapidez del embarque). Una estrategia es entrar al tren tan pronto como se abran las puertas, minimizando el tiempo inicial de espera. No obstante, si el tren está lleno, la entrada será más lenta porque los pasajeros del interior estarán luchando por salir simultáneamente. El tiempo de embarque, o el coste, es:

* 0 segundos de espera + 15 segundos de lucha

Al día siguiente, por azar (exploración), en lugar de subir inmediatamente, el pasajero deja salir a los pasajeros del interior antes de subir al tren. En este caso el tiempo de entrada será mayor, pero el tiempo total de embarque se reduce, ya que los pasajeros del interior salen más rápidamente. Este camino tendrá+ una recompensa más alta que la del día anterior puesto que el tiempo de embarque es ahora:

* 5 segundos de espera + 0 segundo de lucha

A través de la exploración, se descubre que el coste total de esperar es menor a pesar de que la espera inicial es una acción con un coste inmediato mayor, comparado con la estrategia de entrar lo más rápidamente posible. Por ello, esperar a que otros pasajeros salgan del tren antes de entrar supone una estrategia con mayor recompensa.

## Algoritmo

El peso de un paso en un estado $\Delta {t}$pasos en el futuro se calcula como $\gamma ^{\Delta {t}}$. $\gamma$ (el factor de descuento) es un número entre 0 y 1 ($0\leq \gamma \leq 1$) y evalúa las recompensas recibidas anteriormente con un valor mayor que las recibidas posteriormente (reflejando el valor de un "buen inicio").$\gamma$también puede ser interpretada como la probabilidad de tener éxito (o sobrevivir) en cada paso $\Delta {t}$.

El algoritmo, por tanto, tiene una función que calcula la calidad de una combinación estado-acción:

    $\displaystyle Q:S\times A\rightarrow \mathbb {R}$.

Antes que comience el aprendizaje, $\displaystyle Q$ se inicializa a un valor arbitrario constante (escogido por el programador). Después, en cada tiempo $\displaystyle t$ el agente selecciona una acción $\displaystyle a_{t}$, observa una recompensa $r_{t}$, introduce un estado nuevo $s_{t+1}$ (Que depende del estado anterior $s_{t}$ y de la acción seleccionada), y $\displaystyle Q$se actualiza. El núcleo del algoritmo es una actualización del valor de la iteración simple, haciendo la media ponderada del valor antiguo y la información nueva:

    $\displaystyle Q^{new}(s_{t},a_{t})\leftarrow (1-\alpha )\cdot \underbrace {Q(s_{t},a_{t})} _{\text{old value}}+\underbrace {\alpha } _{\text{learning rate}}\cdot \overbrace {{\bigg\underbrace {r_{t}} _{\text{reward}}+\underbrace {\gamma } _{\text{discount factor}}\cdot \underbrace {\max _{a}Q(s_{t+1},a)} _{\text{estimate of optimal future value}}{\bigg )}} ^{\text{learned value}}$

Donde $r_{t}$ es la recompensa recibida al pasar del estado $s_{t}$ al estado $s_{t+1}$, y $\alpha$ es el índice de aprendizaje ($0<\alpha \leq 1$).

Un episodio del algoritmo termina cuando el estado $s_{t+1}$es un estado final o terminal. Aun así, Q-learning también puede aprender en tareas sin episodios. Si el factor de descuento es menor que 1, los valores de acción son finitos incluso si el problema puede contener bucles infinitos.

Para todos los estados finales $\displaystyle s_{f}$, $\displaystyle Q(s_{f},a)$ nunca se actualiza, pero se fija al valor de recompensa $r$ observado para el estado $s_{f}$. En la mayoría de los casos, $\displaystyle Q(s_{f},a)$$Q(s_{f},a)$puede ser igualado a 0.

## Influencia de variables

### Exploración vs beneficio

El índice de aprendizaje o tamaño del paso determina hasta qué punto la información adquirida sobrescribe la información vieja. Un factor de 0 hace que el agente no aprenda (únicamente aprovechando el conocimiento previo), mientras un factor de 1 hace que el agente considere solo la información más reciente (ignorando el conocimiento previo para explorar posibilidades).

En entornos totalmente deterministas, un índice de aprendizaje de $\alpha _{t}=1$ es óptimo.$\alpha _{t}=1$ Cuándo el problema es estocástico, el algoritmo converge bajo determinadas condiciones técnicas en el índice de aprendizaje que requiere un descenso hasta cero. En la práctica, a menudo se utiliza un índice de aprendizaje constante, como $\alpha _{t}=0.1$para todo $t$.$\alpha _{t}=0.1$$t$

### Factor de descuento

El factor de descuento $\gamma$ determina la importancia de recompensas futuras. Un factor de 0 hará que el agente sea "miope" (o corto de miras) por considerar únicamente las recompensas actuales, i.e. $r_{t}$ (en la regla de actualización anterior), mientras que un factor que se acerca a 1 hará que luche por una recompensa alta a largo plazo.$r_{t}$

Si el factor de descuento es mayor o igual a 1, los valores de acción pueden divergir. Para $\gamma =1$, sin un estado terminal, o si el agente nunca llega a uno, todos los historiales se vuelven infinitamente largos, y funciones aditivas, recompensas discontinuas generalmente tienden a infinito. Incluso con un factor de descuento ligeramente menor que 1, el aprendizaje de Q-función lleva a la propagación de errores e inestabilidades cuando la función de valor está aproximada con una red neuronal artificial. En ese caso, empezando con un factor de descuento menor y aumentándolo hacia su valor final se acelera el aprendizaje.

### Condiciones iniciales (Q0)

Al ser Q-learning un algoritmo iterativo, implícitamente supone una condición inicial antes de que se de la primera actualización. Los valores iniciales altos, también conocidos como "condiciones iniciales optimistas", pueden promover la exploración: independientemente de la acción seleccionada, la regla de actualización provocará que tenga valores menores que la otra alternativa, y por tanto aumentará su probabilidad de elección. La primera recompensa $r$ puede ser utilizada para reiniciar las condiciones iniciales. Según esta idea, la primera vez que se elige una acción, se fija el valor de la recompensa a $\displaystyle Q$. Esto permite el aprendizaje inmediato en caso de recompensas deterministas fijas. Un modelo que incorpore reinicialización de condiciones iniciales (RCI), tiende a pronosticar el comportamiento de los participantes mejor que un modelo que suponga cualquier condición inicial arbitraria (CIA). Sin embargo, la RCI parece ser consistente con el comportamiento humano en repetidos experimentos de elección binaria.

## Implementación

Q-learning simplemente guarda información en tablas. Esta aproximación flaquea con números crecientes de acciones/estados.

### Aproximación de funciones

Q-learning se puede combinar con aproximación de funciones. Esto hace posible la aplicación del algoritmo a problemas más largos, incluso cuando el espacio de estados es continuo.

Una solución es utilizar una red neuronal artificial (adaptado) como aproximador de funciones. La aproximación de funciones puede acelerar el aprendizaje en problemas finitos, debido a que el algoritmo puede generalizar experiencias previas a estados no vistos anteriormente.

### Cuantificación

Esta técnica para disminuir el espacio de acciones/estados cuantifica los posibles valores. Considérese el ejemplo de aprender a equilibrar un palo en un dedo. Para describir un estado en un punto concreto en el tiempo involucra la posición del dedo en el espacio, su velocidad, el ángulo del palo y la velocidad angular del palo. Esto produce un vector de cuatro elementos que describe un estado, i.e. una captura de un estado codificado con cuatro valores. El problema es que están presentes infinitos estados posibles. Para encoger el espacio posible de las acciones válidas se pueden descartar muchos valores. La distancia exacta del dedo desde su posición de inicio (-infinito a infinito) no se conoce, sino si está lejos (cerca, lejos).

## Historia

Q-learning fue introducido por Watkins en 1989. Watkins presentó una prueba de convergencia a Dayan en 1992. Una prueba matemática más detallada fue expuesta por Tsitsiklis en 1994, y por Bertsekas y Tsitsiklis en su libro de 1996 Neuro-Dynamic Programming.

Watkins lo señalaba ya el título de la tesis de su doctorado “Learning from delayed rewards” (Aprendiendo de las recompensas tardías). Ocho años antes en 1981 el mismo problema, bajo el nombre de “aprendizaje por refuerzo tardío”, que fue solucionado por Bozinovski's Crossbar Adaptive Array (CAA). La matriz de memoria W(a,s) es exactamente igual que la Q-table de Q-learning de ocho años más tarde. La arquitectura introdujo el término “evaluación de estado” en aprendizaje por refuerzo. El algoritmo de aprendizaje crossbar (escrito en pseudocódigo matemático en papel) realiza los siguientes cálculos en cada iteración:

* En el estado s efectúa la acción a;
* En consecuencia recibe el estado s';
* Realiza la valuación del estado v(s');
* Actualiza el valor crossbar W'(a,s) = W(a,s) + v(s').

El término “refuerzo secundario” viene de la teoría de aprendizaje animal, utilizada para modelar los valores de estado a través de propagación hacia atrás: el valor de estado v(s') de la situación consecuente es propagado hacia atrás hacia las situaciones encontradas previamente. CAA calcula los valores de estados verticalmente y las acciones horizontalmente (el "crossbar"). Grafos de demostración nos muestran los estados contenidos en el aprendizaje por refuerzo tardío (deseables, indeseables, y estados neutros), que han sido calculados por la función de evaluación de estados. Este sistema de aprendizaje fue el precursor del algoritmo Q-learning.

En 2014 Google DeepMind patentó una aplicación de Q-learning de cara al aprendizaje profundo, llamado "aprendizaje de refuerzo profundo" o "Q-learning profundo" que puede jugar a los juegos Atari 2600 en niveles humanos expertos.

## Variantes

### Q-learning profundo

El sistema DeepMind utilizó redes neuronales convolucionales profundas, con capas de filtros convolucionados enladrillados para asemejar los efectos de los campos receptivos. El aprendizaje por refuerzo es inestable o divergente cuando un aproximador de funciones no lineales se utiliza para representar Q. Esta inestabilidad proviene de la correlación presente en las secuencias de observación, el hecho de que actualizaciones pequeñas de Q puedan cambiar significativamente la política y la distribución de los datos, y las correlaciones entre Q y los valores objetivo.

La técnica utilizó repetición de experiencia, un mecanismo biológicamente inspirado que usa una muestra aleatoria de acciones previas en vez de la acción más reciente para continuar. Esto elimina las correlaciones en la secuencia de observación y suaviza los cambios en la distribución de los datos. La actualización iterativa ajusta Q de cara a los valores objetivo que solo se actualizan periódicamente, reduciendo más adelante las correlaciones con el objetivo.

### Q-learning doble

Puesto que el valor futuro máximo aproximado de una acción en Q-learning se evalúa utilizando la misma función Q que en la política de acción actualmente seleccionada, en entornos ruidosos Q-learning a veces puede sobrestimar los valores de la acción, retrasando el aprendizaje. Se propuso una variante llamada Q-learning doble para corregir esto. Q-learning doble es un algoritmo de aprendizaje por refuerzo sin política, donde una política diferente se utiliza para la evaluación del valor que se usa para seleccionar próxima acción.

En la práctica, dos funciones de valor diferentes se entrenan en $Q^{A}$una moda simétrica mutua usando experiencias separadas, $\displaystyle Q^{A}$y $\displaystyle Q^{B}$.$Q^{A}$$Q^{B}$ El paso de actualización de Q-learning doble es, por tanto, así:

    $\displaystyle Q_{t+1}^{A}(s_{t},a_{t})=Q_{t}^{A}(s_{t},a_{t})+\alpha _{t}(s_{t},a_{t}){\Biglr_{t}+\gamma Q_{t}^{B}{\Bigls_{t+1},\arg _{a}\max Q_{t}^{A}(s_{t+a},a)-Q_{t}^{A}(s_{t},a_{t}){\Bigr )}$, y

Ahora el valor estimado del futuro descontado se evalúa utilizando una política diferente, lo cual soluciona el problema de la sobrestimación.

Este algoritmo se combinó más tarde con aprendizaje profundo, como el algoritmo DQN, resultando en doble DQN, el cual supera en rendimiento el algoritmo DQN original.

### Otros

Q-learning tardío es una implementación alternativa del algoritmo Q-learning online, con aprendizaje correcto probablemente aproximado (PAC).

El "Avaro GQ" es una variante de Q-learning para combinarlo con aproximación de funciones (lineales). La ventaja del "Avaro GQ" es que la convergencia es garantizada incluso cuando la aproximación de funciones se usa para estimar los valores de acción.

