Descenso de gradiente estocástico
# Descenso de gradiente estocástico

El descenso de gradiente estocástico (en inglés: Stochastic gradient descent, a menudo abreviado como SGD) es un método iterativo para optimizar una función objetivo con propiedades de suavidad adecuadas (por ejemplo, diferenciable o subdiferenciable). Puede considerarse una aproximación estocástica de la optimización por descenso de gradiente, ya que sustituye el gradiente real (calculado a partir de todo el conjunto de datos) por una estimación del mismo (calculada a partir de un subconjunto de datos seleccionados aleatoriamente). Especialmente en problemas de optimización de alta dimensión, esto reduce la elevadísima carga computacional, consiguiendo iteraciones más rápidas a cambio de una menor tasa de convergencia.
Aunque la idea básica de la aproximación estocástica se remonta al algoritmo Robbins-Monro de la década de 1950, el descenso de gradiente estocástico se ha convertido en un importante método de optimización en el aprendizaje automático.

# Descenso de gradiente estocástico
## Antecedentes

Tanto la estimación estadística como el aprendizaje automático consideran el problema de minimizar una función objetivo que tiene la forma de una suma:
$Q(w)={\frac {1}{n}}\sum _{i=1}^{n}Q_{i}(w),$
en la que el parámetro $w$ que minimiza $Q(w)$ será estimado. Cada una de las funciones sumando $Q_{i}$ suele estar asociada a la observación $i$-n del conjunto de datos (utilizado para el entrenamiento).
En la estadística clásica, los problemas de minimización de sumas surgen en los mínimos cuadrados y en la estimación de máxima verosimilitud (para observaciones independientes). La clase general de estimadores que surgen como minimizadores de sumas se denominan estimadores M (o M-estimador). Sin embargo, en estadística se reconoce desde hace tiempo que exigir incluso una minimización local es demasiado restrictivo para algunos problemas de estimación de máxima verosimilitud. Por lo tanto, los teóricos estadísticos contemporáneos suelen considerar puntos estacionarios de la función de verosimilitud (o ceros de su derivada, la función de puntuación y otras ecuaciones de estimación).
El problema de minimización de la suma también se plantea en la minimización del riesgo empírico. En este $Q_{i}(w)$ es el valor de la función de pérdida en el ejemplo de $i$-n, y $Q(w)$ es el riesgo empírico.
Cuando se utiliza para minimizar la función anterior, un método de descenso de gradiente estándar (o "por lotes") realizaría las siguientes iteraciones:
$w:=w-\eta \nabla Q(w)=w-{\frac {\eta }{n}}\sum _{i=1}^{n}\nabla Q_{i}(w),$
donde $\eta$ es un step size (a veces llamado tasa de aprendizaje en el aprendizaje automático).
En muchos casos, las funciones sumando tienen una forma simple que permite evaluaciones económicas de la función suma y del gradiente de la suma. Por ejemplo, en estadística, las familias exponenciales de un parámetro permiten evaluaciones económicas de la función y del gradiente.
Sin embargo, en otros casos, la evaluación del gradiente de la suma puede requerir costosas evaluaciones de los gradientes de todas las funciones sumando. Cuando el conjunto de entrenamiento es enorme y no existen fórmulas sencillas, la evaluación de las sumas de gradientes resulta muy costosa, porque evaluar el gradiente requiere evaluar todos los gradientes de las funciones sumando. Para economizar el coste computacional en cada iteración, el descenso de gradiente estocástico muestrea un subconjunto de funciones sumando en cada paso (en inglés: step). Esto resulta muy eficaz en el caso de problemas de aprendizaje automático a gran escala.

# Descenso de gradiente estocástico
## Método iterativo

En el descenso de gradiente estocástico (o "en línea"), el verdadero gradiente de $Q(w)$ se aproxima por un gradiente en una sola muestra:
$w:=w-\eta \nabla Q_{i}(w).$
A medida que el algoritmo recorre el conjunto de entrenamiento, realiza la actualización anterior para cada muestra de entrenamiento. Se pueden realizar varias pasadas por el conjunto de entrenamiento hasta que el algoritmo converja. Si se hace esto, los datos pueden barajarse en cada pasada para evitar ciclos. Las implementaciones típicas pueden utilizar una tasa de aprendizaje adaptativa para que el algoritmo converja.
En pseudocódigo, el descenso de gradiente estocástico puede presentarse como:
* Elegir un vector inicial de parámetros $w$ y tasa de aprendizaje $\eta$.
* Repita la operación hasta obtener un mínimo aproximado:
** Barajar aleatoriamente las muestras del conjunto de entrenamiento.
** Para $i=1,2,...,n$, realizar:
*** $w:=w-\eta \nabla Q_{i}(w).$
Un compromiso entre calcular el gradiente verdadero y el gradiente en una sola muestra es calcular el gradiente contra más de una muestra de entrenamiento (llamado "mini-lote") en cada paso. Esto puede funcionar significativamente mejor que el descenso de gradiente estocástico "verdadero" descrito, porque el código puede hacer uso de bibliotecas de vectorización en lugar de calcular cada fase por separada, como se mostró por primera vez en el llamado "algoritmo de retropropagación en modo de lote". También puede dar lugar a una convergencia más suave, ya que el gradiente calculado en cada paso se promedia sobre más muestras de entrenamiento.
La convergencia del descenso de gradiente estocástico se ha analizado utilizando las teorías de la minimización convexa y de la aproximación estocástica. Brevemente, cuando las tasas de aprendizaje $\eta$ disminuyen con una tasa apropiada, y sujeto a supuestos relativamente suaves, el descenso de gradiente estocástico converge casi seguro a un mínimo global cuando la función objetivo es convexa o pseudoconvexa, y en caso contrario converge casi con seguridad a un mínimo local. Esto es, de hecho, una consecuencia del teorema de Robbins-Siegmund.

# Descenso de gradiente estocástico
## Ejemplo

Supongamos que queremos ajustar una recta ${\hat {y}}=\!w_{1}+w_{2}x$ a un conjunto de entrenamiento con observaciones $(x_{1},x_{2},\ldots ,x_{n})$ y las correspondientes respuestas estimadas $({\hat {y_{1}}},{\hat {y_{2}}},\ldots ,{\hat {y_{n}}})$ utilizando mínimos cuadrados. La función objetivo a minimizar es:
$Q(w)=\sum _{i=1}^{n}Q_{i}(w)=\sum _{i=1}^{n}\left({\hat {y_{i}}}-y_{i}\right)^{2}=\sum _{i=1}^{n}\left(w_{1}+w_{2}x_{i}-y_{i}\right)^{2}.$
La última línea del pseudocódigo anterior para este problema específico se convertirá en:
${\begin{bmatrix}w_{1}\\w_{2}\end{bmatrix}}:={\begin{bmatrix}w_{1}\\w_{2}\end{bmatrix}}-\eta {\begin{bmatrix}{\frac {\partial }{\partial w_{1}}}(w_{1}+w_{2}x_{i}-y_{i})^{2}\\{\frac {\partial }{\partial w_{2}}}(w_{1}+w_{2}x_{i}-y_{i})^{2}\end{bmatrix}}={\begin{bmatrix}w_{1}\\w_{2}\end{bmatrix}}-\eta {\begin{bmatrix}2(w_{1}+w_{2}x_{i}-y_{i})\\2x_{i}(w_{1}+w_{2}x_{i}-y_{i})\end{bmatrix}}.$
Nótese que en cada iteración (también llamada actualización), el gradiente sólo se evalúa en un único punto $x_{i}$ en lugar de en el conjunto de todas las muestras.
La diferencia clave en comparación con el descenso gradiente estándar (por lotes) es que sólo se utiliza un dato del conjunto de datos para calcular el paso, y el dato se elige aleatoriamente en cada paso.

# Descenso de gradiente estocástico
## Aplicaciones destacadas

El descenso de gradiente estocástico es un algoritmo popular para entrenar una amplia gama de modelos de aprendizaje automático, incluyendo las máquinas de vectores de soporte (lineales), la regresión logística (véase, por ejemplo, Vowpal Wabbit) y los modelos en grafo. Combinado con el algoritmo de retropropagación, es el algoritmo estándar de facto para el entrenamiento de redes neuronales artificiales. También se ha informado de su uso en la comunidad geofísica, concretamente en aplicaciones de inversión de forma de onda completa (en inglés: Full Waveform Inversion, FWI).
El descenso de gradiente estocástico compite con el algoritmo L-BFGS, que también es ampliamente utilizado. El descenso de gradiente estocástico se ha utilizado al menos desde 1960 para el entrenamiento de modelos de regresión lineal, originalmente bajo el nombre de ADALINE.
Otro algoritmo de descenso de gradiente estocástico es el filtro adaptativo de mínimos cuadrados medios (en inglés: Least-Mean-Square algorithm, LMS).

# Descenso de gradiente estocástico
## Extensiones y variantes

Se han propuesto y utilizado muchas mejoras del algoritmo básico de descenso de gradiente estocástico. En particular, en el aprendizaje automático, se ha reconocido que la necesidad de establecer una tasa de aprendizaje (step size) es problemática. Si se fija un parámetro demasiado alto, el algoritmo puede divergir; si se fija demasiado bajo, la convergencia es lenta. Una extensión conceptualmente simple del descenso de gradiente estocástico hace que la tasa de aprendizaje sea una función decreciente $n_{t}$ del número de iteraciones $t$, dando un programa de tasa de aprendizaje, de modo que las primeras iteraciones causen grandes cambios en los parámetros, mientras que las posteriores sólo hacen un ajuste fino. Tales programas se conocen desde el trabajo de MacQueen sobre la agrupación $k$-medias. Spall ofrece orientación práctica sobre la elección del step size en diversas variantes de SGD.

# Descenso de gradiente estocástico
## Extensiones y variantes
### Actualizaciones implícitas (ISGD)

Como ya se ha mencionado, el descenso de gradiente estocástico clásico suele ser sensible a la tasa de aprendizaje $n$. Una convergencia rápida requiere grandes tasas de aprendizaje, pero esto puede inducir inestabilidad numérica. El problema puede resolverse en gran medida considerando actualizaciones implícitas en las que el gradiente estocástico se evalúa en la siguiente iterada en lugar de en la actual:
$w^{\rm {new}}:=w^{\rm {old}}-\eta \nabla Q_{i}(w^{\rm {new}}).$
Esta ecuación está implícita ya que $w^{\rm {new}}$ aparece en ambos lados de la ecuación. Se trata de una forma estocástica del método del gradiente proximal, ya que la actualización también puede escribirse como:
$w^{\rm {new}}:=\arg \min _{w}\{Q_{i}(w)+{\frac {1}{2\eta }}||w-w^{\rm {old}}||^{2}\}.$
A modo de ejemplo, consideremos los mínimos cuadrados con características $x_{1},\ldots ,x_{n}\in \mathbb {R} ^{p}$ y observaciones $y_{1},\ldots ,y_{n}\in \mathbb {R}$. Queremos resolver:
$\min _{w}\sum _{j=1}^{n}(y_{j}-x_{j}'w)^{2},$
en el que $x_{j}'w=x_{j1}w_{1}+x_{j,2}w_{2}+...+x_{j,p}w_{p}$ indica el producto interior. Obsérvese que $x$ podría tener "1" como primer elemento para incluir un intercepto. El descenso de gradiente estocástico clásico procede de la siguiente manera:
$w^{\rm {new}}=w^{\rm {old}}+\eta (y_{i}-x_{i}'w^{\rm {old}})x_{i}$
donde $i$ se muestrea uniformemente entre 1 y $n$. Aunque la convergencia teórica de este procedimiento se produce bajo supuestos relativamente suaves, en la práctica el procedimiento puede ser bastante inestable. En particular, cuando $n$ está mal especificado de modo que $I-\eta x_{i}x_{i}'$ tiene grandes valores propios absolutos con alta probabilidad, el procedimiento puede divergir numéricamente en unas pocas iteraciones. Por el contrario, el descenso de gradiente estocástico implícito (abreviado como ISGD) puede resolverse de forma cerrada como:
$w^{\rm {new}}=w^{\rm {old}}+{\frac {\eta }{1+\eta ||x_{i}||^{2}}}(y_{i}-x_{i}'w^{\rm {old}})x_{i}.$
Este procedimiento se mantendrá numéricamente estable prácticamente para todas las $n$ ya que la tasa de aprendizaje está ahora normalizada. Esta comparación entre el descenso de gradiente estocástico clásico e implícito en el problema de mínimos cuadrados es muy similar a la comparación entre el filtro de mínimos cuadrados medios (LMS) y el filtro de mínimos cuadrados medios normalizados (NLMS).
Aunque una solución de forma cerrada para el ISGD sólo es posible en mínimos cuadrados, el procedimiento puede aplicarse eficazmente en una amplia gama de modelos. En concreto, supongamos que $Q_{i}(w)$ depende de $w$ sólo a través de una combinación lineal con las características $x_{i}$, de modo que podemos escribir $\nabla _{w}Q_{i}(w)=-q(x_{i}'w)x_{i}$, donde $q\in \mathbb {R}$ puede depender de $x_{i},y_{i}$ pero no en $w$ excepto a través de $x_{i}'w$. Los mínimos cuadrados obedecen esta regla, al igual que la regresión logística y la mayoría de los modelos lineales generalizados. Por ejemplo, en mínimos cuadrados, $q(x_{i}'w)=y_{i}-x_{i}'w$ y en regresión logística $q(x_{i}'w)=y_{i}-S(x_{i}'w)$, donde $S(u)=e^{u}/(1+e^{u})$ es la función logística. En la regresión de Poisson $q(x_{i}'w)=y_{i}-e^{x_{i}'w}$ y así sucesivamente.
En estos casos, la ISGD se aplica de la siguiente manera. Sea $f(\xi )=\eta q(x_{i}'w^{old}+\xi ||x_{i}||^{2})$, donde $\xi$ es escalar. Entonces, ISGD es equivalente a:
$w^{\rm {new}}=w^{\rm {old}}+\xi ^{\ast }x_{i},~{\text{where}}~\xi ^{\ast }=f(\xi ^{\ast }).$
El factor de escala $\xi ^{\ast }\in \mathbb {R}$ puede hallarse mediante el método de bisección, ya que en la mayoría de los modelos regulares, como los modelos lineales generalizados mencionados, la función $q$ es decreciente, y por lo tanto los límites de búsqueda para $\xi ^{\ast }$ son $[\min(0,f(0)),\max(0,f(0))]$.

# Descenso de gradiente estocástico
## Extensiones y variantes
### Momentum

Otras propuestas incluyen el método del momentum o método de la bola pesada, que en el contexto del ML apareció en el artículo de Rumelhart, Hinton y Williams sobre el aprendizaje por retropropagación y tomó prestada la idea del artículo del matemático soviético Boris Polyak de 1964 sobre la resolución de ecuaciones funcionales. El descenso de gradiente estocástico con impulso recuerda la actualización Δw en cada iteración, y determina la siguiente actualización como una combinación lineal del gradiente y la actualización anterior:
$\Delta w:=\alpha \Delta w-\eta \nabla Q_{i}(w)$
$w:=w+\Delta w$
lo cual conduce a:
$w:=w-\eta \nabla Q_{i}(w)+\alpha \Delta w$
donde el parámetro $w$ que minimiza a $Q(w)$ será estimado, $\eta$ es un step size (a veces llamado tasa de aprendizaje en el aprendizaje automático) y $\alpha$ es un factor de decaimiento exponencial entre 0 y 1 que determina la contribución relativa del gradiente actual y los gradientes anteriores al cambio de peso.
El nombre momentum proviene de una analogía con el momentum en física: el vector peso $w$, pensado como una partícula que viaja a través del espacio de parámetros, incurre en aceleración por el gradiente de la pérdida ("fuerza"). A diferencia del descenso por gradiente estocástico clásico, tiende a seguir viajando en la misma dirección, evitando oscilaciones. Los científicos informáticos llevan varias décadas utilizando con éxito el método del momentum en el entrenamiento de redes neuronales artificiales. El método del momentum está estrechamente relacionado con la dinámica de Langevin sin amortiguación y puede combinarse con el algoritmo de recocido simulado.
A mediados de la década de 1980, el método fue modificado por Yurii Nesterov para utilizar el gradiente previsto en el siguiente punto, y el llamado Gradiente Acelerado de Nesterov resultante se utilizó a veces en ML en la década de 2010.

# Descenso de gradiente estocástico
## Extensiones y variantes
### Promedio

El descenso de gradiente estocástico promediado, inventado independientemente por Ruppert y Polyak a finales de la década de 1980, es un descenso de gradiente estocástico ordinario que registra un promedio de su vector de parámetros a lo largo del tiempo. Es decir, la actualización es la misma que para el descenso estocástico ordinario, pero el algoritmo también lleva la cuenta de
${\bar {w}}={\frac {1}{t}}\sum _{i=0}^{t-1}w_{i}$
Cuando se realiza la optimización, este vector de parámetros promediado ocupa el lugar de $w$.

# Descenso de gradiente estocástico
## Extensiones y variantes
### AdaGrad

AdaGrad (algoritmo de gradiente adaptativo) es un algoritmo de descenso de gradiente estocástico modificado con una tasa de aprendizaje por parámetro, publicado por primera vez en 2011. Informalmente, esto aumenta la tasa de aprendizaje para los parámetros más dispersos y disminuye la tasa de aprendizaje para los que son menos dispersos. Esta estrategia suele mejorar el rendimiento de la convergencia con respecto al descenso por gradiente estocástico estándar en entornos en los que los datos son dispersos y los parámetros dispersos son más informativos. Ejemplos de estas aplicaciones son el procesamiento del lenguaje natural y el reconocimiento de imágenes.
Sigue teniendo una tasa de aprendizaje base $\eta$, pero ésta se multiplica por los elementos de un vector {G$_{j,j}$} que es la diagonal de la matriz producto exterior
$G=\sum _{\tau =1}^{t}g_{\tau }g_{\tau }^{\mathsf {T}}$
donde $g_{\tau }=\nabla Q_{i}(w)$, la gradiente, en la iteración $t$. La diagonal viene dada por:
$G_{j,j}=\sum _{\tau =1}^{t}g_{\tau ,j}^{2}$
Este vector almacena esencialmente una suma histórica de cuadrados de gradiente por dimensión y se actualiza después de cada iteración. La fórmula para una actualización es ahora
$w:=w-\eta \,\mathrm {diag} (G)^{-{\frac {1}{2}}}\odot g$
o, escritas como actualizaciones por parámetro,
$w_{j}:=w_{j}-{\frac {\eta }{\sqrt {G_{j,j}}}}g_{j}.$
Cada {G$_{(i,i)}$} da lugar a un factor de escala para la tasa de aprendizaje que se aplica a un único parámetro $w_{i}$. Dado que el denominador de este factor, ${\sqrt {G_{i}}}={\sqrt {\sum _{\tau =1}^{t}g_{\tau }^{2}}}$ es la norma ℓ$_2$ de las derivadas anteriores, las actualizaciones extremas de los parámetros se amortiguan, mientras que los parámetros que reciben pocas o pequeñas actualizaciones reciben mayores tasas de aprendizaje.
Aunque está diseñado para problemas convexos, AdaGrad se ha aplicado con éxito a la optimización no convexa.

# Descenso de gradiente estocástico
## Extensiones y variantes
### RMSProp

RMSProp o propagación de raíz cuadrática media (en inglés: Root Mean Square Propagation) es un método inventado por Geoffrey Hinton en 2012 en el que la tasa de aprendizaje es, como en Adagrad, adaptada para cada uno de los parámetros. La idea es dividir la tasa de aprendizaje para un peso por una media de las magnitudes de los gradientes recientes para ese peso. Inusualmente, no se publicó en un artículo, sino que simplemente se describió en una conferencia de Coursera.
Así pues, primero se calcula la media móvil en términos de media cuadrática,
$v(w,t):=\gamma v(w,t-1)+(1-\gamma )(\nabla Q_{i}(w))^{2}$
en el que $\gamma$ es el factor de olvido. El concepto de almacenar el gradiente histórico como suma de cuadrados se toma prestado de Adagrad, pero el "olvido" se introduce para resolver la disminución de las tasas de aprendizaje de Adagrad en problemas no convexos, disminuyendo gradualmente la influencia de los datos antiguos.
Y los parámetros se actualizan como,
$w:=w-{\frac {\eta }{\sqrt {v(w,t)}}}\nabla Q_{i}(w)$
RMSProp ha demostrado una buena adaptación de la tasa de aprendizaje en diferentes aplicaciones. RMSProp puede considerarse como una generalización de Rprop y es capaz de trabajar también con minilotes en lugar de sólo con lotes completos.

# Descenso de gradiente estocástico
## Extensiones y variantes
### Adam

Adam o estimación de momento adaptativo (en inglés: Adaptive Moment Estimation) es una actualización de 2014 del optimizador RMSProp que lo combina con la característica principal del método Momentum. En este algoritmo de optimización, se utilizan promedios en ejecución con olvido exponencial tanto de los gradientes como de los segundos momentos de los gradientes. Dados los parámetros $w^{(t)}$y una función de pérdida $L^{(t)}$, en el que $t$ indexa la iteración de entrenamiento actual (indexada en $0$), la actualización de los parámetros de Adam viene dada por:
$m_{w}^{(t+1)}\leftarrow \beta _{1}m_{w}^{(t)}+(1-\beta _{1})\nabla _{w}L^{(t)}$
$v_{w}^{(t+1)}\leftarrow \beta _{2}v_{w}^{(t)}+(1-\beta _{2})(\nabla _{w}L^{(t)})^{2}$
${\hat {m}}_{w}={\frac {m_{w}^{(t+1)}}{1-\beta _{1}^{t}}}$
${\hat {v}}_{w}={\frac {v_{w}^{(t+1)}}{1-\beta _{2}^{t}}}$
$w^{(t+1)}\leftarrow w^{(t)}-\eta {\frac {{\hat {m}}_{w}}{{\sqrt {{\hat {v}}_{w}}}+\epsilon }}$
donde $\epsilon$ es un escalar pequeño (por ejemplo $10^{-8}$) utilizado para evitar la división por 0, y $\beta _{1}$ (por ejemplo, 0,9) y $\beta _{2}$ (por ejemplo, 0,999) son los factores de olvido para los gradientes y los segundos momentos de los gradientes, respectivamente. La cuadratura y la raíz cuadrada se realizan elemento a elemento. La profunda influencia de este algoritmo ha inspirado múltiples esquemas de optimización basados en el impulso más recientes y menos conocidos que utilizan gradientes mejorados por Nesterov (p. ej.: NAdam y FASFA) y diversas interpretaciones de la información de segundo orden (por ejemplo: Powerpropagation y AdaSqrt). Sin embargo, las variantes más utilizadas son AdaMax, que generaliza Adam utilizando la norma del infinito, y AMSGrad, que aborda los problemas de convergencia de Adam utilizando el máximo de los gradientes pasados al cuadrado en lugar de la media exponencial.
AdamW es una actualización posterior que mitiga una elección no óptima del algoritmo de regresión contraída (en inglés: ridge regression) en Adam.

# Descenso de gradiente estocástico
## Extensiones y variantes
### Descenso de gradiente estocástico basado en signos

Aunque la optimización basada en signos se remonta al ya mencionado Rprop, solo en 2018 los investigadores intentaron simplificar Adam eliminando la magnitud del gradiente estocástico de ser tenido en cuenta y solo considerando su signo.

# Descenso de gradiente estocástico
## Extensiones y variantes
### Búsqueda lineal con retroceso

La búsqueda lineal con retroceso (en inglés: Backtracking line search) es otra variante del descenso de gradiente. Todos los datos que figuran a continuación proceden del enlace mencionado. Se basa en una condición conocida como la condición de Armijo-Goldstein. Ambos métodos permiten que las tasas de aprendizaje cambien en cada iteración; sin embargo, la forma del cambio es diferente. La búsqueda lineal con retroceso utiliza evaluaciones de funciones para comprobar la condición de Armijo y, en principio, el bucle del algoritmo para determinar las tasas de aprendizaje puede ser largo y desconocido de antemano. La SGD adaptativa no necesita un bucle para determinar las tasas de aprendizaje. Por otro lado, la SGD adaptativa no garantiza la "propiedad de descenso" –de la que goza la búsqueda lineal con retroceso–, que consiste en que $f(x_{n+1})\leq f(x_{n})$ para todo n. Si el gradiente de la función de coste es globalmente continuo de Lipschitz, con constante L de Lipschitz, y la tasa de aprendizaje se elige del orden 1/L, entonces la versión estándar de SGD es un caso especial de búsqueda lineal con retroceso.

# Descenso de gradiente estocástico
## Extensiones y variantes
### Métodos de segundo orden

Un análogo estocástico del algoritmo estándar (determinista) de Newton-Raphson (un método de "segundo orden") proporciona una forma asintóticamente óptima o casi óptima de optimización iterativa en el entorno de la aproximación estocástica. Byrd, Hansen, Nocedal y Singer desarrollaron un método que utiliza medidas directas de las matrices hessianas de los sumandos de la función de riesgo empírica. Sin embargo, determinar directamente las matrices hessianas necesarias para la optimización puede no ser posible en la práctica. Spall y otros presentan métodos prácticos y teóricamente sólidos para versiones de segundo orden de SGD que no requieren información directa sobre el hessiano. (Un método menos eficiente basado en diferencias finitas, en lugar de perturbaciones simultáneas, es dado por Ruppert). Otra aproximación a la matriz hessiana de aproximación consiste en sustituirla por la matriz de información de Fisher, que transforma el gradiente habitual en natural. Estos métodos que no requieren información hessiana directa se basan en los valores de los sumandos de la función de riesgo empírica anterior o en los valores de los gradientes de los sumandos (es decir, las entradas SGD). En particular, la optimización de segundo orden es asintóticamente alcanzable sin cálculo directo de las matrices hessianas de los sumandos en la función de riesgo empírica.

# Descenso de gradiente estocástico
## Historia

El SGD fue desarrollado gradualmente por varios colectivos durante la década de 1950.

# Descenso de gradiente estocástico
## Lectura adicional

* Bottou, Léon (2004). «Advanced Lectures on Machine Learning». Stochastic Learning. LNAI (en inglés) (Springer) 3176: 146-168. ISBN 978-3-540-23122-6.
* Buduma, Nikhil; Locascio, Nicholas (2017). «Beyond Gradient Descent». Fundamentals of Deep Learning : Designing Next-Generation Machine Intelligence Algorithms. O'Reilly. ISBN 9781491925584.
* LeCun, Yann A.; Bottou, Léon; Orr, Genevieve B.; Müller, Klaus-Robert (2012). «Efficient BackProp». Neural Networks: Tricks of the Trade. Springer. pp. 9-48. ISBN 978-3-642-35288-1.
* Spall, James C. (2003). Introduction to Stochastic Search and Optimization. John Wiley & Sons. ISBN 978-0-471-33052-3.