Los métodos de primer orden, como el descenso de gradiente estocástico (SGD), se han vuelto recientemente populares como métodos de optimización para entrenar redes neuronales profundas (DNN) para una buena generalización; sin embargo, necesitan mucho tiempo de entrenamiento. Los métodos de segundo orden, que pueden reducir el tiempo de entrenamiento, son escasamente utilizados debido a su alto costo computacional para obtener la información de segundo orden.