Accelerated randomized coordinate descent para resolver sistemas lineales
Autores: Wang, Qin; Li, Weiguo; Bao, Wendi; Zhang, Feiyu
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Accelerated randomized coordinate descent para resolver sistemas lineales
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Descenso por coordenadas
Aleatorizado
Nesterov
Acelerado
Convergencia
Sistemas lineales
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 25
Citaciones: Sin citaciones
El método de descenso de coordenadas aleatorizado (RCD) es un enfoque simple pero poderoso para resolver sistemas lineales inconsistentes. Con el fin de acelerar este enfoque, se propone el método de descenso de coordenadas aleatorizado acelerado de Nesterov (NARCD). El método de descenso de coordenadas aleatorizado con momento (RCDm) es propuesto por Nicolas Loizou, proporcionaremos un nuevo límite de convergencia. Las tasas de convergencia global de los dos métodos se establecen en nuestro artículo. Además, mostramos que el método RCDm tiene una tasa de convergencia acelerada al elegir un parámetro de momento adecuado. Finalmente, en experimentos numéricos, tanto el RCDm como el NARCD son más rápidos que el RCD para datos distribuidos uniformemente. Además, el NARCD tiene un mejor efecto de aceleración que el RCDm y el método de descenso de gradiente estocástico acelerado de Nesterov. Cuando la correlación lineal de la matriz A es más fuerte, la aceleración de NARCD es mejor.
Descripción
El método de descenso de coordenadas aleatorizado (RCD) es un enfoque simple pero poderoso para resolver sistemas lineales inconsistentes. Con el fin de acelerar este enfoque, se propone el método de descenso de coordenadas aleatorizado acelerado de Nesterov (NARCD). El método de descenso de coordenadas aleatorizado con momento (RCDm) es propuesto por Nicolas Loizou, proporcionaremos un nuevo límite de convergencia. Las tasas de convergencia global de los dos métodos se establecen en nuestro artículo. Además, mostramos que el método RCDm tiene una tasa de convergencia acelerada al elegir un parámetro de momento adecuado. Finalmente, en experimentos numéricos, tanto el RCDm como el NARCD son más rápidos que el RCD para datos distribuidos uniformemente. Además, el NARCD tiene un mejor efecto de aceleración que el RCDm y el método de descenso de gradiente estocástico acelerado de Nesterov. Cuando la correlación lineal de la matriz A es más fuerte, la aceleración de NARCD es mejor.