Un algoritmo acelerado de optimización distribuida con tamaños de paso variables en el tiempo y no coordinados en una red no dirigida
Autores: Lü, Yunshan; Xiong, Hailing; Zhou, Hao; Guan, Xin
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Un algoritmo acelerado de optimización distribuida con tamaños de paso variables en el tiempo y no coordinados en una red no dirigida
Categoría
Matemáticas
Subcategoría
Matemáticas generales
Palabras clave
Algoritmos de optimización distribuida
Problema de optimización convexa
Red no dirigida
Promedio de todas las funciones objetivo locales
Métodos acelerados de Nesterov y Heavy-ball
Tasa de convergencia
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 37
Citaciones: Sin citaciones
En los últimos años, se ha logrado un progreso significativo en el campo de los algoritmos de optimización distribuida. Este estudio se centró en el problema de optimización convexa distribuida sobre una red no dirigida. El objetivo era minimizar el promedio de todas las funciones objetivo locales conocidas por cada agente mientras cada agente comunica información necesaria solo con sus vecinos. Basándonos en el algoritmo de vanguardia, propusimos un nuevo algoritmo de optimización distribuida, cuando la función objetivo de cada agente satisface suavidad y fuerte convexidad. Una convergencia más rápida puede lograrse utilizando simultáneamente los métodos acelerados de Nesterov y Heavy-ball, lo que hace que el algoritmo sea ampliamente aplicable a muchas tareas distribuidas a gran escala. Mientras tanto, los tamaños de paso y los coeficientes de momento acelerado están diseñados como no coordinados, variables en el tiempo y no idénticos, lo que puede hacer que el algoritmo se adapte a una amplia gama de escenarios de aplicación. Bajo algunas suposiciones y condiciones necesarias, a través de un riguroso análisis teórico, se logró una tasa de convergencia lineal. Finalmente, los experimentos numéricos sobre un conjunto de datos reales demuestran la superioridad y eficacia del nuevo algoritmo en comparación con algoritmos similares.
Descripción
En los últimos años, se ha logrado un progreso significativo en el campo de los algoritmos de optimización distribuida. Este estudio se centró en el problema de optimización convexa distribuida sobre una red no dirigida. El objetivo era minimizar el promedio de todas las funciones objetivo locales conocidas por cada agente mientras cada agente comunica información necesaria solo con sus vecinos. Basándonos en el algoritmo de vanguardia, propusimos un nuevo algoritmo de optimización distribuida, cuando la función objetivo de cada agente satisface suavidad y fuerte convexidad. Una convergencia más rápida puede lograrse utilizando simultáneamente los métodos acelerados de Nesterov y Heavy-ball, lo que hace que el algoritmo sea ampliamente aplicable a muchas tareas distribuidas a gran escala. Mientras tanto, los tamaños de paso y los coeficientes de momento acelerado están diseñados como no coordinados, variables en el tiempo y no idénticos, lo que puede hacer que el algoritmo se adapte a una amplia gama de escenarios de aplicación. Bajo algunas suposiciones y condiciones necesarias, a través de un riguroso análisis teórico, se logró una tasa de convergencia lineal. Finalmente, los experimentos numéricos sobre un conjunto de datos reales demuestran la superioridad y eficacia del nuevo algoritmo en comparación con algoritmos similares.