Un método de gradiente conjugado modificado de Liu y Storey para problemas de optimización no restringidos a gran escala
Autores: Salleh, Zabidin; Alhamzi, Ghaliah; Masmali, Ibitsam; Alhawarat, Ahmad
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Un método de gradiente conjugado modificado de Liu y Storey para problemas de optimización no restringidos a gran escala
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Método de gradiente conjugado
Problemas de optimización
Redes neuronales
Propiedades de convergencia
Condición de descenso
Resultados numéricos
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 39
Citaciones: Sin citaciones
El método del gradiente conjugado es uno de los métodos más populares para resolver problemas de optimización no restringidos a gran escala, ya que no requiere la segunda derivada, como el método de Newton o aproximaciones. Además, el método del gradiente conjugado puede aplicarse en muchos campos como redes neuronales, restauración de imágenes, etc. Muchos métodos complicados se proponen para resolver estas funciones de optimización en dos o tres términos. En este documento, proponemos un método del gradiente conjugado simple, fácil, eficiente y robusto. El nuevo método se construye basado en el método de Liu y Storey para superar el problema de convergencia y la propiedad de descenso. El nuevo método modificado satisface las propiedades de convergencia y la condición suficiente de descenso bajo algunas suposiciones. Los resultados numéricos muestran que el nuevo método supera a métodos famosos de CG como CG-Descent 5.3, Liu y Storey, y Dai y Liao. Los resultados numéricos incluyen el número de iteraciones y el tiempo de CPU.
Descripción
El método del gradiente conjugado es uno de los métodos más populares para resolver problemas de optimización no restringidos a gran escala, ya que no requiere la segunda derivada, como el método de Newton o aproximaciones. Además, el método del gradiente conjugado puede aplicarse en muchos campos como redes neuronales, restauración de imágenes, etc. Muchos métodos complicados se proponen para resolver estas funciones de optimización en dos o tres términos. En este documento, proponemos un método del gradiente conjugado simple, fácil, eficiente y robusto. El nuevo método se construye basado en el método de Liu y Storey para superar el problema de convergencia y la propiedad de descenso. El nuevo método modificado satisface las propiedades de convergencia y la condición suficiente de descenso bajo algunas suposiciones. Los resultados numéricos muestran que el nuevo método supera a métodos famosos de CG como CG-Descent 5.3, Liu y Storey, y Dai y Liao. Los resultados numéricos incluyen el número de iteraciones y el tiempo de CPU.