Aspdc: acelerado SPDC regularizado minimización de riesgos empíricos para problemas mal condicionados en aprendizaje automático a gran escala
Autores: Liang, Haobang; Cai, Hao; Wu, Hejun; Shang, Fanhua; Cheng, James; Li, Xiying
Idioma: Inglés
Editor: MDPI
Año: 2022
Acceso abierto
Artículo científico
2022
Aspdc: acelerado SPDC regularizado minimización de riesgos empíricos para problemas mal condicionados en aprendizaje automático a gran escala
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Velocidad de respuesta
SPDC
Aprendizaje automático a gran escala
ASPDC
Variante acelerada
Velocidad de convergencia
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 26
Citaciones: Sin citaciones
Este documento tiene como objetivo mejorar la velocidad de respuesta de SPDC (ascenso coordinado estocástico primal-dual) en el aprendizaje automático a gran escala, ya que la complejidad por iteración de SPDC no es satisfactoria. Proponemos un ascenso coordinado primal-dual estocástico acelerado llamado ASPDC y su variante acelerada adicional, ASPDC-i. Nuestros métodos propuestos ASPDC logran un buen equilibrio entre una baja complejidad de cálculo por iteración y una rápida velocidad de convergencia, incluso cuando el número de condición es muy grande. El gran número de condición causa problemas mal condicionados, que generalmente requieren muchas más iteraciones antes de la convergencia y tiempos de iteración más largos en el entrenamiento de datos para el aprendizaje automático. Realizamos experimentos en varios problemas de aprendizaje automático. Los resultados experimentales demuestran que ASPDC y ASPDC-i convergen más rápido que sus contrapartes, y también disfrutan de una baja complejidad por iteración.
Descripción
Este documento tiene como objetivo mejorar la velocidad de respuesta de SPDC (ascenso coordinado estocástico primal-dual) en el aprendizaje automático a gran escala, ya que la complejidad por iteración de SPDC no es satisfactoria. Proponemos un ascenso coordinado primal-dual estocástico acelerado llamado ASPDC y su variante acelerada adicional, ASPDC-i. Nuestros métodos propuestos ASPDC logran un buen equilibrio entre una baja complejidad de cálculo por iteración y una rápida velocidad de convergencia, incluso cuando el número de condición es muy grande. El gran número de condición causa problemas mal condicionados, que generalmente requieren muchas más iteraciones antes de la convergencia y tiempos de iteración más largos en el entrenamiento de datos para el aprendizaje automático. Realizamos experimentos en varios problemas de aprendizaje automático. Los resultados experimentales demuestran que ASPDC y ASPDC-i convergen más rápido que sus contrapartes, y también disfrutan de una baja complejidad por iteración.