Marco de aprendizaje de redes neuronales impulsado por la optimización de métricas de distancia para clasificación de patrones
Autores: Jiang, Yimeng; Yu, Guolin; Ma, Jun
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Marco de aprendizaje de redes neuronales impulsado por la optimización de métricas de distancia para clasificación de patrones
Categoría
Matemáticas
Subcategoría
Análisis matemático
Palabras clave
Nuevo marco de aprendizaje de redes neuronales
Twin Extreme Learning Machine
Algoritmos de aprendizaje robustos
Impulsado por optimización de métricas de distancia
Clasificación de patrones
Función de pérdida de Welsch
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 34
Citaciones: Sin citaciones
Como un marco de aprendizaje de red neuronal novedoso, Twin Extreme Learning Machine (TELM) ha recibido una atención extensa e investigación en el campo del aprendizaje automático. Sin embargo, TELM se ve afectado por ruido o valores atípicos en aplicaciones prácticas, por lo que su rendimiento de generalización se reduce en comparación con algoritmos de aprendizaje robustos. En este documento, proponemos dos marcos de aprendizaje de Twin Extreme Learning Machine robustos impulsados por la optimización de métricas de distancia para la clasificación de patrones, a saber, CWTELM y FCWTELM. Al introducir la función de pérdida robusta de Welsch y la métrica de distancia limitada, nuestros métodos reducen el efecto de los valores atípicos y mejoran el rendimiento de generalización del modelo en comparación con TELM. Además, se diseñan dos algoritmos iterativos eficientes para resolver los desafíos planteados por los problemas de optimización no convexos CWTELM y FCWTELM, y garantizamos teóricamente su convergencia, optimalidad local y complejidad computacional. Luego, los algoritmos propuestos se comparan con otros cinco algoritmos clásicos bajo diferentes niveles de ruido y diferentes conjuntos de datos, y se implementa un análisis de detección estadística. Finalmente, concluimos que nuestro algoritmo tiene una excelente robustez y rendimiento de clasificación.
Descripción
Como un marco de aprendizaje de red neuronal novedoso, Twin Extreme Learning Machine (TELM) ha recibido una atención extensa e investigación en el campo del aprendizaje automático. Sin embargo, TELM se ve afectado por ruido o valores atípicos en aplicaciones prácticas, por lo que su rendimiento de generalización se reduce en comparación con algoritmos de aprendizaje robustos. En este documento, proponemos dos marcos de aprendizaje de Twin Extreme Learning Machine robustos impulsados por la optimización de métricas de distancia para la clasificación de patrones, a saber, CWTELM y FCWTELM. Al introducir la función de pérdida robusta de Welsch y la métrica de distancia limitada, nuestros métodos reducen el efecto de los valores atípicos y mejoran el rendimiento de generalización del modelo en comparación con TELM. Además, se diseñan dos algoritmos iterativos eficientes para resolver los desafíos planteados por los problemas de optimización no convexos CWTELM y FCWTELM, y garantizamos teóricamente su convergencia, optimalidad local y complejidad computacional. Luego, los algoritmos propuestos se comparan con otros cinco algoritmos clásicos bajo diferentes niveles de ruido y diferentes conjuntos de datos, y se implementa un análisis de detección estadística. Finalmente, concluimos que nuestro algoritmo tiene una excelente robustez y rendimiento de clasificación.