Máquina de aprendizaje extremo regularizada robusta L-Norm con pérdida C asimétrica para regresión
Autores: Wu, Qing; Wang, Fan; An, Yu; Li, Ke
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Máquina de aprendizaje extremo regularizada robusta L-Norm con pérdida C asimétrica para regresión
Categoría
Matemáticas
Subcategoría
Análisis matemático
Palabras clave
Máquinas de aprendizaje extremo
Sobreajuste
Pérdida AC
Norma L
Rendimiento de generalización
Ruido
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 23
Citaciones: Sin citaciones
Las máquinas de aprendizaje extremo (ELM) han atraído recientemente una atención significativa debido a sus velocidades de entrenamiento rápidas y buen efecto de predicción. Sin embargo, las ELM ignoran la distribución inherente de las muestras originales y son propensas al sobreajuste, lo que impide lograr un buen rendimiento de generalización. En este documento, se propone una función de pérdida C asimétrica (llamada AC-loss) basada en penalización de expectil y correntropía, que es no convexa, acotada y relativamente insensible al ruido. Además, se presenta una nueva máquina de aprendizaje extremo llamada máquina de aprendizaje extremo regularizada robusta con norma L y pérdida C asimétrica (L-ACELM) para abordar el problema de sobreajuste. El algoritmo propuesto se beneficia de la norma L y reemplaza la función de pérdida cuadrada con la función AC-loss. El L-ACELM puede generar una red más compacta con menos nodos ocultos y reducir el impacto del ruido. Para evaluar la efectividad del algoritmo propuesto en conjuntos de datos ruidosos, se agregan diferentes niveles de ruido en experimentos numéricos. Los resultados para diferentes tipos de conjuntos de datos artificiales y de referencia demuestran que L-ACELM logra un mejor rendimiento de generalización en comparación con otros algoritmos de vanguardia, especialmente cuando existe ruido en los conjuntos de datos.
Descripción
Las máquinas de aprendizaje extremo (ELM) han atraído recientemente una atención significativa debido a sus velocidades de entrenamiento rápidas y buen efecto de predicción. Sin embargo, las ELM ignoran la distribución inherente de las muestras originales y son propensas al sobreajuste, lo que impide lograr un buen rendimiento de generalización. En este documento, se propone una función de pérdida C asimétrica (llamada AC-loss) basada en penalización de expectil y correntropía, que es no convexa, acotada y relativamente insensible al ruido. Además, se presenta una nueva máquina de aprendizaje extremo llamada máquina de aprendizaje extremo regularizada robusta con norma L y pérdida C asimétrica (L-ACELM) para abordar el problema de sobreajuste. El algoritmo propuesto se beneficia de la norma L y reemplaza la función de pérdida cuadrada con la función AC-loss. El L-ACELM puede generar una red más compacta con menos nodos ocultos y reducir el impacto del ruido. Para evaluar la efectividad del algoritmo propuesto en conjuntos de datos ruidosos, se agregan diferentes niveles de ruido en experimentos numéricos. Los resultados para diferentes tipos de conjuntos de datos artificiales y de referencia demuestran que L-ACELM logra un mejor rendimiento de generalización en comparación con otros algoritmos de vanguardia, especialmente cuando existe ruido en los conjuntos de datos.