Rcbls: un marco de aprendizaje amplio resistente a valores atípicos con estructura compacta
Autores: Guo, Wei; Yu, Jianjiang; Zhou, Caigen; Yuan, Xiaofeng; Wang, Zhanxiu
Idioma: Inglés
Editor: MDPI
Año: 2023
Acceso abierto
Artículo científico
2023
Rcbls: un marco de aprendizaje amplio resistente a valores atípicos con estructura compacta
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Desarrollado
Rendimiento
Eficiencia
Valores atípicos
Robustez
Compacidad
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 41
Citaciones: Sin citaciones
Recientemente, el sistema de aprendizaje amplio (BLS) ha sido ampliamente desarrollado debido a su excelente rendimiento y alta eficiencia computacional. Sin embargo, todavía existen dos deficiencias en el BLS que impiden su implementación en aplicaciones reales. Primero, el BLS estándar tiene un mal rendimiento en entornos atípicos porque la función de pérdida de mínimos cuadrados que utiliza para entrenar la red es sensible a los valores atípicos. Segundo, la estructura del modelo de BLS tiende a ser redundante ya que los nodos ocultos en él se generan de forma aleatoria. Para abordar los dos problemas anteriores, en este artículo se propone un nuevo BLS robusto y compacto (RCBLS), basado en un estimador M y regularización de la dispersión, que se desarrolla a partir del modelo BLS y mantiene sus características excelentes, pero reemplaza el criterio de aprendizaje de mínimos cuadrados convencional por una función de pérdida basada en un estimador M que es menos sensible a los valores atípicos, con el fin de suprimir la retroalimentación incorrecta del modelo a muestras atípicas y así mejorar su robustez en presencia de valores atípicos. Al mismo tiempo, el RCBLS impone la regularización de la dispersión de la norma - en lugar de la regularización común de la norma - para la reducción del modelo. Con la ayuda de la dispersión de fila de la regularización de la norma -, los nodos ocultos innecesarios en RCBLS pueden ser efectivamente identificados y eliminados de la red, lo que resulta en una red más compacta. Se proporcionan análisis teóricos sobre la robustez a los valores atípicos, la compacidad estructural y la complejidad computacional del modelo RCBLS propuesto. Finalmente, la validez del RCBLS se verifica mediante tareas de regresión, predicción de series temporales y clasificación de imágenes. Los resultados experimentales demuestran que el RCBLS propuesto tiene una mayor capacidad anti-valores atípicos y una estructura de red más compacta que el BLS y otros algoritmos representativos.
Descripción
Recientemente, el sistema de aprendizaje amplio (BLS) ha sido ampliamente desarrollado debido a su excelente rendimiento y alta eficiencia computacional. Sin embargo, todavía existen dos deficiencias en el BLS que impiden su implementación en aplicaciones reales. Primero, el BLS estándar tiene un mal rendimiento en entornos atípicos porque la función de pérdida de mínimos cuadrados que utiliza para entrenar la red es sensible a los valores atípicos. Segundo, la estructura del modelo de BLS tiende a ser redundante ya que los nodos ocultos en él se generan de forma aleatoria. Para abordar los dos problemas anteriores, en este artículo se propone un nuevo BLS robusto y compacto (RCBLS), basado en un estimador M y regularización de la dispersión, que se desarrolla a partir del modelo BLS y mantiene sus características excelentes, pero reemplaza el criterio de aprendizaje de mínimos cuadrados convencional por una función de pérdida basada en un estimador M que es menos sensible a los valores atípicos, con el fin de suprimir la retroalimentación incorrecta del modelo a muestras atípicas y así mejorar su robustez en presencia de valores atípicos. Al mismo tiempo, el RCBLS impone la regularización de la dispersión de la norma - en lugar de la regularización común de la norma - para la reducción del modelo. Con la ayuda de la dispersión de fila de la regularización de la norma -, los nodos ocultos innecesarios en RCBLS pueden ser efectivamente identificados y eliminados de la red, lo que resulta en una red más compacta. Se proporcionan análisis teóricos sobre la robustez a los valores atípicos, la compacidad estructural y la complejidad computacional del modelo RCBLS propuesto. Finalmente, la validez del RCBLS se verifica mediante tareas de regresión, predicción de series temporales y clasificación de imágenes. Los resultados experimentales demuestran que el RCBLS propuesto tiene una mayor capacidad anti-valores atípicos y una estructura de red más compacta que el BLS y otros algoritmos representativos.