logo móvil
Contáctanos

Un método avanzado de poda en la arquitectura de máquinas de aprendizaje extremo utilizando L1-regularización y bootstrapping

Autores: de Campos Souza, Paulo Vitor; Bambirra Torres, Luiz Carlos; Lacerda Silva, Gustavo Rodrigues; Braga, Antonio de Padua; Lughofer, Edwin

Idioma: Inglés

Editor: MDPI

Año: 2020

Descargar PDF

Acceso abierto

Artículo científico
2020

Un método avanzado de poda en la arquitectura de máquinas de aprendizaje extremo utilizando L1-regularización y bootstrapping


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Eficiente
Sobreajuste
Poda
Neuronas
Clasificación
Regresión

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 38

Citaciones: Sin citaciones


Descripción
Las máquinas de aprendizaje extremo (ELM) son eficientes para la clasificación, regresión y predicción de series temporales, además de ser una solución clara a las estructuras de retropropagación para determinar valores en capas intermedias del modelo de aprendizaje. Uno de los problemas que puede enfrentar un ELM se debe a un gran número de neuronas en la capa oculta, lo que hace que el modelo experto sea específico para un conjunto de datos. Con un gran número de neuronas en la capa oculta, es más probable el sobreajuste y, por lo tanto, la información innecesaria puede deteriorar el rendimiento de la red neuronal. Para resolver este problema, se propone un método de poda, llamado Poda ELM Usando Bootstrapped Lasso BR-ELM, que se basa en técnicas de regularización y remuestreo, para seleccionar las neuronas más representativas para la respuesta del modelo. Este método se basa en una variante en conjunto de Lasso (lograda a través de réplicas de bootstrap) y tiene como objetivo reducir los parámetros de peso de salida de las neuronas a 0 tanto como sea posible. Según un subconjunto de regresores candidatos que tienen valores de coeficiente significativos (mayores que 0), es posible seleccionar las mejores neuronas en la capa oculta del ELM. Finalmente, se realizan pruebas de clasificación de patrones y pruebas de regresión de referencia de problemas del mundo real complejos comparando el enfoque propuesto con otros modelos de poda para ELMs. Se puede ver que estadísticamente BR-ELM puede superar a varios métodos relacionados de vanguardia en términos de precisión de clasificación y errores del modelo (mientras se desempeña igual a Poda-ELM P-ELM), y esto con un número significativamente reducido de neuronas finalmente seleccionadas.

Otros recursos que podrían interesarte

Temas Virtualpro