Mejorando eficiencia y regularización en redes neuronales convolucionales: estrategias para dropout optimizado
Autores: Ghayoumi, Mehdi
Idioma: Inglés
Editor: MDPI
Año: 2025
Acceso abierto
Artículo científico
2025
Mejorando eficiencia y regularización en redes neuronales convolucionales: estrategias para dropout optimizado
Categoría
Ingeniería y Tecnología
Subcategoría
Inteligencia Artificial
Palabras clave
Redes neuronales convolucionales
Sobreajuste
Eliminación
Regularización
PFID
Aprendizaje profundo
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 24
Citaciones: Sin citaciones
Las Redes Neuronales Convolucionales (CNNs), si bien son efectivas en tareas como la clasificación de imágenes y el procesamiento del lenguaje, a menudo experimentan sobreajuste y entrenamiento ineficiente debido a técnicas de regularización estáticas y agnósticas a la estructura como el dropout tradicional. Este estudio tiene como objetivo abordar estas limitaciones proponiendo una estrategia de dropout más dinámica y sensible al contexto. Presentamos (PFID), un nuevo método de regularización que asigna tasas de dropout basadas en la importancia probabilística de las características individuales. PFID se integra con estrategias de dropout adaptativas, estructuradas y contextuales, formando un marco unificado para la regularización inteligente. La evaluación experimental en conjuntos de datos de referencia estándar, incluidos CIFAR-10, MNIST y Fashion MNIST, demostró que PFID mejora significativamente métricas de rendimiento como la precisión de clasificación, la pérdida de entrenamiento y la eficiencia computacional en comparación con los métodos de dropout convencionales. PFID ofrece una solución práctica y escalable para mejorar la generalización y eficiencia de entrenamiento de CNN. Su naturaleza dinámica y diseño consciente de las características proporcionan una base sólida para futuros avances en la regularización adaptativa para modelos de aprendizaje profundo.
Descripción
Las Redes Neuronales Convolucionales (CNNs), si bien son efectivas en tareas como la clasificación de imágenes y el procesamiento del lenguaje, a menudo experimentan sobreajuste y entrenamiento ineficiente debido a técnicas de regularización estáticas y agnósticas a la estructura como el dropout tradicional. Este estudio tiene como objetivo abordar estas limitaciones proponiendo una estrategia de dropout más dinámica y sensible al contexto. Presentamos (PFID), un nuevo método de regularización que asigna tasas de dropout basadas en la importancia probabilística de las características individuales. PFID se integra con estrategias de dropout adaptativas, estructuradas y contextuales, formando un marco unificado para la regularización inteligente. La evaluación experimental en conjuntos de datos de referencia estándar, incluidos CIFAR-10, MNIST y Fashion MNIST, demostró que PFID mejora significativamente métricas de rendimiento como la precisión de clasificación, la pérdida de entrenamiento y la eficiencia computacional en comparación con los métodos de dropout convencionales. PFID ofrece una solución práctica y escalable para mejorar la generalización y eficiencia de entrenamiento de CNN. Su naturaleza dinámica y diseño consciente de las características proporcionan una base sólida para futuros avances en la regularización adaptativa para modelos de aprendizaje profundo.