Optimización de redes neuronales profundas utilizando un algoritmo genético micro
Autores: Landa, Ricardo; Tovias-Alanis, David; Toscano, Gregorio
Idioma: Inglés
Editor: MDPI
Año: 2024
Acceso abierto
Artículo científico
2024
Optimización de redes neuronales profundas utilizando un algoritmo genético micro
Categoría
Ingeniería y Tecnología
Subcategoría
Inteligencia Artificial
Palabras clave
Algoritmo genético micro
Capas totalmente conectadas
Redes neuronales convolucionales
Complejidad del modelo
Aprendizaje de transferencia
Selección de características
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 38
Citaciones: Sin citaciones
Este trabajo propone el uso de un micro algoritmo genético para optimizar la arquitectura de capas totalmente conectadas en redes neuronales convolucionales, con el objetivo de reducir la complejidad del modelo sin sacrificar el rendimiento. Nuestro enfoque aplica el paradigma de aprendizaje por transferencia, lo que permite el entrenamiento sin la necesidad de conjuntos de datos extensos. Un micro algoritmo genético requiere menos recursos computacionales debido a su tamaño de población reducido, al tiempo que conserva un grado sustancial de las capacidades de búsqueda que se encuentran en algoritmos con poblaciones más grandes. Al explorar diferentes representaciones y funciones objetivo, incluida la precisión de clasificación, la proporción de neuronas ocultas, la redundancia mínima y la relevancia máxima para la selección de características, se desarrollaron ocho variantes algorítmicas, con seis variantes realizando tareas de reducción de capas ocultas y selección de características. Los resultados experimentales indican que el algoritmo propuesto reduce de manera efectiva la arquitectura de las capas totalmente conectadas en la red neuronal convolucional. La variante que logró la mejor reducción utilizó solo el 44% de las características convolucionales en la capa de entrada y solo el 9,7% de las neuronas en las capas ocultas, sin impactar negativamente (confirmado estadísticamente) la precisión de clasificación en comparación con un modelo de red basado en una arquitectura de referencia completa y un método representativo de la literatura.
Descripción
Este trabajo propone el uso de un micro algoritmo genético para optimizar la arquitectura de capas totalmente conectadas en redes neuronales convolucionales, con el objetivo de reducir la complejidad del modelo sin sacrificar el rendimiento. Nuestro enfoque aplica el paradigma de aprendizaje por transferencia, lo que permite el entrenamiento sin la necesidad de conjuntos de datos extensos. Un micro algoritmo genético requiere menos recursos computacionales debido a su tamaño de población reducido, al tiempo que conserva un grado sustancial de las capacidades de búsqueda que se encuentran en algoritmos con poblaciones más grandes. Al explorar diferentes representaciones y funciones objetivo, incluida la precisión de clasificación, la proporción de neuronas ocultas, la redundancia mínima y la relevancia máxima para la selección de características, se desarrollaron ocho variantes algorítmicas, con seis variantes realizando tareas de reducción de capas ocultas y selección de características. Los resultados experimentales indican que el algoritmo propuesto reduce de manera efectiva la arquitectura de las capas totalmente conectadas en la red neuronal convolucional. La variante que logró la mejor reducción utilizó solo el 44% de las características convolucionales en la capa de entrada y solo el 9,7% de las neuronas en las capas ocultas, sin impactar negativamente (confirmado estadísticamente) la precisión de clasificación en comparación con un modelo de red basado en una arquitectura de referencia completa y un método representativo de la literatura.