Evolucionando conjuntos de arquitecturas de bloques densos profundos para clasificación de imágenes
Autores: Fielding, Ben; Zhang, Li
Idioma: Inglés
Editor: MDPI
Año: 2020
Acceso abierto
Artículo científico
2020
Evolucionando conjuntos de arquitecturas de bloques densos profundos para clasificación de imágenes
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería Eléctrica y Electrónica
Palabras clave
Automático
Generación de arquitectura profunda
Bloque denso
Conjunto
Optimizado por enjambre
Cnn
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 49
Citaciones: Sin citaciones
La generación automática de arquitecturas profundas es una tarea desafiante, debido al gran número de parámetros de control inherentes en la construcción de redes profundas. La combinación de estos parámetros lleva a la creación de espacios de búsqueda grandes y complejos que son prácticamente imposibles de navegar adecuadamente sin una gran cantidad de recursos para la paralelización. Para hacer frente a tales desafíos, en esta investigación proponemos un método de Ensamble de Arquitectura Swarm Optimised DenseBlock (SODBAE), un proceso conjunto de optimización y entrenamiento que explora un espacio de búsqueda restringido sobre una arquitectura de Red Neuronal Convolucional (CNN) esquelética DenseBlock. Específicamente, empleamos mecanismos novedosos de aprendizaje de herencia de pesos, una arquitectura esquelética DenseBlock, así como una Optimización de Enjambre de Partículas (PSO) adaptativa con coeficientes de búsqueda coseno para diseñar redes manteniendo costos computacionales prácticos. Además, el diseño de la arquitectura aprovecha los recientes avances de los conceptos de conexiones residuales y conectividad densa, para producir modelos de CNN con una variedad mucho más amplia de variaciones estructurales. Los esquemas de aprendizaje de herencia de pesos propuestos realizan una optimización conjunta y entrenamiento de las arquitecturas para reducir los costos computacionales. Al ser evaluado utilizando el conjunto de datos CIFAR-10, el modelo propuesto muestra una gran superioridad en el rendimiento de clasificación sobre otros métodos de vanguardia, al tiempo que ilustra una mayor versatilidad en la generación de arquitecturas.
Descripción
La generación automática de arquitecturas profundas es una tarea desafiante, debido al gran número de parámetros de control inherentes en la construcción de redes profundas. La combinación de estos parámetros lleva a la creación de espacios de búsqueda grandes y complejos que son prácticamente imposibles de navegar adecuadamente sin una gran cantidad de recursos para la paralelización. Para hacer frente a tales desafíos, en esta investigación proponemos un método de Ensamble de Arquitectura Swarm Optimised DenseBlock (SODBAE), un proceso conjunto de optimización y entrenamiento que explora un espacio de búsqueda restringido sobre una arquitectura de Red Neuronal Convolucional (CNN) esquelética DenseBlock. Específicamente, empleamos mecanismos novedosos de aprendizaje de herencia de pesos, una arquitectura esquelética DenseBlock, así como una Optimización de Enjambre de Partículas (PSO) adaptativa con coeficientes de búsqueda coseno para diseñar redes manteniendo costos computacionales prácticos. Además, el diseño de la arquitectura aprovecha los recientes avances de los conceptos de conexiones residuales y conectividad densa, para producir modelos de CNN con una variedad mucho más amplia de variaciones estructurales. Los esquemas de aprendizaje de herencia de pesos propuestos realizan una optimización conjunta y entrenamiento de las arquitecturas para reducir los costos computacionales. Al ser evaluado utilizando el conjunto de datos CIFAR-10, el modelo propuesto muestra una gran superioridad en el rendimiento de clasificación sobre otros métodos de vanguardia, al tiempo que ilustra una mayor versatilidad en la generación de arquitecturas.