Óptima red CNN-Hopfield para reconocimiento de patrones basada en un algoritmo genético
Autores: Keddous, Fekhr Eddine; Nakib, Amir
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Óptima red CNN-Hopfield para reconocimiento de patrones basada en un algoritmo genético
Categoría
Ingeniería y Tecnología
Subcategoría
Ingeniería de Software
Palabras clave
Redes neuronales convolucionales
Extracción de características
Capa totalmente conectada
Red neuronal de Hopfield
Problema de la mochila
Algoritmo genético
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 25
Citaciones: Sin citaciones
Las redes neuronales convolucionales (CNNs) tienen potentes capacidades de aprendizaje de representación al aprender y extraer automáticamente características directamente de las entradas. En aplicaciones de clasificación, los modelos de CNN suelen estar compuestos por: capas convolucionales, capas de agrupación y capa(s) completamente conectada(s). En una red neuronal profunda basada en cadenas, las capas completamente conectadas contienen la mayoría de los parámetros de la red, lo que afecta la ocupación de memoria y la complejidad computacional. Para muchos problemas del mundo real, acelerar el tiempo de inferencia es un asunto importante debido a las implicaciones de diseño de hardware. Para abordar este problema, proponemos reemplazar las capas completamente conectadas con una red neuronal de Hopfield (HNN). La arquitectura propuesta combina tanto una CNN como un HNN: se utiliza un modelo de CNN preentrenado para la extracción de características, seguido de un HNN, que se considera como una memoria asociativa que guarda todas las características creadas por la CNN. Luego, para hacer frente a la limitación de la capacidad de almacenamiento del HNN, el trabajo propuesto utiliza múltiples HNNs. Para optimizar este paso, se propone la formulación del problema de la mochila, y se utiliza un algoritmo genético (GA) para resolverlo. Según los resultados obtenidos en el conjunto de datos Noisy MNIST, nuestro trabajo superó a los algoritmos de vanguardia.
Descripción
Las redes neuronales convolucionales (CNNs) tienen potentes capacidades de aprendizaje de representación al aprender y extraer automáticamente características directamente de las entradas. En aplicaciones de clasificación, los modelos de CNN suelen estar compuestos por: capas convolucionales, capas de agrupación y capa(s) completamente conectada(s). En una red neuronal profunda basada en cadenas, las capas completamente conectadas contienen la mayoría de los parámetros de la red, lo que afecta la ocupación de memoria y la complejidad computacional. Para muchos problemas del mundo real, acelerar el tiempo de inferencia es un asunto importante debido a las implicaciones de diseño de hardware. Para abordar este problema, proponemos reemplazar las capas completamente conectadas con una red neuronal de Hopfield (HNN). La arquitectura propuesta combina tanto una CNN como un HNN: se utiliza un modelo de CNN preentrenado para la extracción de características, seguido de un HNN, que se considera como una memoria asociativa que guarda todas las características creadas por la CNN. Luego, para hacer frente a la limitación de la capacidad de almacenamiento del HNN, el trabajo propuesto utiliza múltiples HNNs. Para optimizar este paso, se propone la formulación del problema de la mochila, y se utiliza un algoritmo genético (GA) para resolverlo. Según los resultados obtenidos en el conjunto de datos Noisy MNIST, nuestro trabajo superó a los algoritmos de vanguardia.