logo móvil
Contáctanos

Un algoritmo de poda de fusión novedoso basado en estratificación de entropía de información y aplicación de IoT

Autores: Zhao, Ming; Hu, Min; Li, Meng; Peng, Sheng-Lung; Tan, Junbo

Idioma: Inglés

Editor: MDPI

Año: 2022

Descargar PDF

Acceso abierto

Artículo científico
2022

Un algoritmo de poda de fusión novedoso basado en estratificación de entropía de información y aplicación de IoT


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Modelo de red neuronal
Algoritmo de poda de fusión
Estratificación de entropía de información
Agrupamiento de Propagación de Afinidad
Normalización por lotes
Precisión de red

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 21

Citaciones: Sin citaciones


Descripción
Para reducir aún más el tamaño del modelo de red neuronal y permitir que la red se implemente en dispositivos móviles, en este documento se propone un novedoso algoritmo de poda de fusión basado en estratificación de entropía de información. En primer lugar, el método encuentra filtros similares y elimina partes redundantes mediante Clustering de Propagación de Afinidad, luego poda aún más los canales utilizando estratificación de entropía de información y el factor de escala de la capa de normalización por lotes (BN), y finalmente restaura la precisión del entrenamiento mediante ajuste fino para lograr un tamaño de modelo de red reducido sin perder precisión de red. Se realizan experimentos en la red vgg16 y Resnet56 utilizando el conjunto de datos cifar10. En vgg16, los resultados muestran que, en comparación con el modelo original, la cantidad paramétrica del algoritmo propuesto en este documento se reduce en un 90.69% y la computación se reduce al 24.46% de la original. En ResNet56, logramos una reducción de FLOPs del 63.82% al eliminar el 63.53% de los parámetros. La ocupación de memoria y la velocidad de computación del nuevo modelo son mejores que el modelo base manteniendo una alta precisión de red. En comparación con algoritmos similares, el algoritmo tiene ventajas evidentes en las dimensiones de velocidad computacional y tamaño del modelo. El modelo podado también se implementa en Internet de las cosas (IoT) como un sistema de detección de objetivos. Además, los experimentos muestran que el modelo propuesto es capaz de detectar objetivos con precisión en poco tiempo de razonamiento y memoria. Solo toma 252.84 ms en dispositivos integrados, coincidiendo así con los recursos limitados de IoT.

Otros recursos que podrían interesarte

Temas Virtualpro