Revisión de la literatura sobre la compresión de redes profundas
Autores: Alqahtani, Ali; Xie, Xianghua; Jones, Mark W.
Idioma: Inglés
Editor: MDPI
Año: 2021
Acceso abierto
Artículo científico
2021
Revisión de la literatura sobre la compresión de redes profundas
Categoría
Gestión y administración
Subcategoría
Gestión de la tecnología y la inovación
Palabras clave
Redes profundas
Parámetros
Redundancia
Complejidad
Compresión
Aceleración
Licencia
CC BY-SA – Atribución – Compartir Igual
Consultas: 1
Citaciones: Sin citaciones
Las redes profundas a menudo poseen un gran número de parámetros, y su significativa redundancia en la parametrización se ha convertido en una propiedad ampliamente reconocida. Esto presenta desafíos significativos y restringe muchas aplicaciones de aprendizaje profundo, lo que hace que el enfoque esté en reducir la complejidad de los modelos mientras se mantiene su potente rendimiento. En este artículo, presentamos una visión general de los métodos populares y revisamos trabajos recientes sobre la compresión y aceleración de redes neuronales profundas. Consideramos no solo métodos de poda, sino también métodos de cuantización y métodos de factorización de bajo rango. Esta revisión también tiene la intención de aclarar estos conceptos principales y resaltar sus características, ventajas y desventajas.
Descripción
Las redes profundas a menudo poseen un gran número de parámetros, y su significativa redundancia en la parametrización se ha convertido en una propiedad ampliamente reconocida. Esto presenta desafíos significativos y restringe muchas aplicaciones de aprendizaje profundo, lo que hace que el enfoque esté en reducir la complejidad de los modelos mientras se mantiene su potente rendimiento. En este artículo, presentamos una visión general de los métodos populares y revisamos trabajos recientes sobre la compresión y aceleración de redes neuronales profundas. Consideramos no solo métodos de poda, sino también métodos de cuantización y métodos de factorización de bajo rango. Esta revisión también tiene la intención de aclarar estos conceptos principales y resaltar sus características, ventajas y desventajas.