logo móvil
Contáctanos

Compresión de red por capas utilizando un modelo de mezcla gaussiana

Autores: Lee, Eunho; Hwang, Youngbae

Idioma: Inglés

Editor: MDPI

Año: 2021

Descargar PDF

Acceso abierto

Artículo científico
2021

Compresión de red por capas utilizando un modelo de mezcla gaussiana


Categoría

Ingeniería y Tecnología

Subcategoría

Ingeniería Eléctrica y Electrónica

Palabras clave

Gran cantidad
Aprendizaje profundo
Poda de red
Parámetros
Tasa de compresión
Distribución de pesos

Licencia

CC BY-SA – Atribución – Compartir Igual

Consultas: 27

Citaciones: Sin citaciones


Descripción
Debido al gran número de parámetros y a la intensa computación, la operación en tiempo real del aprendizaje profundo en placas integradas de bajo rendimiento sigue siendo difícil. La poda de redes es uno de los métodos efectivos para reducir el número de parámetros sin modificar la estructura de la red adicionalmente. Sin embargo, el método convencional poda parámetros redundantes hasta la misma tasa para todas las capas. Esto puede causar un problema de cuello de botella, lo que conduce a la degradación del rendimiento, ya que el número mínimo de parámetros óptimos es diferente según cada capa. Proponemos un método de poda adaptativa por capa basado en la modelización de la distribución de pesos. Podemos medir la cantidad de pesos cercanos a cero con precisión aplicando el Modelo de Mezcla Gaussiana (GMM). Hasta que se alcance la tasa de compresión objetivo, la selección y poda de capas se realizan de forma iterativa. La selección de capas en cada iteración considera el tiempo para alcanzar la tasa de compresión objetivo y el grado de poda de pesos. Aplicamos el método propuesto de compresión de redes para clasificación de imágenes y segmentación semántica para mostrar la efectividad del método propuesto. En los experimentos, el método propuesto muestra una tasa de compresión más alta al mismo tiempo que mantiene la precisión en comparación con los métodos anteriores.

Otros recursos que podrían interesarte

Temas Virtualpro